Matthias Bastian w The Decoder opisał wyciek danych z Anthropic, który nieumyślnie ujawnił szczegóły dotyczące niewydanego modelu AI. Oto, co zwróciło moją uwagę.
Przypadkowe ogłoszenie produktu
Źle skonfigurowany CMS w Anthropic przypadkowo upublicznił wewnętrzne dokumenty — w tym odniesienia do nowego modelu stojącego powyżej obecnego poziomu Opus. Anthropic potwierdził jego istnienie magazynowi Fortune.
To, co mnie interesuje, to nie specyfikacja modelu. To strategia wdrożenia.
Strategia wdrożenia to prawdziwa historia
Anthropic podobno przyjmuje celowo powolne, etapowe podejście. Model najwyraźniej wyróżnia się w zakresie cyberbezpieczeństwa, co czyni go zarówno atutem sprzedażowym, jak i potencjalnym ryzykiem. Nie wręczasz najzdolniejszego ofensywnego narzędzia bezpieczeństwa na rynku wszystkim pierwszego dnia.
Wczesny dostęp trafia najpierw do badaczy bezpieczeństwa, a szerszy dostęp przyjdzie później. W połączeniu z tym, że system jest kosztowny obliczeniowo, selektywny dostęp ma sens na wielu poziomach — bezpieczeństwa, wydajności i odpowiedzialnego wdrażania.
To wzorzec, który szanuję. W ciągu trzech dekad dostarczania oprogramowania nauczyłem się, że najtrudniejszą częścią potężnego narzędzia nie jest jego zbudowanie — to decyzja, kto je dostanie i kiedy.
Ironia nie umyka mojej uwadze
Sam wyciek nie był wyrafinowanym atakiem. To była błędna konfiguracja uprawnień CMS — rodzaj problemu, który widziałem setki razy w swojej karierze. Firma budująca model o wyższych zdolnościach w zakresie cyberbezpieczeństwa, pokonana przez najbardziej podstawowe przeoczenie IT.
Największe zagrożenia bezpieczeństwa rzadko są techniczne. Są ludzkie i organizacyjne. Ta lekcja jest tak stara jak informatyka i najwyraźniej nadal wymaga powtarzania.
Podsumowanie
Nowa generacja modeli AI nadchodzi szybko. Jeśli już teraz budujesz przepływy pracy wokół asystentów AI, dobrze się pozycjonujesz. Tymczasem nawet najbardziej zaawansowane firmy AI nadal potykają się o źle skonfigurowane uprawnienia. Niektóre lekcje nigdy się nie starzeją.