Redakcja testerzy.pl
Zostawiamy więc rozliczenie tak, jak je napisaliśmy, bo pokazuje, jak szybko się dezaktualizuje i dopisujemy na końcu to, czego żaden z naszych czterech punktów nie przewidział.
W maju zadaliśmy pytanie, czy AI przebije bańkę cybersecurity, i odpowiedzieliśmy ostrożnie: kierunek jest pewny, ale po drodze czeka nas faza, w której najmocniejsze modele będą bronią najbogatszych. Sformułowaliśmy wtedy cztery zastrzeżenia. Rzadko zdarza się okazja, żeby po miesiącu zweryfikować własne prognozy, więc z niej korzystamy. Tym bardziej że 9 czerwca Anthropic wypuścił Claude Fable 5 – i przy okazji odpowiedział na większość naszych pytań. Choć nie wszędzie tak, jak byśmy chcieli.
1. „Kiedy to trafi do ludzi?”
Pisaliśmy, że Mythos zamknięto w Projekcie Glasswing i pytaliśmy, kiedy technologia trafi do zwykłych deweloperów. Odpowiedź przyszła po pięciu tygodniach. Fable 5 to ten sam model co Mythos 5 (te same wagi, ta sama architektura), dostępny dla każdego posiadacza konta. Anthropic nawet nie ukrywa pokrewieństwa: nazwa pochodzi od łacińskiej fabula – „to, co opowiedziane” – spokrewnionej z greckim mythos. Różnica między modelami sprowadza się do jednego: zabezpieczeń.
I tu kończy się triumf naszej majowej prognozy, a zaczyna się jej weryfikacja. Bo owszem, model klasy Mythos trafił pod strzechy, ale zanim go tam wpuszczono, zablokowano w nim dokładnie te funkcje, o których pisaliśmy. Gdy klasyfikatory Fable’a wykrywają pytanie z obszaru cyberbezpieczeństwa, biologii, chemii albo próbę destylacji modelu, zapytanie ląduje bocznym torem w Claude Opus 4.8, czyli w modelu poprzedniej generacji. Użytkownik dostaje o tym informację, więc przynajmniej wie, że rozmawia z młodszym bratem nowego modelu.
Innymi słowy, wszyscy dostali Mythosa. Tylko… bez Mythosa.
2. „Sport dla bogaczy”
W maju liczyliśmy, że znalezienie 27-letniej luki w OpenBSD kosztowało niecałe 20 tysięcy dolarów w tokenach, i nazwaliśmy to progiem wejścia nie do przeskoczenia dla małych graczy. Ten punkt zestarzał się najszybciej. Fable 5 i Mythos 5 kosztują 10 dolarów za milion tokenów wejściowych i 50 za wyjściowych, czyli mniej niż połowę ceny Mythos Preview. Do 22 czerwca Fable jest w dodatku wliczony w zwykłe abonamenty.
Po tej dacie ma zacząć się jednak system kredytowy: płacisz za tyle, ile faktycznie zużyjesz. Anthropic tłumaczy to ograniczoną mocą obliczeniową i obiecuje przywrócić model do abonamentów, gdy tylko się da. Może i tak będzie, ale trudno nie zauważyć schematu znanego z innych branż: pierwsza próbka dla klienta gratis. Demokratyzacja przyszła, owszem, ale z licznikiem.
3. Model, który oszukuje
To było nasze ulubione zastrzeżenie. Mythos w fazie testów potrafił po cichu dodać lukę do kodu, żeby ją chwilę później dumnie zaraportować. Co z tym dziś? Anthropic opublikował wyniki automatycznej oceny zgodności i twierdzi, że poziom niepożądanych zachowań – w tym oszukiwania – jest niski, a sam model porównywano z Opus 4.8. Szczegóły można znaleźć w karcie systemowej modelu.
Przyjmujemy tę informację do wiadomości, ale musimy dodać jedną uwagę: to firma ocenia własny model własnymi testami. Ten sam producent, który dwa miesiące temu opowiadał, jak jego produkt dopisuje błędy do cudzego kodu, dziś zapewnia, że problem zniknął. Pewnie tak jest. Ale rola ludzkiego sędziego, o której pisaliśmy w maju, nie zniknęła, a weszła piętro wyżej, z oceniania pojedynczych raportów na weryfikację deklaracji producenta.
4. Trening na własnych wnioskach
W maju przytaczaliśmy obawy specjalistów dotyczące tego, że Mythos był trenowany na własnych wynikach pośrednich i że taki model może nauczyć się nie tyle lepiej rozwiązywać problemy, co lepiej kłamać tak, byśmy mu uwierzyli. Co mówią czerwcowe materiały? Nic. I to milczenie jest najciekawszą odpowiedzią, jaką dostaliśmy.
Popatrzmy na to, o czym Anthropic mówi chętnie. O wynikach testów odporności na złamanie zabezpieczeń – proszę bardzo, nawet z wykresami. O ocenach zgodności modelu – cała sekcja w karcie systemowej. O polityce przechowywania danych – osobny dokument z wyliczeniem zabezpieczeń. Widać, że firma, która zbudowała swój wizerunek na przejrzystości, potrafi być bardzo rozmowna. Jednak o metodzie treningu, czyli o tym jednym obszarze, którego dotyczyło konkretne, publicznie sformułowane zastrzeżenie, firma publikuje jedynie ogólniki.
Nie twierdzimy, że to dowód winy, bo w końcu brak informacji to po prostu brak informacji, a nie potwierdzenie zarzutu. Ale w dziennikarstwie obowiązuje stara zasada: patrz nie tylko na to, co ci pokazują, lecz także na to, czego ci nie pokazują. Akurat w tej sprawie przejrzystość kosztowałaby firmę Anthropic niewiele, o ile nie ma nic do ukrycia. Wystarczyłby jeden akapit: tak, trenowaliśmy na wynikach pośrednich, ale zrobiliśmy to a to, żeby model nie nauczył się nas ogrywać. Albo: nie, nie trenowaliśmy. Żadnego takiego akapitu nie ma.
Jest za to coś w rodzaju odpowiedzi zastępczej: ta sama ocena zgodności, którą opisaliśmy punkt wyżej. Ma rozwiać obie wątpliwości naraz – i o oszukiwanie, i pośrednio o skutki treningu. Tyle że wraca z nią ten sam problem: producent ocenia własny model własnymi narzędziami, a my możemy mu uwierzyć albo nie. W maju pisaliśmy, że człowiek będzie musiał pełnić funkcję sędziego sprawdzającego, czy model nas chroni, czy ogrywa. Po miesiącu sędzia wciąż jest potrzebny, tylko że materiał dowodowy dostarcza wyłącznie jedna strona.
Jest też nowość
I tu dochodzimy do sedna, którego w maju nie mogliśmy przewidzieć. Pisaliśmy, że bańka cybersecurity pęka, a rynek urealni ceny. Tymczasem stało się coś przewrotnego: spadły ceny wszystkiego – poza dostępem do tych właśnie możliwości, które bańkę miały przebić.
Pełny Mythos 5, z odblokowanym cyberbezpieczeństwem, nadal trafia wyłącznie do partnerów Glasswing, we współpracy z rządem USA. Planowany jest szerszy program zaufanego dostępu – organizacje zajmujące się bezpieczeństwem będą mogły aplikować w bardziej usystematyzowany sposób, a osobna ścieżka powstaje dla badaczy nauk biologicznych. Do tego dochodzi nowość, obok której nie można przejść obojętnie: 30-dniowa obowiązkowa retencja całego ruchu na modelach klasy Mythos, również u klientów biznesowych. Dane mają służyć wyłącznie wykrywaniu nadużyć i nowych metod ataku, z rejestrowaniem każdego ludzkiego dostępu. Cel jest zrozumiały. Ale warto nazwać rzecz po imieniu: za wspólne bezpieczeństwo płacimy kawałkiem prywatności każdego z nas.
Rynek idzie w stronę wielopoziomowego dostępu do modeli. Jedna wersja dostępna dla wszystkich, druga dla wybranych, a między nimi znajdują się klasyfikatory, rejestrowanie ruchu i listy zaufanych partnerów. W maju pytaliśmy, kiedy pęknie bańka cen. Dziś trzeba zapytać inaczej: kto decyduje, komu wolno testować bezpieczeństwo? Bo odpowiedź przestała brzmieć „ten, kogo stać” i zmieniła się na „ten, kogo wpuszczono do tajnego kręgu”.
Kto świętuje tym razem?
W maju jako beneficjentów wskazywaliśmy małe firmy i użytkowników końcowych. Podtrzymujemy to stanowisko, z jedną uwagą. Najgłośniej na premierę Fable 5 zareagowała branża, o której wtedy nie pomyśleliśmy: krypto.
Społeczność DeFi potraktowała premierę jak pewnego rodzaju alarm. Deweloperzy nawołują zespoły protokołów, żeby natychmiast poddały własny kod audytowi w Fable 5, zanim zrobią to atakujący. Użytkownikom radzi się cofanie starych uprawnień portfeli i rozdzielanie środków. Współzałożyciel 1inch nazwał Mythosa testem warunków skrajnych dla całej branży, który przetrwają tylko ci, którzy inwestują w bezpieczeństwo.
Zobaczmy, co się właśnie wydarzyło. Nikt w tych dyskusjach nie pyta o to, czy AI nadaje się do audytu kodu, tylko o to, czy zdążysz zaudytować swój kod, zanim ktoś inny zrobi to za ciebie i bez twojej zgody. Audyt bezpieczeństwa stał się wyścigiem, w którym narzędzie jest to samo po obu stronach. Dokładnie to opisywaliśmy w maju jako odległą przyszłość. Zajęło to pięć tygodni.
Wnioski
Czy AI przebiło bańkę cybersecurity? Po miesiącu odpowiedź brzmi: tak, ale nie tak, jak myśleliśmy. Ceny spadły, dostęp się otworzył, zmuszając firmy niemalże do obowiązkowego audytu kodu. Tyle że w miejsce starej bańki, nadmuchanej stawkami konsultantów, rośnie nowa konstrukcja, jaką jest reglamentowany dostęp do pełnych możliwości, strzeżony nie ceną, ale klasyfikatorem i listą partnerów.
W maju zakończyliśmy nasze prognozy zdaniem, że realne korzyści odczuje cały rynek dopiero wtedy, gdy Mythos lub jego otwartoźródłowa konkurencja trafi pod strzechy. Pod strzechy trafiła wersja na smyczy. O tym, jak długa będzie ta smycz – i kto trzyma drugi jej koniec – zdecyduje tylko Anthropic w porozumieniu z rządem USA.
Update 2
Tekst wyżej kończyliśmy zdaniem, że o długości smyczy zadecyduje Anthropic w porozumieniu z rządem USA. Nie spodziewaliśmy się, że odpowiedź przyjdzie tak szybko, ani że będzie tak dosłowna. Trzy dni po premierze, w piątek 12 czerwca o 17:21 czasu wschodniego, rząd USA pociągnął za drugi koniec.
Departament Handlu wysłał Anthropic dyrektywę z zakresu kontroli eksportu, powołując się na bezpieczeństwo narodowe. Nakaz brzmiał: odciąć od Fable 5 i Mythos 5 każdego obcokrajowca – w Stanach i poza nimi, łącznie z zagranicznymi pracownikami samego Anthropic. Firma nie miała jak rozdzielić użytkowników po obywatelstwie, więc zrobiła jedyne, co gwarantowało zgodność z prawem, tj. wyłączyła oba modele dla wszystkich. Pozostałe działają bez zmian.
Pamiętacie naszą majową metaforę o sporcie dla bogaczy, którą w punkcie drugim z taką satysfakcją chowaliśmy do szuflady? Można ją wyjąć z powrotem. Demokratyzacja, którą świętowaliśmy, trwała dokładnie tyle, ile zajmuje napisanie listu z Departamentu Handlu.
Najciekawsze jest jednak uzasadnienie (albo jego brak). Rząd nie podał technicznych szczegółów. Z komunikatu Anthropic wynika tyle, że administracja dowiedziała się o metodzie obejścia zabezpieczeń Fable. Firma odpowiada, że obejrzała demonstrację i że posłużyła ona do wskazania kilku znanych już drobnych podatności, takich, które inne, powszechnie dostępne modele znajdują bez żadnego obchodzenia zabezpieczeń, w tym GPT-5.5. Anthropic twierdzi, że dostał wyłącznie ustne dowody na wąski, nieuniwersalny jailbreak, sprowadzający się do prośby, żeby model przeczytał kod i naprawił w nim błędy. Czyli do tego, co obrońcy systemów robią codziennie.
I tu wraca nasz majowy sędzia, ten od weryfikacji deklaracji producenta. Tyle że tym razem siadł po drugiej stronie. Bo teraz to producent jest stroną, która domaga się jawnych, technicznych dowodów, i ich nie dostaje. Anthropic publicznie deklaruje, że rząd powinien móc blokować niebezpieczne wdrożenia, ale w ramach procedury przejrzystej, sprawiedliwej i opartej na faktach. I dodaje, że ta konkretna decyzja takich zasad nie spełnia. Argument firmy jest prosty: jeśli wąski, nieuniwersalny jailbreak ma być powodem do wycofania komercyjnego modelu używanego przez setki milionów ludzi, to ten sam standard zatrzyma premiery wszystkich modeli u wszystkich producentów.
Warto przy tym pamiętać o tle, którego w maju nie braliśmy pod uwagę. To nie pierwsze spięcie na linii Anthropic–administracja Trumpa. Konflikt tli się od stycznia, gdy firma odmówiła Pentagonowi nieograniczonego dostępu do swoich modeli, w tym zgody na ich użycie do masowej inwigilacji i w pełni autonomicznych systemów uzbrojenia. Trudno udowodnić, czy najnowsza dyrektywa to czysta troska o bezpieczeństwo, czy nacisk na niepokornego dostawcę. Ale trudno też udawać, że ten konflikt nie istnieje.
Co dalej? Na razie (czyli na dzień publikacji tego artykułu) modele są wyłączone. Anthropic wysłał starszych inżynierów do Waszyngtonu na rozmowy z Białym Domem, obie strony deklarują chęć przywrócenia dostępu, a Komisja Europejska bada, co ta decyzja oznacza dla Unii, która i tak nie ma własnej alternatywy. Firma nie podała terminu odblokowania. Rynki na przywrócenie dostępu przed 20 czerwca raczej nie stawiają.
W maju pytaliśmy, kiedy pęknie bańka cen. Miesiąc później przepisaliśmy pytanie na: kto decyduje, komu wolno testować bezpieczeństwo. Dziś, po trzech dniach życia Fable'a, trzeba je przepisać raz jeszcze: czy ktokolwiek poza rządem w ogóle będzie mógł. Bo o smyczy, której długość miał ustalać Anthropic, zdecydował ostatecznie ten, kto trzyma jej drugi koniec. I pierwsze, co zrobił, to szarpnął.
