Redakcja testerzy.pl
Pisaliśmy już o tym, że AI Act zdejmuje z redakcji obowiązek oznaczania tekstu, jeśli przeszedł on przez ludzką kontrolę redakcyjną oraz o tym, że nadzór człowieka nad AI staje się nowym zadaniem testerskim. Do pełnego obrazu brakuje jeszcze jednej ważnej kwestii: obowiązek testowania dotyczy również samych dostawców AI i to nie deklaratywnie, lecz zgodnie ze ściśle opisaną procedurą. Praktyczne zastosowanie tych wymogów można było zobaczyć kilka dni temu na przykładzie Anthropic.
10 czerwca 2026 roku Komisja Europejska opublikowała finalny Kodeks postępowania w zakresie oznaczania i etykietowania treści generowanych z użyciem AI. Do końca lipca przystąpiło do niego około 190 organizacji, w tym Anthropic, Google, Meta, Microsoft, OpenAI i Mistral. Przyjęcie kodeksu nie jest prawnym obowiązkiem, ale pozwala sygnatariuszom udowodnić spełnienie art. 50 ust. 2, 4 i 5. Kodeks podzielono na dwie sekcje: pierwsza dotyczy dostawców systemów generatywnych, druga odnosi się do wydawców i innych podmiotów wdrażających (tzw. deployerów), takich jak redakcje.
Testowanie po stronie dostawców
Kwestie weryfikacji określa Środek 4.2 (Measure 4.2) pod nazwą „Testing, verification and monitoring”, wchodzący w skład Zobowiązania 4 (Commitment 4 – „Testing, Verification, and Compliance”) w Sekcji 1 kodeksu. Dostawcy mają obowiązek testować skuteczność technologii znakowania i detekcji, w tym znakowania wodnego (watermarking), metadanych i odcisków cyfrowych (fingerprinting) – tak przed premierą, jak i po niej w trybie ciągłym, na danych odzwierciedlających realne użytkowanie. Zgodnie z zapisami kodeksu testy odporności mogą obejmować ataki adwersarialne (ataki polegające na wprowadzaniu prawie niezauważalnych dla człowieka modyfikacji w danych wejściowych w celu oszukania modelu AI) przeprowadzane w ramach red teamingu oraz sprawdzanie rozwiązań w piaskownicach regulacyjnych przewidzianych w art. 57 AI Act.
Weryfikacja nie kończy się na pojedynczym teście. Dokument wymaga ciągłego śledzenia zgłoszonych lub wykrytych uchybień (substantiated compliance shortcomings) i wprowadzania poprawek. Same miary skuteczności (3.1), niezawodności (3.2), odporności (3.3) oraz interoperacyjności (3.4) technologii znakujących opierają się na wspólnej metodologii pomiaru określonej w Środku 4.2.
Przykład
Zasady te wdrożyła firma Anthropic, publikując 11 sierpnia 2026 raport ze spełnienia wymogów Sekcji 1. Modele z rodziny Claude wprowadzane na rynek ogólnoświatowy od 2 sierpnia 2026 roku, domyślnie znakują generowane treści dwutorowo. Stosują niewidoczny znak wodny wpleciony w sam tekst oraz podpisane cyfrowo informacje o pochodzeniu (zgodne ze standardem C2PA) dodawane do plików graficznych, takich jak SVG, PNG czy JPG. Znak wodny w tekście zachowuje jego sens, jakość i czytelność, przenosząc się wraz z nim przy kopiowaniu (choć późniejsza redakcja może go osłabić).
Widzimy tu różnicę między deklaracją a wdrożeniem wymogów określonych w Środku 4.2. Anthropic zapowiada udostępnienie mechanizmów detekcji użytkownikom i podmiotom trzecim, ale nie opublikował jeszcze specyfikacji technicznej. Dopóki nie zostanie ona opublikowana, weryfikacja skuteczności według Miar 3.1 i 3.2 leży w zawieszeniu. Podobnie wygląda kwestia modeli wdrożonych przed 2 sierpnia – przewidziano dla nich okres przejściowy, a znakowanie jest w nich dopiero dopracowywane.
Odpowiednik dla wydawców
Sekcja 2 kodeksu, adresowana do wydawców, ma swój odpowiednik w Środku 2.1 („Internal compliance process”). Wymaga on wdrażania i utrzymywania procesu weryfikacji poprawności i umiejscowienia oznaczeń, aby ograniczyć ryzyko wypuszczania treści nieoznaczonych lub oznaczonych niepoprawnie. To już obszar działania dla zespołów QA. Weryfikacja opiera się tu na wymogach zapisanych bezpośrednio w Środkach 1.1 i 1.2 kodeksu.
Oznaczenia i wymogi
Kodeks wprowadza trzy warianty oznaczenia: podstawowy „AI” oraz rozszerzone o napis „AI + GENERATED” (dla treści w pełni wygenerowanych) lub „AI + MODIFIED” (dla modyfikacji). Testy użyteczności wykazały, że warianty z opisem tekstowym są bardziej jednoznaczne i dostrzegalne niż czysty znak graficzny.
Środek 1.2 wykazuje bezpośrednio, co należy sprawdzić:
- czy ikona pojawia się od razu przy pierwszej ekspozycji,
- czy wyświetla się wystarczająco długo,
- czy wtopiono ją w samą treść, a nie tylko w nakładkę interfejsu (która znika po wykonaniu zrzutu ekranu lub ponownym udostępnieniu),
- czy spełnia kryteria WCAG: kontrast, teksty alternatywne, etykiety ARIA i obsługę przez technologie wspomagające.
Co zostaje niezweryfikowane
Środek 4.2 wymusza na dostawcach testy własnych mechanizmów, lecz pomija temat zewnętrznej kontroli wyników. Obiecane przez Anthropic narzędzia i specyfikacja jeszcze nie powstały. Na tym etapie można więc sprawdzić wyłącznie sam fakt działania znaku wodnego, a nie normy określone w Miarach 3.1–3.2. Kwestia niezależnego audytu zamiast samooceny producenta zostanie zapewne podjęta podczas pierwszej ewaluacji kodeksu przez Komisję Europejską i Europejską Radą ds. Sztucznej Inteligencji (AI Board).
Przed wydawcami stoi z kolei bardziej praktyczne pytanie: czy proces ze Środka 2.1 da się zweryfikować bez wglądu w wewnętrzną dokumentację dostawcy modelu?
