Matematycy przestrzegają przed AI

Kto się boi AI? Odpowiedź na to pytanie jest nieoczywista. Każdy, kto wie, czym jest i co potrafi AI, powinien się jej obawiać. Dziś śmiało możemy powiedzieć, że brak strachu może wynikać jedynie z ignorancji. Nie tyle jednak boimy się samej AI, ale wielkich korporacji, które mają do niej dostęp i ludzi, w rękach których AI staje się potężnym narzędziem zniszczenia. 

Do szerokiego grona osób, którzy przystąpili do „ruchu przerażonych” dołączyła silna grupa matematyków. I to powinno zaświecić nam lampkę zwiększającego się poziomu niepokoju. AI jest matematyką. Jeśli ta grupa naukowców wyraża swoje zaniepokojenie, to znaczy, że istnieje jeszcze więcej powodów do obaw. 

Podpisana przez nich „Deklaracja z Lejdy” jest silnym apelem do środowiska i do cywilizacji. Jej pierwsza część pokazuje wartości matematyki:

1. Istnieje wiele powodów, dla których warto kontynuować badania matematyczne, począwszy od ciekawości intelektualnej po chęć rozwiązywania problemów praktycznych i społecznych. 
2. Wyniki można przypisać konkretnym autorom, którzy uznają ich odkrycie i biorą na siebie odpowiedzialność za ich poprawność. 
3. Argumenty matematyczne uznawane są za przejrzyste i podlegające niezależnej weryfikacji. Mogą być niezwykle długie lub trudne, ale w zasadzie do ich zrozumienia nie powinna być wymagana żadna zastrzeżona wiedza ani sprzęt.
4. Matematyków łączy troska o właściwą ocenę pracy matematycznej w odniesieniu do wspólnych standardów, trudności i znaczenia.
5. Matematyka daje nie tylko zbiór wyników, ale także zrozumienie, jasność i osąd wśród społeczności matematyków, którzy je ukształtowali, często w kontekście ich własnych, autonomicznie prowadzonych badań. 

W drugiej części wskazane są zagrożenia. Wyzwania pojawiają się w momencie, gdy szeroko dyskutuje się o konsekwencjach inwestycji na dużą skalę w sztuczną inteligencję w dziedzinach prowadzących do działań wojennych, masowej inwigilacji i walki politycznej. Budzą one poważne obawy etyczne. Nie podejmując działań, ryzykujemy współudział we wspieraniu technologii, które zagrażają naszej cywilizacji.

1. Obecne zautomatyzowane techniki mogą generować możliwe do przyjęcia, ale nierzetelne (lub nawet nieprawidłowe) argumenty, które są trudne do odróżnienia od prawidłowych dowodów matematycznych. 
2. Technologie czerpiące w dużym stopniu z opublikowanych matematycznych dóbr wspólnych podważają tradycyjny system atrybucji. Modele przeszkolone na podstawie opublikowanych prac często zwracają wyniki, które nie cytują właściwie syntetyzowanych przez siebie dzieł ludzkich. 
3. Technologie wpływające na sposób uprawiania matematyki mogą zakłócać obecny system zachęt. Wykorzystanie sztucznej inteligencji może zakłócać mechanizmy zatrudniania, finansowania i uznania. Jest to niekorzystne dla badaczy, którzy nie mają dostępu do technologii lub związanych z nimi procesów decyzyjnych, lub którzy nie chcą korzystać z technologii kontrolowanych przez organizacje, których wartości nie podzielają.
4. Właściwa ocena jest zagrożona, jeśli wyniki są przekazywane kanałami nieformalnymi, takimi jak komunikaty prasowe lub wpisy na blogu, często bez żadnego artykułu badawczego lub innego ujawnienia informacji niezbędnych do oceny naukowej. W wielu przypadkach prowadzi to do uproszczeń w sprawozdawczości, takich jak nadmierne podkreślanie znaczenia zautomatyzowanych narzędzi i niedocenianie wcześniejszego wkładu ludzkiego, który umożliwił ich powstanie. Takie przesadne uproszczenie może wpłynąć na opinię publiczną w sposób, który szkodzi postrzeganiu matematyki.
5. Zmiany zagrażają autonomii matematyki. Rosnące zaangażowanie firm technologicznych w badania matematyczne stwarza ryzyko, że kwestie badawcze mogą zostać potraktowane priorytetowo ze względu na ich podatność na zautomatyzowaną matematykę, a nie ekspercką ocenę ich głębszego znaczenia. W efekcie szersze zrozumienie tej dziedziny może zostać trwale utracone w procesie automatyzacji. 

Publikację kończy zbiór rekomendacji dla matematyków, ale i dla polityków. Pokrywają się one z tym, co już wielokrotnie słyszeliśmy.

1. Chrońcie prawa autorów – wzmocnijcie ochronę prawną autorów.
2. Nie wierzcie w hype – istnieje silna zachęta ze strony branży technologicznej do zawyżania możliwości swoich produktów. Konsultuj się z ekspertami, w tym matematykami, przy podejmowaniu decyzji politycznych, zamiast polegać na komunikatach prasowych lub popularnych doniesieniach.
3. Regulujcie branżę sztucznej inteligencji – wzywamy do znacznego zwiększenia nadzoru publicznego.
4. Inwestujcie w publiczną infrastrukturę obliczeniową – istnieje potrzeba publicznych alternatyw dla zastrzeżonych technologii. Wspieramy finansowanie infrastruktury publicznej na poziomie uniwersyteckim, krajowym i międzynarodowym.

AI jest zagrożeniem dla miejsc pracy, dla swobód obywatelskich, dla nauki i dla demokracji. Nie jest tak, że musimy ją dziś zamknąć, ale powinniśmy poważnie ją ograniczać.