Anthropic opublikowało raport, w którym chwali się zablokowaniem zagranicznych badaczy powiązanych z wojskiem, używających modelu Claude do prac nad groźnym wirusem.
Historia brzmi jak gotowy wstęp do filmu o globalnej pandemii, ale najciekawszy jest w niej zupełnie inny wątek. Okazuje się, iż w pogoni za inteligentnymi asystentami stworzyliśmy system, który działa jak globalny sensor wywiadowczy. AI patrzy dziś w logi laboratoriów na całym świecie, a naukowcy sami zdradzają maszynom swoje największe tajemnice.
Zacieranie granicy między szczepionką a bronią
Incydent, o którym informuje Anthropic, nie polegał na tym, iż zagraniczny naukowiec poprosił sztuczną inteligencję o przeredagowanie prostego wniosku o dotację. Raport nie pozostawia złudzeń: Claude pomagał mu w przygotowaniu również innych etapów projektu badawczego. Model generował hipotezy, projektował eksperymenty typu gain-of-function (wzmacnianie wirusa chikungunya), wybierał warianty o większej zjadliwości, określał dawkowanie, statystykę, a choćby strategie awaryjne.
Co w tym przerażającego? Wcale nie to, iż maszyna zaprojektowała potencjalną broń biologiczną (z naciskiem na „potencjalną”). Największym problemem – do którego Anthropic samo się przyznaje – jest to, iż dzisiaj nie da się ze stuprocentową pewnością odróżnić intencji badacza. Biologia to nauka podwójnego zastosowania. Zestaw tych samych instrukcji i modyfikacji genetycznych może posłużyć do wyprzedzającego stworzenia ratującej życie szczepionki, jak i do budowy wyrafinowanej broni biologicznej.
Przypadkowy honeypot i koniec tradycyjnych szpiegów
I tu dochodzimy do najciekawszego punktu. Modele sztucznej inteligencji, reklamowane jako uniwersalne narzędzia dla naukowców, stały się gigantycznym lepem na informacje. Badacze – w tym ci powiązani z wojskiem, którzy omijają blokady regionalne dzięki pośredników i VPN-ów – by ułatwić sobie pracę, dobrowolnie wprowadzają do modeli językowych założenia swoich najtajniejszych eksperymentów.
Historycznie śledzenie tego typu działalności wymagało ogromnych nakładów. Trzeba było wysyłać w teren oficerów wywiadu, polegać na inspektorach ONZ, analizować odzyskany sprzęt czy szukać luk w publikacjach naukowych. Dziś Anthropic widzi to wszystko w logach swoich serwerów. Analizując wzorce użycia i powiązane konta, korporacja może monitorować działalność, która wcześniej była zarezerwowana wyłącznie dla służb wywiadowczych najpotężniejszych państw.
Chmurowe AI to odkurzacz na tajemnice. Samsung ucieka z Doliny Krzemowej i zamyka Mistrala w piwnicy
Nie musimy dopisywać do tego cynicznych, marketingowych teorii. Fakty bronią się same. Najnowsze modele językowe osiągnęły próg, w którym realnie pomagają w skomplikowanej inżynierii biologicznej. Ale ich najciekawszą funkcją nie jest to, iż wymyślają nową naukę, tylko to, iż bezszelestnie patrzą obcym mocarstwom na ręce. Zbudowaliśmy AI dla naukowców, a otrzymaliśmy system, w którym wojskowi eksperci sami podają Amerykanom na tacy to, nad czym aktualnie pracują.
Jeśli artykuł Dolina Krzemowa zagląda w mikroskopy. Jak AI stało się największym radarem wywiadowczym nie wygląda prawidłowo w Twoim czytniku RSS, to zobacz go na iMagazine.
