Kradli AI, by dogonić Zachód. Przypadkiem oddali Amerykanom państwowe i wojskowe tajemnice

Najnowszy wrześniowy raport Anthropic dotyczący niewłaściwego użycia ich modeli AI to istna kopalnia historii, których nie powstydził by się sam Tom Clancy, różnica jest taka, iż to wydarzyło się naprawdę.

Wyścig zbrojeń w sztucznej inteligencji bywa brutalny, ale rzadko bywa aż tak komiczny. Chińskie firmy technologiczne, chcąc tanim kosztem dogonić amerykańskie modele, po cichu przekierowywały zapytania swoich użytkowników do serwerów firmy Anthropic. Efekt? Niczego nieświadomi (?) inżynierowie wojskowi, policjanci i pracownicy chińskiego i rosyjskiego rządu dobrowolnie wysłali do Kalifornii np. nagrania z tajnego monitoringu i aktywne hasła do państwowych baz danych.

Chiński startup kradnie, chińska armia płaci za błędy

Firma Moonshot AI, twórca modelu Kimi, zamiast przetwarzać pytania klientów u siebie, wysyłała je bezpośrednio do modelu Claude. Chodziło o tzw. nielegalną destylację – kradzież sposobu rozumowania amerykańskiego algorytmu, by wytrenować na nim własny produkt. Użytkownicy Kimi byli jednak święcie przekonani, iż korzystają z bezpiecznego (ich zdaniem), w stu procentach chińskiego oprogramowania. Nie wiedzieli nic o przekierowaniu.

W ten sposób pewien użytkownik powiązany z chińską armią (PLA) poprosił sztuczną inteligencję o analizę nagrań z monitoringu CCTV w Chengdu pod kątem nietypowych zachowań śledzonej osoby. System otrzymał dane z setek kamer, w tym tych umieszczonych przed obiektami wojskowymi i instytutami państwowymi. Z kolei inżynier dużej państwowej spółki wkleił do chata wewnętrzny kod i aktywne dane logowania wielu kluczowych chińskich firm technologicznych.

Hasła do rosyjskiego wojska na amerykańskim serwerze

Identyczną taktykę zastosował inny gigant, DeepSeek. Przekierowując zapytania do Claude’a w celu zbierania danych treningowych, firma nieświadomie wystawiła na tacy tajemnice swoich własnych obywateli i geopolitycznych sojuszników. Złapany w tę pułapkę informatyk, pracujący z danymi rosyjskiej agencji rządowej powiązanej z Ministerstwem Obrony Federacji Rosyjskiej, wkleił do rzekomo chińskiego czata… aktywne hasła do rosyjskiej rządowej bazy danych. Oczami wyobraźni widzę już jak w Langley (CIA) i Fort Meade (NSA) otwierają szampana.

Na tym nie koniec wizerunkowych katastrof. Pracownicy chińskiej firmy technologicznej użyli chata do analizy pełnej specyfikacji, struktury organizacyjnej i strategicznych celów flagowego programu sztucznej inteligencji. Co gorsza, chińscy inżynierowie budujący system zarządzania sprawami dla lokalnego Biura Bezpieczeństwa Publicznego użyli DeepSeeka do stworzenia narzędzia śledzącego obywateli po numerach dowodów tożsamości. Cała architektura inwigilacyjna trafiła prosto do logów amerykańskiej korporacji.

Raport Anthropic obnaża gigantyczny paradoks współczesnego wyścigu technologicznego. Autorytarne reżimy pompują miliardy w budowę „suwerennej” sztucznej inteligencji, podczas gdy ich własne korporacje – z czystego pragmatyzmu i chęci zysku – idą na skróty, kradnąc zachodnie technologie, by uzyskać lepsze wyniki (wspomniane trenowanie destylacyjne oparte na wynikach konkurencyjnego modelu AI). W efekcie, zamiast chronić krajowe sekrety, stworzyły najdoskonalszy na świecie, darmowy odkurzacz wywiadowczy pracujący prosto do amerykańskiej chmury. o ile chcecie sami poczytać raport, odsyłam do zasobu Anthropic.

Chmurowe AI to odkurzacz na tajemnice. Samsung ucieka z Doliny Krzemowej i zamyka Mistrala w piwnicy

Jeśli artykuł Kradli AI, by dogonić Zachód. Przypadkiem oddali Amerykanom państwowe i wojskowe tajemnice nie wygląda prawidłowo w Twoim czytniku RSS, to zobacz go na iMagazine.