Na niewielkim podwórku starego domu kultury Christo westchnął ciężko. Właśnie skończył pakować do ciężarówki ostatnie kartony. W środku był ryż, makaron i ryba w puszkach dla uchodźców wojennych. „A, jeszcze wiadomość do mamy” – pomyślał. Wyjął telefon i gwałtownie napisał: „Cześć Mamo. Konwój jest gotowy. Niedługo ruszamy. Życz mi szczęścia :)”.
Setki kilometrów dalej na ekranie analityka wyświetlił się alert. Algorytmy nieustannie analizujące zdjęcia satelitarne już wcześniej oznaczyły stary budynek jako podejrzany. System przechwycił też wiadomość Christo i automatycznie ją przetłumaczył. Niewinne „niedługo ruszamy” zostało błędnie przetłumaczone jako „odpalenie”. Analityk nie znał miejscowego dialektu, a tłumacz był niedostępny. Wystarczyło to jedno, wyrwane z kontekstu słowo, by uruchomić procedurę alarmową.
Algorytmiczne szaleństwo
Algorytm prześwietlił cyfrowe życie Christo. Znalazł jego stare posty z mediów społecznościowych, które zaklasyfikował jako wyrazy poparcia dla wrogiej armii. Przeanalizował jego znajomych w sieci. Część z nich została niedawno zmobilizowana do wojska, więc system uznał to za dowód powiązań z wrogiem.
Kolejne informacje zasilały profil ryzyka. System zaklasyfikował Christo jako członka przeciwnej armii.
Operator miał tylko 3 minuty na weryfikację wszystkich danych, przeczytanie dziesiątek wpisów Christo w mediach społecznościowych, ocenę powiązań i zrozumienie niuansów w tłumaczeniu językowym.
Presja była przygniatająca. Kto zaryzykuje życie własnych żołnierzy, ignorując alarm o bezpośrednim zagrożeniu? Zjawisko znane jako automation bias, czyli ślepa wiara w nieomylność AI zadziałała. Operator kliknął: „Zatwierdź”. Ludzka kontrola nad systemem okazała się jedynie proceduralną fikcją.
Ostatnim aktem dramatu były drony, które nadleciały nad dom kultury. Kiedy znalazły się w strefie zakłóceń, przeszły w tryb autonomicznego naprowadzania. Cel został zniszczony…
Czy algorytmy powinny decydować o życiu i śmierci? My uważamy, iż NIE Marta Stępniak
Dzień po ataku w międzynarodowej prasie pojawiły się jednak informacje, które podważyły wojskową ocenę. Zginęło dziewięć osób. Błąd tłumaczenia, pochopna ocena powiązań w mediach społecznościowych, myląca interpretacja danych o lokalizacji i presja czasu. Każdy kolejny etap opierał się na ustaleniach poprzedniego.
Kaskada pomyłek doprowadziła do tragedii.
Tygodnik Spraw Obywatelskich
Od 2020 roku odkrywamy niewygodne prawdy i nagłaśniamy historie, które mają moc zmieniać Polskę.
Przekaż darowiznę i stań się naszym współwydawcą
Ta historia to ilustracja mechanizmów ukazanych w projekcie „Anatomy Of An AI Kill Chain” (źródło: Anatomy Of An AI Kill Chain). Nie oddałam tu wszystkich szczegółów, dlatego zachęcam do przewinięcia całej strony i prześledzenia krok po kroku łańcucha decyzji wspomaganego przez AI.
Przykład pokazuje, jak błędne interpretacje danych mogą przenikać przez kolejne etapy operacji i jak formalna obecność człowieka wcale nie musi oznaczać skutecznej kontroli.
ONZ: rozmowy w Genewie o AWS i aktywność poszczególnych krajów
Ten dramatyczny wstęp pokazuje, dlaczego tak ważne są regulacje, budowanie wspólnego rozumienia autonomicznych systemów broni (AWS – autonomous weapon systems) przez państwa.
Na początku września 2026 roku miałam możliwość przyglądania się obradom ONZ w Genewie i rozmawiania z delegatami podczas spotkań Grupy Ekspertów Rządowych do spraw śmiercionośnych autonomicznych systemów broni, działającej w ramach Konwencji o pewnych broniach konwencjonalnych (CCW GGE). To była bardzo techniczna i prawnicza dyskusja. Znaczenie miały pojedyncze słowa, ale za tymi szczegółami stoją konkretne pytania: kto kontroluje użycie siły, jak rozumie działanie systemu i kto ponosi odpowiedzialność, gdy dochodzi do naruszeń.
Obrady CCW GGE, fot. Marta StępniakOstatnia aktualizacja projektu dokumentu pochodzi z 4 września 2026 roku (stan na 07/09/2026). Widać, iż w porównaniu z wcześniejszą wersją nowy tekst osłabia wiele konkretnych zabezpieczeń. Odpowiada to obserwowanym podczas obrad próbom łagodzenia poszczególnych zapisów przez część delegacji.
W nowej wersji nie znalazłam już zapisów zobowiązujących państwa do powstrzymania się od produkcji, pozyskiwania, magazynowania i transferu AWS, których nie można używać zgodnie z międzynarodowym prawem humanitarnym (MPH).
Skreślono osobny zakaz użycia systemów, których skutków w danych okolicznościach nie można przewidzieć i ograniczyć zgodnie z wymaganiami MPH. Usunięto też szczegółowy zapis dotyczący przewidywalności i niezawodności działania oraz możliwości odtworzenia i wyjaśnienia jego przebiegu i skutków osobom odpowiedzialnym za rozwój i użycie broni. Słabiej brzmi też zapis odnoszący się do wyjaśniania incydentów. Wcześniejsze sformułowanie, zgodnie z którym państwa muszą zapewnić mechanizmy dochodzenia, raportowania i odpowiedniej reakcji, zastąpiono zachętą do ustanowienia ogólnych mechanizmów zajmowania się incydentami. Nie uchyla to obowiązującego prawa humanitarnego, ale pozostawia mniej konkretnych zabezpieczeń pozwalających zapobiegać błędom, ustalać ich przyczyny i rozliczać odpowiedzialnych.
Według monitoringu, jaki prowadzi koalicja Stop Killer Robots, podczas końcowej sesji w Genewie szczególnie aktywne były Rosja, Stany Zjednoczone i Korea Południowa.
Do rana 4 września 2026 roku każda z tych delegacji zabrała głos co najmniej kilkanaście razy. Wśród często wypowiadających się państw były również Brazylia, Austria, Szwajcaria, Irlandia i Pakistan. Monitoring ADR/SKR. Aktywność nie oznacza jednak wspólnego kierunku.
Według analiz Rosja, USA i Korea Południowa są państwami, które nie popierają negocjowania prawnie wiążącego instrumentu dotyczącego AWS. Za przyjęciem nowych zasad opowiada się ponad 130 państw, na ich czele stoi Brazylia (popierana przez 47 krajów). Gotowość do wykorzystania wypracowanego tekstu jako podstawy negocjacji podkreślała również Grupa Afrykańska. Twardych przeciwników jest zaledwie około 12. Problem w tym, iż ta niewielka grupa przeciwników należy do najaktywniejszych uczestników rozmów, przez co skutecznie hamuje postępy.
Mandat GGE kończy się w tym roku, więc kraje muszą zdecydować podczas przeglądowej Konwencji w listopadzie 2026 roku czy i jak kontynuować swoje prace nad AWS.
Kompromis negocjacyjny nie może podważać istniejącego prawa humanitarnego, a pojęcia takie jak niezawodność czy przewidywalność potrzebują jasnej definicji, żeby można było stosować je w praktyce.
Regulacje, AWS i jej wpływ na nasze codzienne życie
W mojej ocenie nie do końca zdajemy sobie sprawę z wagi tych regulacji, a AWS mają wpływ na gospodarkę i nasze życie.
Technologie tego typu są rozwijane m.in. przez duże spółki technologiczne, które często trafiają do zwykłych portfeli inwestycyjnych i funduszy emerytalnych. Niepewność regulacyjna może wpływać na wyceny spółek, zwiększać zmienność i utrudniać długoterminową alokację kapitału. Dlatego szczególnie inwestorzy długoterminowi np. fundusze emerytalne potrzebują przewidywalności. Niektóre instytucje w Europie (jak włoska Etica Funds z grupy Banca Etica) już wdrażają wewnętrzne procedury, które chronią kapitał przed ryzykiem finansowym i dbają o etyczne podejście do inwestycji w sektorze obronnym.
Między Star Trek a dronami Kamikaze: od serialowej utopii do realnych zagrożeń Marta Stępniak
Przewidywalnych zasad potrzebują także instytucje publiczne, które zamawiają technologie wykorzystywane w naszej codzienności. Obok ceny i skuteczności coraz częściej pojawiają się pytania o etykę oraz ryzyko uzależnienia się od jednego dostawcy. Takie napięcia widać w sprawie z Londynu. W maju 2026 roku MOPAC (biuro nadzorujące londyńską policję) zablokowało wart około 50 mln funtów kontrakt z amerykańską firmą Palantir. Burmistrz Londynu zwrócił uwagę na kwestię wartości i etyki, a także naruszenie procedur przetargowych. Co interesujące w czerwcu dopuszczono przedłużenie istniejącego pilotażu o rok, nakazując jednocześnie przeprowadzenie nowej procedury wyboru dostawcy. Palantir zaskarżył odmowę zatwierdzenia kontraktu.
Świat staje się coraz bardziej niebezpieczny
Dyskusja wokół etyki i kontroli nad technologią nie toczy się jednak w próżni, tłem dla niej jest drastycznie pogarszająca się sytuacja na świecie.
Według Global Peace Index 2025 w 2023 r. odnotowano 59 konfliktów zbrojnych, w których przynajmniej jedną ze stron było państwo. To najwięcej od zakończenia II wojny światowej.
Zrujnowane miasto w zimnej, algorytmicznej kolorystyce. Grafika wygenerowane przy użyciu AI NanobananaAutorzy opublikowanego w maju 2026 r. opracowania Advancing Humanitarian Disarmament wskazują, iż ochronę cywilów osłabiają zarówno stosowanie broni i metod walki o działaniu nierozróżniającym (czyli niepozwalającym odpowiednio rozróżnić celów wojskowych od ludności i obiektów cywilnych), jak i podważanie oraz wybiórcze przestrzeganie przyjętych norm prawa międzynarodowego.
A gdzie w tym wszystkim jesteśmy my? Każdy z nas pozostawia cyfrowe ślady w postaci SMS-ów, zdjęć, kontaktów w telefonie, danych o lokalizacji czy wpisów w mediach społecznościowych. Nie zawsze wiemy, kto może później uzyskać do nich dostęp i do jakich celów je wykorzystać. Dlatego pytanie o wojskowe zastosowania technologii dotyczy również naszego codziennego życia.
Historia zatacza koło. Kiedyś to cywile korzystali z technologii wojskowych. Tak powstał choćby system GPS, który dziś pomaga nam trafiać do celu podróży.
Obecnie narzędzia tworzone na rynek komercyjny coraz częściej wspierają inwigilację, analizę danych i wyznaczanie celów na wojnie.
Obawiam się, iż jako społeczeństwo zbyt mało uwagi poświęcamy temu, kto wyznacza granice takich zastosowań. Chciałabym, żebyśmy ustalali je świadomie, zanim skutki tych decyzji odczują kolejni cywile.
Autonomiczne systemy broni, kontrola i odpowiedzialność. Zobacz nasz nowy poradnik Marta Stępniak, Paweł Marczak
Materiał odzwierciedla wyłącznie opinię autora. NIW-CRSO nie jest odpowiedzialny za sposób wykorzystania zawartych w nim informacji.
