AI, Benedykt XVI i Franciszek. Człowie(k)czeństwo w pułapce postępu

O kryzysie klimatycznym pudła rezonansowe nadają 24 godziny na dobę: telewizja, prasa, radio. I oczywiście media (anty)społecznościowe. A o którym kryzysie nie słyszymy rano, wieczór, we dnie i w nocy?

Naukowcy ostrzegają, edukują, alarmują. Generalnie, słyszymy, iż „nauka nie pozostawia wątpliwości: obecny kryzys klimatyczny zagraża przyszłości planety”. Na marginesie, zabawne są te lamenty, iż my, ludzie jesteśmy w stanie naszym działaniem zagrozić przyszłości planety. Jak zwykle daje o sobie znać nasze ludzkie poczucie własnej ważności. Spokojnie. Planeta sobie poradzi. Zagrożeni jesteśmy my, ludzie. Ty, ja, Twoje dzieci.

W debacie publicznej cichutko jest natomiast o kryzysie znacznie groźniejszym od kryzysu klimatycznego. Mam na myśli kryzys technologiczny. Naukowcy czasami coś wspomną o zagrożeniach ze strony AI czy GMO NGT, ale to kropla w oceanie potrzeb. I mam wrażenie, iż naukowe Frankensteiny (Lem) chcą tylko uspokoić swoje sumienia, pędząc na złamanie karku w wyścigu po Nobla. W tym roku miałem okazję wysłuchać debat o technologii na konferencjach: Forum Ekonomiczne w Karpaczu, Krynica Forum, Europejskie Forum Nowych Idei w Sopocie i Kongresie Ekonomii Wartości Open Eyes Economy Summit w Krakowie. Ekspertów ostrzegających przed ciemną stroną technologii było nie więcej niż palców mojej lewej ręki. O kryzysie technologicznym wprost nie mówił nikt.

Zapładniamy technologię

A kryzys technologiczny przybiera na sile. Jego paliwem są nowe technologie. Wczoraj, bomba atomowa, dziś: sztuczna „inteligencja”, CRISPR (GMO NGT) i komputery kwantowe. Wszystkie one zwiększają prawdopodobieństwo ludobójstwa w XXI wieku na skalę dotąd niespotykaną.

Stanisław Lem już w 1957 roku przestrzegał że, „technologia jest zmienną niezależną cywilizacji”. Dekadę później, w 1964 roku Marshall McLuhan zauważył: „(…) iż jak pszczoły w świecie roślin, tak człowiek w świecie techniki zawsze odgrywał rolę organów płciowych”. Z kolei, John Gray w „Słomianych psach” (2002) pisał bez znieczulenia: „Technologia nie słucha niczyich rozkazów”.

Zarówno dziś, jak i w przeszłości, o tym „jak jest”, możemy usłyszeć najczęściej od filozofów, ale tylko od tych, którzy szukają prawdy, a nie szukają poklasku. Politycy, biznesmeni, dziennikarze i eksperci milczą, jednocześnie gardłując o tematach zastępczych, które są tak ważne jak ich ego. Obawiają się utraty władzy (ambicja) i pieniędzy (chciwość). Pisał o tym celnie Machiavelli, dobry obywatel, realista i demaskator. Od zawsze tak było, jest i będzie. Chyba, iż ktoś wynajdzie lek na ludzką naturę, w co szczerze wątpię.

Papież Ratzinger i Bestia

W 1976 roku Joseph Ratzinger, przyszły papież, w książce „Bóg Jezusa Chrystusa. Medytacje o Bogu Trójjedynym” napisał coś, co przyprawia mnie dziś o dreszcze:

„Co to znaczy więc: imię Boga? Może najłatwiej zrozumiemy, o co tu chodzi, z perspektywy pewnego przeciwstawienia. Apokalipsa św. Jana mówi o przeciwniku Boga – Bestii. Bestia ta, będąca wrogą potęgą, nie ma imienia, ale tylko liczbę. Bóg jej wynosi 666, mówi wizjoner (Ap 13, 18). Jest to numer i czyni z opatrzonej nim istoty numer. Co to oznacza, wiemy – my, którzy przeżyliśmy świat obozów koncentracyjnych: jego groza polega właśnie na tym, iż wymazuje on twarz, iż wymazuje indywidualną historię, iż zamienia człowieka w numer, w wymienną cząstkę wielkiej maszyny. Człowiek staje się tylko swoją funkcją, niczym więcej.

Dzisiaj musimy się obawiać, iż obóz koncentracyjny był tylko przygrywką, iż świat na zasadzie uniwersalnego prawa maszyny przybiera jako całość strukturę obozu koncentracyjnego. jeżeli bowiem istnieją już tylko funkcje, to i człowiek nie jest już niczym innym. Maszyny, które zbudował, narzucają mu teraz swoje prawo. Musi on stać się czytelny dla komputera, a może być taki tylko wtedy, gdy zostanie przełożony na liczby.

Wszystko inne w nim przestaje mieć znaczenie. Co nie jest funkcją, jest niczym. Bestia jest numerem i czyni innych numerem”.

Lektura tych słów przypomniała mi działania korporacji IBM, której technologia kart perforowanych zamieniała ludzi w numery i pozwoliła Hitlerowi i zwykłym Niemcom dokonać ludobójstwa na masową skalę w czasie II rzezi światowej.

Benedykt XVI przypomniał mi też historię „technologii, która była tak ryzykowna, iż producenci odmówili jej użycia, dopóki nie otrzymali zapewnienia, iż żaden rząd na ziemi w razie czego nie pociągnie ich do odpowiedzialności”. O tej technologii pisze w swojej książce Robert F. Kennedy jr., „Prawdziwy Anthony Fauci. Bill Gates, Big Pharma i globalna wojna przeciwko demokracji i zdrowiu publicznemu”. Autor został właśnie nominowany przez prezydenta elekta Donalda Trumpa na szefa resortu zdrowia Stanów Zjednoczonych.

Wreszcie lektura słów Ratzingera przypomniała mi o ludobójstwie, którego Binjamin Netanjahu dokonuje tu i teraz na naszych oczach, na Palestyńczykach, przy pomocy technologii AI zamieniającej ludzi w numery. Dobra wiadomość jest taka, iż Międzynarodowy Trybunał Karny wydał ostatnio list gończy za premierem Izraela.

Bestia nie ma imienia, tylko liczbę 666.

Papież Franciszek i AI

14 czerwca 2024 roku papież Franciszek wygłosił przemówienie pt. „Fascynujące i groźne narzędzie” podczas szczytu G7 we Włoszech. Było to historyczne wydarzenie, gdyż po raz pierwszy papież uczestniczył w spotkaniu grupy liderów: Stanów Zjednoczonych, Zjednoczonego Królestwa Wielkiej Brytanii, Włoch, Francji, Kanady, Niemiec i Japonii.

Ojciec Święty celnie zauważył, iż „podczas gdy użycie prostego narzędzia (takiego jak nóż) jest pod kontrolą istoty ludzkiej, która go używa, i tylko od niej zależy jego dobre użycie, to sztuczna inteligencja, przeciwnie, może autonomicznie dostosowywać się do przydzielonego jej zadania i, jeżeli jest zaprojektowana w ten sposób, dokonywać wyborów niezależnych od istoty ludzkiej, aby osiągnąć wyznaczony cel”.

Jakbym już gdzieś to słyszał. Ciekawe, czy papież czyta materiały naszej koalicji Stop Zabójczym Robotom. Odnoszę wrażenie, iż tak.

Namiestnik Chrystusa na szczycie G7 ostrzegał: „Nie możemy zatem ukrywać konkretnego zagrożenia, ponieważ jest ono nieodłączne od jego podstawowego mechanizmu, mianowicie, iż sztuczna inteligencja ograniczy wizję świata do rzeczywistości wyrażalnej w liczbach i zamkniętej w gotowych kategoriach, wypierając wkład innych form prawdy i narzucając jednolite modele antropologiczne, społeczno-ekonomiczne i kulturowe. Paradygmat technologiczny, którego ucieleśnieniem jest sztuczna inteligencja, niesie ze sobą ryzyko ustąpienia miejsca znacznie bardziej niebezpiecznemu paradygmatowi, który zidentyfikowałem już jako »paradygmat technokratyczny«. Nie możemy pozwolić, aby narzędzie tak potężne i niezbędne jak sztuczna inteligencja, wzmocniło ten paradygmat; wręcz przeciwnie, musimy uczynić sztuczną inteligencję bastionem właśnie przeciwko jego ekspansji.

Jakbym czytał Josepha Ratzingera i Neila Postmana. Ten ostatni przestrzegał przed totalitarną technokracją, która nazywał Technopolem.

Warto w tym miejscu jeszcze wspomnieć o Orędziu Papieża Franciszka na Światowy Dzień Środków Społecznego Przekazu „Sztuczna inteligencja i mądrość serca: dla komunikacji w pełni ludzkiej”. Głowa Watykanu przypomniała, iż „termin »sztuczna inteligencja« wyparł bardziej poprawny termin używany w literaturze naukowej – »machine learning« [uczenie maszynowe]”. A „samo użycie słowa »inteligencja« jest mylące”. Papież prawidłowo „łączy kropki”. Wsłuchując się w debatę publiczną o AI, na każdym kroku słyszę, jak tzw. eksperci od uczenia maszynowego, meblują nam głowy, terminami, które sprzyjają uczłowieczaniu maszyn. Patrz, bełkot o „inteligentnych” domach, samochodach czy miastach. A z drugiej strony, ci sami „eksperci” odczłowieczają, nas, ludzi, porównując mózg człowieka do procesora, oczy człowieka do kamer, pamięć człowieka do dysku twardego. Czyste szaleństwo.

Tylko Bóg mógłby nas uratować

Co nas może uratować przed Bestią? Na pewno nie technologia, choć wielu się do niej modli i szuka w niej wybawienia tak, jak dawniej Izraelici wielbiący złotego cielca.

31 maja 1976 roku w niemieckim tygodniku „Der Spiegel” został opublikowany słynny wywiad z Martinem Heideggerem „Nur noch ein Gott kann uns retten” („Tylko Bóg mógłby nas uratować”). Rozmowa została przeprowadzona we wrześniu 1966 roku, ale niemiecki filozof zażądał, by wywiad został upubliczniony dopiero po jego śmierci. Heidegger zmarł 26 maja 1976 roku. (Czy to przypadek, iż w tym samym roku ukazały się książka Ratzingera i wywiad z Heideggerem?)

Trzy wypowiedzi autora „Pytania o technikę”:

„(…) technika coraz bardziej odrywa ludzi od ziemi i pozbawia ich korzeni. Nie wiem, czy panowie byli przerażeni, oglądając zdjęcia Ziemi wykonane z Księżyca. Ja przynajmniej byłem przerażony. Nie potrzeba wcale bomby atomowej, wykorzenienie ludzkości stało się już faktem. Nasze wzajemne stosunki są czysto techniczne”.

„Filozofia nie może spowodować bezpośrednio zmiany obecnej sytuacji na świecie. Odnosi się to zresztą nie tylko do filozofii, ale do całej sfery ludzkich myśli i dążeń. Tylko Bóg mógłby nas jeszcze uratować”.

„Istotę techniki widzę w tym, co określam jako »zestaw« (zestaw »Ge-Stell«), często wyśmiewany i może niezręczny termin. Rządy »zestawu« oznaczają, iż człowiek jest nastawiany, eksploatowany, angażowany przez władzę, która ujawnia się w istocie techniki i nad którą on sam nie panuje”.

Minęły dekady a te cytaty wciąż aktualne. Dziś bardziej aktualne niż kiedykolwiek. Bo „nasze wzajemne stosunki są czysto techniczne”, rzekłbym czysto telefoniczne.

(O jakim Bogu pisze niemiecki filozof? Zainteresowanych odpowiedzią odsyłam do tekstu pt. „Filozoficzne i polityczne milczenie Martina Heideggera”, którego autorem jest prof. Jacek Surzyn.)

Bunt i 666

Jak nie być czytelnym dla komputera? Jak stawiać opór Bestii? Co ja robię?

Choć wielu to, co dla mnie jest normalne uzna za zbyt radykalne, to może każdy wybierze coś dla siebie. Po pierwsze, płacę gotówką. Po drugie, mam telefon komórkowy „na przyciski”, nie mam telefona. Po trzecie, czytam książki papierowe, nie mam czytnika do e-booków. Po czwarte, o ważnych sprawach rozmawiam z ludźmi w jednym pokoju. Po piąte, konsumuję mało, pamiętając, iż bramy raju są wąskie. Po szóste, zabieram głos w debacie publicznej prowokując do krytycznego myślenia i aktywności obywatelskiej. I wreszcie po siódme, jestem wrogiem Technopolu. Tylko tyle, i aż tyle.

A Ty, czy jesteś czytelny dla komputera?