Encyklika Magnifica humanitas – papieża Leona XIV – o trosce o osobę ludzką w dobie sztucznej inteligencji.
Korzystanie z AI nigdy nie jest faktem czysto technicznym: kiedy wkracza ona w procesy oddziałujące na życie ludzi, dotyka praw, szans, reputacji i wolności. Delikatne decyzje dotyczące pracy, kredytu, dostępu do usług i reputacji osób mogą zostać powierzone całkowicie systemom zautomatyzowanym, które nie znają „współczucia, miłosierdzia, przebaczenia, a nade wszystko otwartości na nadzieję przemiany osoby”[125] i w ten sposób mogą rodzić nowe formy wykluczenia. Mogą istnieć zastosowania w oczywisty sposób antyludzkie, jak manipulowanie informacją czy naruszanie prywatności, ale może istnieć także pułapka mniej jawna, gdy systemy AI, przedstawiając się jako neutralne i obiektywne, odzwierciedlają i umacniają stereotypy lub stanowiska ideologiczne tych, którzy je zaprojektowali i wytrenowali.
Powierzyć w praktyce algorytmowi władzę rozstrzygania o tym, kto zasługuje, a kto nie, bez tego, by ktokolwiek brał już na siebie ciężar decyzji, znaczy powierzyć mu zadanie ponownego wyznaczania granic ludzkich możliwości. Tym, czego w tym procesie brakuje, nie jest tylko empatia wobec wykluczonego, którą można sztucznie naśladować, lecz odpowiedzialność polityczna, ponieważ odrzucenie słabych zostaje przyobleczone w pozór neutralności i obiektywności, wobec których nie sposób protestować. Tym samym niesprawiedliwość staje się milcząca, a współczucie, miłosierdzie i przebaczenie – nie jako zwykły pozór, lecz jako gesty polityczne – znikają z horyzontu. (102-103)
W ostatnich latach literatura psychologiczna i psychiatryczna z coraz większym naciskiem dokumentuje, w jaki sposób wczesna i nieograniczona ekspozycja na urządzenia cyfrowe oraz media społecznościowe może negatywnie wpływać na sen, uwagę, regulację emocjonalną i relacje, zwłaszcza w najbardziej wrażliwym wieku, co niekiedy prowadzi do dramatycznych konsekwencji. Do tego dochodzi łatwość dostępu do scen przemocy i okrucieństwa, które ranią wrażliwość, do treści pornograficznych i nadmiernie seksualizowanych, do przekazów banalizujących ciało i uczuciowość, do propozycji normalizujących zachowania ryzykowne. W sieci nie należą do rzadkości zjawiska uwodzenia, szantażu i wykorzystywania seksualnego nieletnich, tym bardziej podstępne, że wspierane przez używanie fałszywych profili, algorytmów wzmacniających niebezpieczne kontakty oraz przez narzędzia AI zdolne manipulować obrazami i nagraniami. Zbyt wczesne posiadanie osobistego telefonu i korzystanie z niego bez kontroli ze strony dorosłych może pogłębiać wrażliwość i sprzyjać uzależnieniom u młodych, wystawiając ich na dynamikę izolacji, przemocy rówieśniczej i cyberprzemocy oraz na presję dzielenia się intymnymi obrazami czy danymi wrażliwymi. (141)
Trzecie wielkie wyzwanie ma charakter intelektualny i mądrościowy. Jeśli nie zachowamy czujności, może ukształtować się system wychowawczy pozbawiony miłości do prawdy, w którym nieustanny przepływ informacji zastępuje trud poszukiwania, refleksji i rozeznawania. Mnożą się wiadomości fragmentaryczne, ale coraz trudniej uchwycić rzeczywistość w jej całości, stawiać pytania o sens i rozwijać autentyczne myślenie krytyczne oraz twórcze. Wielu wychowawców dostrzega już oznaki możliwej dehumanizacji, w której ludzie „wiedzą wiele rzeczy”, lecz z trudem nadają kierunek własnemu życiu, także z powodu niezdolności łączenia informacji i wiedzy oraz utraty horyzontu sensu. Należy promować prawdziwą higienę uwagi: taki rytm życia, który obejmuje ciszę, pogłębione studium, lekturę i rozważną wymianę myśli – bez tych elementów wewnętrzna wolność może ulec osłabieniu. (146)
Dzisiaj splot automatyzacji, robotyki i AI szybko przekształca samą strukturę pracy. Mówi się, że przyniesie to dla wszystkich wielkie udogodnienia. W rzeczywistości jednak „nowe sposoby” pracy niekoniecznie są lepsze, ponieważ „choć sztuczna inteligencja obiecuje wzrost wydajności poprzez przejmowanie rutynowych zadań, często wymusza na pracownikach dostosowanie się do tempa i wymagań maszyn, zamiast być projektowaną jako wsparcie dla ludzi. W efekcie, wbrew zapowiadanym korzyściom, obecne podejścia do AI mogą paradoksalnie prowadzić do obniżenia kwalifikacji pracowników, poddawania ich automatycznemu nadzorowi oraz sprowadzania ich roli do sztywnych i powtarzalnych czynności. Konieczność nadążania za tempem technologii może osłabiać poczucie sprawczości pracowników i tłumić ich zdolność do innowacyjnego myślenia, której oczekuje się od nich w miejscu pracy”[152]. Właśnie po to, aby uniknąć takiego wynaturzenia, należy projektować systemy skoncentrowane na osobie, a nie jedynie na wydajności. (150)
U źródła tych problemów leży mentalność technokratyczna i posthumanistyczna, skłonna postrzegać osobę jako przedmiot manipulacji albo zasób, który należy optymalizować[172], eliminując wszystko to, co stawia granice maksymalizacji zysku: liczy się wydajność, a nie poszanowanie wolności i godności osoby ludzkiej. Niektóre nurty posthumanistyczne posuwają się wręcz do tego, że stawiają hipotezy o istnieniu istot ludzkich „drugiej kategorii”, podporządkowanych interesom elit, które uważają się za lepsze: jest to perspektywa niepokojąca, tym groźniejsza, im bardziej łączy się z narzędziami technologicznymi, które w sposób wykładniczy zwiększają władzę kontroli i selekcji. Także pewne logiki strukturalnego zadłużenia, utrzymujące całe narody w stanie zależności, ujawniają tę samą mentalność, która godzi się – w nowych formach – na relacje podporządkowania zbliżone do niewolnictwa. (172)
Kolonializm przybiera dziś nieznane dotąd oblicze. Nie panuje już tylko nad ciałami, lecz przywłaszcza sobie dane, przemieniając życie osobiste w informacje nadające się do wykorzystania. Całe terytoria, zwłaszcza te o mniejszym znaczeniu geopolitycznym i większej kruchości strukturalnej, zostają dziś objęte nową logiką eksploatacji: logiką przepływu danych zdrowotnych, profili epidemiologicznych, map genetycznych i danych demograficznych. To są nowe „pierwiastki ziem rzadkich” władzy: kluczowe informacje, które po skorelowaniu mogą zostać użyte do trenowania modeli predykcyjnych, kierowania strategiami inwestycyjnymi, do przewidywania kryzysów, a nade wszystko do selekcjonowania tego, kto i co ma znaczenie. Kto posiada dane zdrowotne całych populacji, gromadzone dziś często pod hasłem pomocy, badań lub innowacji, ten w rzeczywistości posiada strukturalną dźwignię wpływu na przyszłość: może modelować potrzeby i rynki. Może też decydować – wcześniej niż inni – komu przeznaczyć leki, inwestycje i środki ochronne. Właśnie tu rozgrywa się jedna z najpilniejszych kwestii moralnych naszych czasów: przekształcać wspólną wiedzę w dobro wspólne, a nie w narzędzie dominacji; zwrócić narodom nie tylko dane, które je opisują, lecz także możliwość decydowania o tym, jak będą one używane, przez kogo i dla kogo. W przeciwnym razie era cyfrowa nie będzie postkolonialna, lecz kolonialna, tylko pod inną postacią. (178)
Nie wystarczy ogólnikowo odwoływać się do etyki: trzeba wskazać konkretne kryteria rozeznawania. Pierwsze dotyczy odpowiedzialności osobistej. Gdy decyzja o ataku ulega automatyzacji albo staje się nieprzejrzysta, wzrasta ryzyko uchylenia się od odpowiedzialności. Dlatego łańcuch odpowiedzialności musi pozostawać identyfikowalny i weryfikowalny: ten, kto projektuje, kto trenuje, kto wydaje zgodę, kto używa, powinien móc zdać sprawę ze swoich wyborów. Drugie kryterium dotyczy czasu osądu moralnego. Sztuczna inteligencja ma tendencję do skracania czasu podejmowania decyzji; tymczasem na wojnie nieodwracalne decyzje nie mogą mieć za nadrzędne kryteria szybkości i skuteczności. Trzecim kryterium jest identyfikacjaoraz ochrona ludności cywilnej. Każda technologia, która ułatwia uderzenie bez oglądania twarzy drugiej osoby, obniża moralny próg konfliktu. Wybór celów i użycie siły nie mogą zacierać różnicy między walczącymi i niewalczącymi ani lekceważyć skutków dla bezbronnej ludności.
Z tych kryteriów wynikają pewne nienegocjowalne wymagania. Przede wszystkim, w odniesieniu do każdego systemu używanego w działaniach wojennych muszą być zapewnione identyfikowalność i możliwość odtworzenia procesu decyzyjnego, tak aby odpowiedzialność i ewentualna wina nie rozpływały się „w maszynie”. Po drugie, decyzja o użyciu śmiercionośnej siły nie może być powierzana procesom nieprzejrzystym ani zautomatyzowanym, lecz musi pozostawać pod rzeczywistą, świadomą i odpowiedzialną kontrolą człowieka. Wreszcie, konieczne jest ustanowienie wspólnych zasad, również na poziomie międzynarodowym, które powstrzymają wyścig zbrojeń technologicznych i zapewnią szczególną ochronę ludności cywilnej oraz infrastruktury niezbędnej dla jej przetrwania. (199-200)
Powraca pokusa budowania tożsamości zbiorowej w opozycji do wroga, podsycając narracje, w których każdy przedstawia siebie jako ofiarę uprawnioną do odwetu. Upraszczanie rzeczywistości do schematów – „najpierw ja”, „przyjaciel-wróg”, „my-oni” – ułatwia podejmowanie decyzji często nieodpowiedzialnych, które podkopują wzajemne zaufanie między narodami. Siła prawa międzynarodowego zostaje w ten sposób zastąpiona rzekomym „prawem silniejszego”, a jego narzędzia – od trybunałów właściwych w sprawach zbrodni wojennych po sądy powołane do rozstrzygania sporów między państwami – bywają często omijane albo osłabiane, z katastrofalnymi skutkami dla kultury politycznej i dla współżycia społecznego. (202)
Pewien pisarz katolicki XX w., John Ronald Reuel Tolkien, ustami jednego z bohaterów swojej powieści wyraził naszą odpowiedzialność w ten sposób: „Ale nie do nas należy panowanie nad wszystkimi falami przepływającymi przez ten świat; my mamy za zadanie zrobić, co w naszej mocy, dla tej epoki, w której żyjemy, wytrzebić chwasty ze znanego nam pola, aby przekazać następcom rolę czystą, gotową do uprawy”[187]. Cywilizacja miłości nie rodzi się z jednego, spektakularnego gestu, lecz z sumy małych i wytrwałych aktów wierności, które stawiają tamę dehumanizacji. Dlatego warto zatrzymać się i rozważyć kilka aspektów tego, w jaki sposób każdy – we własnej dziedzinie – może współpracować przy jej budowaniu. Nie roszcząc sobie pretensji do wyczerpania tematu, proponuję pięć ścieżek codziennej i publicznej odpowiedzialności: rozbrajać słowa, budować pokój w sprawiedliwości, spojrzeć oczami ofiar, pielęgnować zdrowy realizm oraz ożywiać na nowo dialog i multilateralizm. (213)
Potrzebujemy zdrowego realizmu, który pozwala uniknąć zarówno idealizmu politycznego, jak i cynizmu. Istnieje bowiem taki idealizm, który – chcąc ocalić swój światopogląd – wybiera fakty, nagina je i nadaje im nowe nazwy, aż w końcu zaczyna żyć w rzeczywistości skonstruowanej na miarę własnych przekonań. Istnieje jednak również realizm zdegenerowany, który myli stwierdzenie faktu z rezygnacją: skoro dominuje siła, to dochodzi do wniosku, że powinna ona panować. Autentyczny realizm nie rezygnuje z przemieniania świata: zaczyna od jasnego dostrzeżenia interesów, lęków, ograniczeń i układów sił właśnie po to, by rozeznać, co można rzeczywiście osiągnąć i jakimi drogami. Nie sprowadza polityki do moralizmu, ale też nie wydaje jej na pastwę przemocy: szuka możliwych dróg, aby pokój był czymś więcej niż tylko słowem – a więc wiarygodnych instytucji, sprawdzalnych gwarancji, cierpliwych negocjacji, zapobiegania konfliktom i ochrony ludności cywilnej. (218)
Miłujmy sprawiedliwość i pokój! Te same technologie, które ułatwiają komunikację i dostęp do zasobów, mogą wspierać modele wyzyskujące najbardziej bezbronnych, podsycać nowe formy niewolnictwa i przemieniać konflikt w okazję do zysku. Każdy wybór techniczny czy ekonomiczny przekształca się w miejsce duchowego rozeznawania, sposobność do sprawdzania, czy postęp w dziedzinie AI otwiera przestrzenie sprawiedliwości i uczestnictwa, czy też skupia bogactwo i władzę w rękach nielicznych. Zachęcam, by z trzeźwością patrzeć na łańcuchy produkcji cyfrowej, na warunki pracy ukryte za naszymi urządzeniami, na mechanizmy czerpiące korzyść z manipulacji i wojny, a zarazem by szukać konkretnych dróg wzrostu sprawiedliwości, uczestnictwa i troski o stworzenie. Nadzieja, którą głosimy, przychodzi z nieba, „aby tutaj, na ziemi, stworzyć nową historię”; właśnie dlatego wierzący angażują się, aby nierówności ustępowały miejsca większej sprawiedliwości i aby „zamiast przemysłu wojny zwyciężało rzemiosło pokoju”. (240)
Encyklika Magnifica humanitas Ojca świętego Leona XIV – o trosce o osobę ludzką w dobie sztucznej inteligencji.
Czytaj także:
