Strzec wolności przed uzależnieniem i utowarowieniem
Strzec wolności przed uzależnieniem i utowarowieniem
Uzależnienia i kontrola społeczna
170. Po rozważeniu kwestii prawdy i wychowania, pracy i rodziny, musimy teraz mówić o wpływie rewolucji cyfrowej na ludzką wolność, zastanawiając się, jak stawić czoła zarówno zagrożeniom dotykającym psychiki jednostki, jak i dramatycznym zjawiskom społecznym. Nie wolno lekceważyć subtelniejszych form uzależnienia związanych z cyfrową ekonomią uwagi, w której platformy i usługi są projektowane tak, aby pochłaniać czas i uwagę użytkowników, wykorzystując ich wrażliwość i osłabiając wolność wewnętrzną. Gdy modele biznesowe rozwijają się dzięki ludzkiej słabości, osoba traktowana jest jako środek, a nie jako cel, a ci, którzy projektują lub finansują takie systemy, przyjmują na siebie odpowiedzialność moralną, od której nie mogą się uchylić. Należy pilnie wspierać taki sposób korzystania z technologii, który umacnia wolność wewnętrzną: wychowanie do umiaru w korzystaniu z technologii cyfrowych, ochronę nieletnich oraz przeciwstawienie się modelom, które żerują na ludzkiej wrażliwości.
171. Kolejnym zagrożeniem – mniej widocznym, ale nie mniej poważnym – jest kontrola społeczna, którą umożliwia masowe gromadzenie danych i stosowanie systemów algorytmicznych. Gdy każda aktywność – przemieszczanie się, zakupy, relacje, upodobania – pozostawia ślady, rodzi się nowa postać władzy: władza profilowania, przewidywania i ukierunkowywania zachowań, często bez pełnej świadomości samych zainteresowanych. Jeżeli dane te są wykorzystywane do podejmowania decyzji wpływających na konkretne możliwości życiowe (jak dostęp do kredytu, dobór pracowników, dostęp do usług), istnieje ryzyko naruszenia wolności i dyskryminowania osób najbardziej bezbronnych. Co więcej, kontrola nie dokonuje się jedynie poprzez wyraźne zakazy, lecz także przez samą architekturę rozpoznawalności: to, co zostaje wzmocnione albo uczynione nierozpoznawalnym, to, co bywa nagradzane albo karane, ostatecznie kształtuje opinie i wybory, rodząc konformizm i autocenzurę. Dlatego wolność w epoce cyfrowej nie jest jedynie sprawą wewnętrzną: jest także kwestią publiczną, która domaga się jasnych reguł, przejrzystości, możliwości odwołania się i proporcjonalnych ograniczeń w stosowaniu inwazyjnych technologii, tak aby technika pozostawała w służbie osoby, a nie stawała się formą panowania nad sumieniami.
172. U źródła tych problemów leży mentalność technokratyczna i posthumanistyczna, skłonna postrzegać osobę jako przedmiot manipulacji albo zasób, który należy optymalizować [172], eliminując wszystko to, co stawia granice maksymalizacji zysku: liczy się wydajność, a nie poszanowanie wolności i godności osoby ludzkiej. Niektóre nurty posthumanistyczne posuwają się wręcz do tego, że stawiają hipotezy o istnieniu istot ludzkich „drugiej kategorii”, podporządkowanych interesom elit, które uważają się za lepsze: jest to perspektywa niepokojąca, tym groźniejsza, im bardziej łączy się z narzędziami technologicznymi, które w sposób wykładniczy zwiększają władzę kontroli i selekcji. Także pewne logiki strukturalnego zadłużenia, utrzymujące całe narody w stanie zależności, ujawniają tę samą mentalność, która godzi się – w nowych formach – na relacje podporządkowania zbliżone do niewolnictwa.
Rozerwać kajdany nowych zniewoleń
173. Ta zniekształcona wizja osoby przekłada się dziś na różne formy zniewolenia bezpośrednio związane z gospodarką cyfrową. W świecie AI nie ma nic niematerialnego ani magicznego. Każda odpowiedź, która wydaje się natychmiastowa i doskonała, rodzi się z długiego łańcucha pośrednictw, z rozległej sieci zasobów naturalnych, z infrastruktury energetycznej, a nade wszystko z osób. Znaczna część funkcjonowania gospodarki cyfrowej opiera się na cichej pracy milionów istot ludzkich, zatrudnionych przy zajęciach mało widocznych, lecz nieodzownych: oznaczaniu danych, moderacji treści – nierzadko tych najgorszych – oraz trenowaniu modeli. W wielu przypadkach są to ludzie młodzi, przeważnie kobiety, którzy ciężko pracują za minimalne wynagrodzenie. Do tego niewidzialnego wysiłku dołącza jeszcze trud bardziej brutalny, związany z wydobywaniem surowców niezbędnych do produkcji urządzeń i mikroprocesorów, na których opiera się AI. W niektórych regionach świata nastolatki i dzieci pracują w niebezpiecznych warunkach przy kruszeniu materiałów, z których pozyskuje się pierwiastki ziem rzadkich. Ciała pokryte bliznami, okaleczone, wyniszczone po to, by nie został przerwany przepływ obliczeń. Ponadto sieci przestępcze posługują się platformami internetowymi, systemami komunikacji, anonimowymi płatnościami i technikami profilowania, by werbować, kontrolować i przemieszczać ofiary handlu ludźmi, w wielu przypadkach nieletnich, zamieniając kobiety i mężczyzn w „dane” do śledzenia i „przesyłki” do przekazywania w obrębie tych samych obiegów cyfrowych, które podtrzymują znaczną część światowej gospodarki. Ta rzeczywistość głęboko porusza sumienie moralne naszych czasów. Nie wystarczy odwoływać się do wydajności ani sławić korzyści płynących z innowacji, jeśli zbudowane są one na łańcuchu wyzysku, który pozostaje celowo ukrywany. Jeżeli jakaś technologia obiecuje wyzwolenie, a zarazem tworzy nowe formy globalnego podporządkowania, zaprzecza ona fundamentalnej zasadzie godności osoby.
174. Walka z nowymi formami niewolnictwa jest jednym z rozstrzygających sprawdzianów etycznego rozeznawania AI i transformacji cyfrowej. W nurcie tradycji zapoczątkowanej przez Leona XIII Kościół ponawia stanowcze potępienie wszelkiej formy niewolnictwa, handlu ludźmi i utowarowienia osób, a zarazem przypomina o pilnej potrzebie szerokiego ruchu refleksji i działania, który postawi w centrum uwagi niezbywalną godność każdej istoty ludzkiej oraz dobro wspólne jako cel społeczeństwa i kryteria każdego wyboru osobistego, społecznego i politycznego. Bez tej etycznej i humanizującej refleksji rosnąca władza systemów cyfrowych może prowadzić nas ku nowym okrucieństwom – nie mniej haniebnym niż te z przeszłości – które dziś potępiamy, podczas gdy nadal uważamy się za społeczeństwa „rozwinięte” i „cywilizowane”.
175. Handel ludźmi należy uznać za współczesną formę niewolnictwa i za ciężkie pogwałcenie godności człowieka; brak stanowczej reakcji albo jakakolwiek tolerancja wobec tych praktyk oznacza dziś – w pewnej mierze – współudział w winach popełnianych dawniej, gdy niewolnictwo bywało usprawiedliwiane lub przemilczane [173].
176. W miarę dojrzewania swojej doktryny Kościół stopniowo uświadamiał sobie ciężar tych realiów. To prawda, że wydarzeń przeszłości nie można osądzać w oderwaniu od kontekstu historycznego, tak jakby wszystkie kryteria wypracowane z biegiem czasu były zawsze dostępne. Nie możemy jednak zaprzeczać ani umniejszać opóźnienia, z jakim Kościół i społeczeństwo potępiły plagę niewolnictwa. O ile bowiem w starożytności i w średniowieczu wiele osób i instytucji kościelnych posiadało niewolników, to już w epoce nowożytnej rzymska Stolica Apostolska, pobudzana prośbami władców, wielokrotnie interweniowała, by regulować i uprawomocniać sposoby podporządkowania, a w niektórych przypadkach także zniewolenia „niewiernych” [174]. Trzeba było czekać aż do XIX w., aby pojawiło się formalne, absolutne i powszechne potępienie niewolnictwa, zwłaszcza przez Leona XIII [175]. Stanowi to wyraźny przykład wzrastania Kościoła w rozumieniu odwiecznych prawd Objawienia, których on strzeże. Chociaż nie znajdujemy tu jednorodności co do samej kwestii – skoro przez długi czas tolerowano niewolnictwo, a dopiero później całkowicie je potępiono – to na przestrzeni dziejów widoczna jest ciągłość w przekonaniu o godności każdej istoty ludzkiej, stworzonej na obraz Boga, choć przez osiemnaście wieków nie zdołano oficjalnie wyrazić całkowitej niezgodności tego faktu z niewolnictwem. Jest to rana w pamięci chrześcijańskiej i nie możemy uważać, że nas to nie dotyczy [176]. Nie sposób nie odczuwać głębokiego bólu, gdy rozważamy ogromne cierpienie i upokorzenie, jakie niewolnictwo oznaczało dla tak wielu osób, w sprzeczności z ich nieograniczoną godnością, nieskończenie umiłowaną przez Pana. Dlatego w imieniu Kościoła szczerze proszę o przebaczenie.
177. Właśnie dlatego pamięć o współudziale i ślepocie minionych czasów wobec niesprawiedliwości niewolnictwa staje się dla nas wezwaniem do czujności: to, czego się nauczyliśmy, musi przełożyć się na rozeznawanie i odpowiedzialność w teraźniejszości. Jeżeli nie chcemy w przyszłości prosić o przebaczenie za to, że nie byliśmy wierni skarbowi godności ludzkiej, który zawiera nasza wiara, to dziś do nas należy, byśmy bezpośrednio i stanowczo piętnowali handel ludźmi w jego wielu przejawach i wspierali, krok po kroku, wraz ze wszystkimi zaangażowanymi w tę sprawę, rzeczywiste drogi zapobiegania, ochrony, wyzwolenia i rehabilitacji.
178. Kolonializm przybiera dziś nieznane dotąd oblicze. Nie panuje już tylko nad ciałami, lecz przywłaszcza sobie dane, przemieniając życie osobiste w informacje nadające się do wykorzystania. Całe terytoria, zwłaszcza te o mniejszym znaczeniu geopolitycznym i większej kruchości strukturalnej, zostają dziś objęte nową logiką eksploatacji: logiką przepływu danych zdrowotnych, profili epidemiologicznych, map genetycznych i danych demograficznych. To są nowe „pierwiastki ziem rzadkich” władzy: kluczowe informacje, które po skorelowaniu mogą zostać użyte do trenowania modeli predykcyjnych, kierowania strategiami inwestycyjnymi, do przewidywania kryzysów, a nade wszystko do selekcjonowania tego, kto i co ma znaczenie. Kto posiada dane zdrowotne całych populacji, gromadzone dziś często pod hasłem pomocy, badań lub innowacji, ten w rzeczywistości posiada strukturalną dźwignię wpływu na przyszłość: może modelować potrzeby i rynki. Może też decydować – wcześniej niż inni – komu przeznaczyć leki, inwestycje i środki ochronne. Właśnie tu rozgrywa się jedna z najpilniejszych kwestii moralnych naszych czasów: przekształcać wspólną wiedzę w dobro wspólne, a nie w narzędzie dominacji; zwrócić narodom nie tylko dane, które je opisują, lecz także możliwość decydowania o tym, jak będą one używane, przez kogo i dla kogo. W przeciwnym razie era cyfrowa nie będzie postkolonialna, lecz kolonialna, tylko pod inną postacią.
179. Nowe formy niewolnictwa karmią się łańcuchami gospodarczymi i infrastrukturą cyfrową. Trzeba więc działać w wielu kierunkach: najpierw po to, aby uczynić bardziej rygorystyczną przejrzystość łańcuchów dostaw podtrzymujących przemysł technologiczny i gospodarkę cyfrową, tak by żadna przewaga konkurencyjna nie była budowana na niewidocznym wyzysku. Po drugie, konieczne jest, aby przedsiębiorstwa i inwestorzy przyjęli jasne kryteria prewencyjnej weryfikacji etycznej (due diligence), uwzględniając wśród priorytetów ochronę pracowników, przeciwdziałanie pracy przymusowej oraz społeczny wpływ modeli biznesowych opartych na danych. Ponadto platformy cyfrowe muszą zostać zobowiązane do odpowiedzialnej współpracy z władzami i ze społeczeństwem obywatelskim, aby narzędzia komunikacji, płatności i profilowania nie stawały się kanałami werbunku i kontroli ofiar. Gdy te decyzje pójdą w parze, środowisko cyfrowe może przemienić się z przestrzeni drapieżności w przestrzeń ochrony, zapobiegania i poszanowania godności.