AI nie podpisze się pod błędem. Kto zatem weźmie odpowiedzialność?

Najwygodniejsza cecha AI? Pozór obiektywizmu

Rozmowa Hausnera i Rysia zaczęła się od historii społecznego nauczania Kościoła. Leon XIII reagował na przemiany wywołane rewolucją przemysłową; Leon XIV próbuje nazwać wyzwania kolejnego przełomu technologicznego. Ale gdyby sprowadzić tę rozmowę do samej teologii, umknęłoby to, co najcenniejsze dla ludzi projektujących i kupujących systemy AI.

Kluczowy problem to złudzenie bezstronności. Odpowiedź algorytmu wygląda na techniczną, uporządkowaną, pozbawioną emocji. Łatwo więc zapomnieć, że za nią stoją czyjeś decyzje: dobór danych, sposób treningu, ustawienia produktu, reguły użycia. W rozmowie zwracano uwagę, że technologie mogą reprodukować stereotypy, choć prezentują je w nowoczesnym opakowaniu.

„Sztuczna inteligencja bardzo łatwo wytwarza w nas takie złudzenie co do jej neutralności i co do jej obiektywizmu.”

To istotne zwłaszcza w ochronie zdrowia. Brzmiąca pewnie odpowiedź modelu nie staje się wiarygodna tylko dlatego, że została wygenerowana szybko i bez wahania. Poczucie pewności użytkownika jest cechą interfejsu, nie dowodem prawdziwości treści.

Odpowiedzialność trzeba zaprojektować, nie dopisać w regulaminie

Rozmówcy wracali do zasady pomocniczości: kto ma prawo podejmować decyzję, gdzie kończy się jego odpowiedzialność i kiedy wsparcie powinno przychodzić z wyższego poziomu organizacji. W świecie AI oznacza to konieczność rozpisania ról od projektu systemu po jego codzienne używanie.

Nie wystarczy zapewnienie dostawcy, że funkcja została przetestowana. Trzeba wiedzieć, kto odpowiada za jakość danych, kto zatwierdza wynik, kto może odmówić wykonania rekomendacji oraz jak dokumentuje się pomyłkę. Słowo „automatycznie” nie jest podmiotem prawa ani pracownikiem gotowym złożyć wyjaśnienia.

W realiach placówki szczególnie warto to sprawdzić przy automatycznej dokumentacji wizyt, systemach wstępnej segregacji zgłoszeń, komunikacji z pacjentami i narzędziach wspierających decyzje medyczne. Każde z tych zastosowań wymaga innego poziomu nadzoru. Nie jest to argument, by z nich rezygnować — raczej by przestać udawać, że zakup licencji rozwiązuje problem odpowiedzialności.

Cyfrowe dobro wspólne czy nowy monopol?

W jednym z najmocniejszych fragmentów debaty padło pytanie, czy AI będzie dobrem wspólnym, czy narzędziem dominacji. W rozmowie pojawiły się pojęcia „kolonializmu cyfrowego”, uzależnienia od platform i asymetrii władzy wynikającej z kontroli nad danymi.

„Czy AI będzie dobrem wspólnym, czy będzie narzędziem dominacji?”

To nie jest wyłącznie filozoficzny dylemat. Placówka, która przez lata uzależni procesy, dane i komunikację od jednego dostawcy, może później przekonać się, że zmiana systemu jest prawie niemożliwa. Własność danych, eksport dokumentacji, interoperacyjność, warunki rozwiązania umowy czy możliwość audytu modelu stają się równie ważne jak lista funkcji sprzedażowych.

Wyższa wydajność nie musi oznaczać lepszej pracy

W debacie powróciła myśl o godności pracy. AI może poprawić produktywność, zdejmować rutynowe obowiązki i oddawać pracownikom czas. Ale może też zamienić personel w wykonawców podpowiedzi, z których nie wolno się wyłamać. Różnica tkwi nie tylko w algorytmie, lecz w sposobie wdrożenia.

Jeśli pielęgniarka musi potwierdzić bezsensowną sugestię systemu, bo „tak przewiduje proces”, to automatyzacja nie wzmacnia zespołu. Pozbawia go sprawczości. Jeżeli lekarz ma mniej czasu na pacjenta pomimo wdrożenia technologii, to znaczy, że obietnica wzrostu wydajności nie została właściwie rozliczona.

Warto mierzyć nie tylko liczbę minut zaoszczędzonych przez AI, ale też liczbę decyzji, które człowiek nadal rozumie i kontroluje.

Choroba i starość przypominają, do czego służy relacja

Kard. Ryś wiele miejsca poświęcił ludzkiej kruchości: starości, chorobie i bezradności. Zwracał uwagę, że nie są to wyłącznie problemy do naprawienia technologią. Uczą zależności od innych i tworzą potrzebę realnego kontaktu. AI może pomagać, ale potrafi też stworzyć iluzję samowystarczalności.

To szczególnie mocno wybrzmiewa w medycynie. Pacjent w trudnej sytuacji nie jest „jednostką obsługi”, a prawidłowa informacja to nie zawsze wystarczająca pomoc. W niektórych momentach równie ważne są obecność, wysłuchanie i możliwość rozmowy z osobą, która podejmuje decyzje.

Język też jest technologią wpływu

Pod koniec rozmowy wróciła kwestia języka — tego, jak słowa oswajają konflikty, dominację i przemoc. Padła idea „rozbrojenia języka”: zanim zmienimy działania, powinniśmy uważać, jak opisujemy ludzi i relacje między nimi. Zamykanie całego świata w kategoriach efektywności, zasobów i sterowania to wybór, nie konieczność.

Ryś przywołał również edukację: nawet jeśli AI może dostarczyć szczegółowej wiedzy na dowolny temat, szkoła nadal ma uczyć samodzielności, wspólnego dochodzenia do prawdy i tworzenia relacji. Podobnie w organizacji — szkolenie nie może zostać zastąpione samym dostępem do chatbota.

To był zresztą temat, do którego wrócono później w panelu o sensie życia. Michał Rusinek poddał w wątpliwość samą wojenną metaforę „rozbrajania” języka. Ten drobny spór świetnie pokazał, po co są ludzie: żeby kwestionować nawet atrakcyjnie brzmiące hasła.

Pięć pytań przed wdrożeniem AI w placówce

Wydajność jest ważna. Ale kiedy zaczyna się rozmowa o tym, kto za co odpowiada, najbardziej błyskotliwy algorytm przestaje wystarczać. Najpierw projektujemy odpowiedzialność. Potem automatyzujemy.

Pełny dokument będący punktem wyjścia debaty: encyklika Magnifica humanitas Leona XIV (Watykan) ↗.