Neil Postman, amerykański filozof i autor książki pt. „Technopol. Triumf techniki nad kulturą”, wydanej w roku 1992, przytacza przykład zegara mechanicznego wynalezionego przez mnichów benedyktyńskich. Według Postmana motywem wynalezienia zegara było dążenie do precyzyjnego przestrzegania porządku modlitw kanonicznych, które mnisi odprawiali siedem razy dziennie. „Gdyby wiedzieli, że zegar mechaniczny zostanie później użyty przez kupców do ustanowienia zunifikowanego dnia pracy, a następnie opracowania wystandaryzowanego produktu – a więc że zegar może być użyty jako narzędzie służące zarabianiu pieniędzy, a nie służeniu Bogu – mnisi mogliby uznać, że ich zegary słoneczne i wodne w zupełności im wystarczały. Gdyby Gutenberg przewidział, że jego prasa drukarska z ruchomą czcionką doprowadzi do rozłamu Kościoła rzymskokatolickiego, z pewnością używałby dalej swej starej prasy do wina do robienia wina właśnie, a nie książek” [1].

Podobnie dzieje się w przypadku najnowszych technologicznych innowacji w dziedzinie tzw. „sztucznej inteligencji”. Co do zasady sztuczna inteligencja, tak jak wcześniejsze przełomowe osiągnięcia technologiczne, poprawia wydajność naszego życia. Znalazła też jednak inne, bardziej znaczące zastosowanie. Jest mianowicie używana jako narzędzie do decydowania o ludzkim życiu: korzystają z niej banki udzielając kredytów, uniwersytety przyznając stypendia, organy administracji publicznej nakładając grzywny. Możemy się spodziewać, że wkrótce sztuczna inteligencja znajdzie zastosowanie w sądach, gdzie zastąpi sędziów (zamiast im asystować).

Jednak eliminacja ludzi z procesu podejmowania decyzji dotyczących innych ludzi doprowadzi w rezultacie do wyeliminowania kluczowego atrybutu społeczeństwa obywatelskiego, czyli poczucia odpowiedzialności za podejmowane decyzje i ich konsekwencje, właściwości zwykle przypisywanej jedynie ludziom.

Podejmować decyzję znaczy ponosić za nią odpowiedzialność. Poczucie odpowiedzialności cementuje społeczeństwo obywatelskie. Zarówno nasza osobista, jak i zawodowa uczciwość jest wypadkową naszego poczucia odpowiedzialności, to zaś poczucie odpowiedzialności jest efektem naszej zdolności dokonywania oceny i podejmowania decyzji na jej podstawie. Podejmując decyzję mającą wpływ na życie innych ludzi, musimy wiedzieć, czy kogoś krzywdzimy i powodujemy jego cierpienie, czy też nie. Spowodowanie krzywdy i cierpienia wywoła zwykle nieprzyjemne poczucie winy, co przekłada się na poczucie odpowiedzialności.

Za technologiami zawsze stoją ludzie, działający albo w dobrej, albo złej wierze. Sęk w tym, że algorytmy pozwalają im pozbyć się poczucia odpowiedzialności, podobnie jak zasłanianie się literalnie rozumianymi przepisami prawa, procedurami i wykonywaniem cudzych poleceń, co w przeszłości pozwalało na odmowę posługiwania się własnym osądem i ponoszenia emocjonalnego ciężaru z tym związanego.

Dlatego też algorytmy, zwane też „bronią matematycznej zagłady”, mogą wpływać niszcząco nie tylko na ludzi, których bezpośrednio dotyczą, ale również na funkcjonowanie społeczeństwa obywatelskiego jako całości. Algorytmy te rozrzedzają lub całkowicie eliminują konieczne poczucie odpowiedzialności i pozwalają na nadużycia w procesie podejmowania decyzji.

Istnieje wiele przykładów, jak społecznie użytecznych technologii można użyć w celu krzywdzenia i wykorzystywania całych społeczności na masową skalę, gdyż odpowiedzialność za ich zastosowanie nie jest właściwie przypisywana. Duże zbiory danych (Big Data), wykorzystywane początkowo w reklamie ukierunkowanej, a dziś mające zastosowanie w wielu dziedzinach gospodarki oraz w przypadku długotrwałych problemów społecznych[2], są używane do manipulowania ludźmi lub – na szczeblu instytucji państwowych – do zarządzania ludźmi bez ich zgody, a nawet wiedzy. Osoby stojące za tymi nadużyciami pozostają anonimowe, nie ponoszą żadnej odpowiedzialności, a co najważniejsze nie odczuwają psychologicznego dyskomfortu w postaci poczucia odpowiedzialności za konsekwencje swoich decyzji oraz czynów.

Naszym nadrzędnym obowiązkiem jako prawników jest zrozumienie zachodzących procesów technologicznych i sformułowanie jasnych reguł pozwalających na zidentyfikowanie nadużyć oraz przypisanie odpowiedzialności za niewłaściwe korzystanie z technologii. Od tego zależeć będzie ochrona praw człowieka i kluczowych wartości będących fundamentami społeczeństwa obywatelskiego.

Nasze krytyczne i sceptyczne nastawienie, odziedziczone po myślicielach z XVIII wieku, powinno nas zachęcać do zadania sobie następujących pytań odnośnie do innowacji technologicznych oraz ich zastosowania:

• jaki problem te technologie rozwiązują?[3]
• czyj jest to problem?[4]
• jacy ludzie i jakie instytucje mogą najbardziej ucierpieć z powodu rozwiązań technologicznych?[5]
• jakie nowe problemy mogą powstać w wyniku jego rozwiązania?[6]
• jakiego rodzaju ludzie i instytucje mogą osiągnąć szczególną władzę ekonomiczną i polityczną w wyniku zmiany technologicznej?[7]

Cytując Postmana, „W XIII, a być może nawet w XV wieku prawdopodobnie nie miało to większego znaczenia, jeśli ludziom zabrakło wyobraźni technologicznej. Jednak w wieku XXI nie możemy już pozwolić sobie na marsz w przyszłość z zamkniętymi oczami”[8].

Tomasz Wardyński