Wojdyło - prawne aspekty nowych technologii

Proponuję, dla zachowania niezbędnej równowagi, spojrzeć niekiedy z boku na ogarniającą nas coraz częściej technologiczną ekstazę. Szybko zrozumiemy wtedy, że to nie inwestowanie bezprecedensowych sum w rozwój AI i innych technologii cyfrowych jest aktualnie naszą najpilniejszą potrzebą.

Od jakiegoś czasu nie daje mi spokoju tzw. paradoks Solowa. To zaobserwowana w latach 80. XX wieku zupełnie nieintuicyjna zależność pomiędzy rozwojem cyfrowych technologii a produktywnością. Dane ekonomiczne za ostatnie 40 lat pokazują, że w gospodarkach najbardziej rozwiniętych wcale nie doszło do znaczącego wzrostu produktywności, pomimo rozpowszechnienia internetu, komputerów oraz różnych cyfrowych narzędzi. Co ciekawe, wskaźniki produktywności są w tym okresie wyraźnie niższe niż w okresach poprzedzających cyfrową rewolucję.

Na poziomie deklaracji i intencji Akt w sprawie sztucznej inteligencji jednoznacznie postuluje zapewnienie nadzoru nad systemami AI przez człowieka. Na poziomie niższym, w szczególności przy określaniu szczegółowych obowiązków podmiotów stosujących systemy AI, przepisy Aktu nie są już tak jednoznaczne. W tekście staram się zarysować najważniejsze wyzwania, z którymi w tym kontekście będą musieli zmierzyć się dostawcy systemów AI oraz podmioty stosujące te systemy.

Na pierwszym tegorocznym spotkaniu będziemy rozmawiać o wytworach generowanych przez AI lub z pomocą AI oraz o tym, jak deepfake może wpłynąć na procedury KYC.

Technośniadania to seria spotkań przebiegających w luźnej atmosferze, podczas których prawnicy naszej kancelarii omawiają najciekawsze zagadnienia prawne związane z nowymi technologiami. Dobór tematów nie jest przypadkowy. Staramy się omawiać kwestie najbardziej uniwersalne, dotyczące wszystkich przedsiębiorców. Przedstawiamy je w sposób praktyczny, wskazując pułapki oraz szanse, które się z nimi wiążą. Trzecie z cyklu a zarazem ostatnie w tym roku technośniadanie poświęcimy zagadnieniom związanym z AI i dark patterns.

Przepisy o zakazanych praktykach w zakresie systemów AI wchodzą w życie już 2 lutego 2025 r. Wiele instytucji zakłada zapewne, że zakazy dotyczą jedynie ekstremalnych praktyk, które na pewno nie są ich udziałem. Jednak zakaz stosowania systemów AI do oceny ryzyka popełnienia przestępstwa pokazuje, że nie jest to prawidłowe podejście. Bardziej wnikliwa analiza prowadzi do wniosku, że część działań uznawanych do tej pory za rynkowy standard, szczególnie w sektorze usług finansowych, może okazać się wątpliwa w świetle wspomnianego zakazu. Dotyczy to w szczególności praktyk stosowanych przy monitorowaniu ryzyka AML oraz szeroko pojętego monitorowania ryzyka fraudów.  

Niezależnie od tego, czy w najnowszych technologiach AI widzimy korzyści, czy potencjalne egzystencjalne zagrożenie, niezaprzeczalny jest ciężar gatunkowy wyzwań, które te technologie ze sobą niosą. W ciągu ostatnich kilkudziesięciu lat postęp technologiczny znacznie wyprzedził refleksję nad jego możliwymi konsekwencjami. Tak nie musi i nie powinno być. O tym, że technologie nie są wyłącznie źródłem dobra, przekonujemy się dzisiaj, kiedy zaczynamy dostrzegać destrukcyjny wpływ, jaki niektóre technologie cyfrowe wywierają na nasze demokracje, bezpieczeństwo czy komfort psychiczny. W obliczu najnowszych osiągnięć technologicznych, takich jak AI, mamy szansę uniknąć błędów i przynajmniej podjąć próbę przekierowania rozwoju tych technologii w stronę autentycznych korzyści, przy jednoczesnym ograniczeniu ryzyk. W tym kontekście zdecydowałem się podpisać apel o czasowe wstrzymanie prac nad systemami AI. Zachęcam do tego również innych, a poniżej podaję główne przesłanki, którymi się kierowałem.