Wojdyło - prawne aspekty nowych technologii

Na poziomie deklaracji i intencji Akt w sprawie sztucznej inteligencji jednoznacznie postuluje zapewnienie nadzoru nad systemami AI przez człowieka. Na poziomie niższym, w szczególności przy określaniu szczegółowych obowiązków podmiotów stosujących systemy AI, przepisy Aktu nie są już tak jednoznaczne. W tekście staram się zarysować najważniejsze wyzwania, z którymi w tym kontekście będą musieli zmierzyć się dostawcy systemów AI oraz podmioty stosujące te systemy.

Na pierwszym tegorocznym spotkaniu będziemy rozmawiać o wytworach generowanych przez AI lub z pomocą AI oraz o tym, jak deepfake może wpłynąć na procedury KYC.

Technośniadania to seria spotkań przebiegających w luźnej atmosferze, podczas których prawnicy naszej kancelarii omawiają najciekawsze zagadnienia prawne związane z nowymi technologiami. Dobór tematów nie jest przypadkowy. Staramy się omawiać kwestie najbardziej uniwersalne, dotyczące wszystkich przedsiębiorców. Przedstawiamy je w sposób praktyczny, wskazując pułapki oraz szanse, które się z nimi wiążą. Trzecie z cyklu a zarazem ostatnie w tym roku technośniadanie poświęcimy zagadnieniom związanym z AI i dark patterns.

Przepisy o zakazanych praktykach w zakresie systemów AI wchodzą w życie już 2 lutego 2025 r. Wiele instytucji zakłada zapewne, że zakazy dotyczą jedynie ekstremalnych praktyk, które na pewno nie są ich udziałem. Jednak zakaz stosowania systemów AI do oceny ryzyka popełnienia przestępstwa pokazuje, że nie jest to prawidłowe podejście. Bardziej wnikliwa analiza prowadzi do wniosku, że część działań uznawanych do tej pory za rynkowy standard, szczególnie w sektorze usług finansowych, może okazać się wątpliwa w świetle wspomnianego zakazu. Dotyczy to w szczególności praktyk stosowanych przy monitorowaniu ryzyka AML oraz szeroko pojętego monitorowania ryzyka fraudów.  

Niezależnie od tego, czy w najnowszych technologiach AI widzimy korzyści, czy potencjalne egzystencjalne zagrożenie, niezaprzeczalny jest ciężar gatunkowy wyzwań, które te technologie ze sobą niosą. W ciągu ostatnich kilkudziesięciu lat postęp technologiczny znacznie wyprzedził refleksję nad jego możliwymi konsekwencjami. Tak nie musi i nie powinno być. O tym, że technologie nie są wyłącznie źródłem dobra, przekonujemy się dzisiaj, kiedy zaczynamy dostrzegać destrukcyjny wpływ, jaki niektóre technologie cyfrowe wywierają na nasze demokracje, bezpieczeństwo czy komfort psychiczny. W obliczu najnowszych osiągnięć technologicznych, takich jak AI, mamy szansę uniknąć błędów i przynajmniej podjąć próbę przekierowania rozwoju tych technologii w stronę autentycznych korzyści, przy jednoczesnym ograniczeniu ryzyk. W tym kontekście zdecydowałem się podpisać apel o czasowe wstrzymanie prac nad systemami AI. Zachęcam do tego również innych, a poniżej podaję główne przesłanki, którymi się kierowałem.

Od dłuższego czasu było jasne, że w najbliższych latach będziemy świadkami prób uregulowania świata zdecentralizowanych finansów. Okazuje się, że jedne z najbardziej rewolucyjnych regulacji mogą zostać wprowadzone poprzez zmianę niszowego rozporządzenia dotyczącego informacji towarzyszącym transferom pieniężnym.

Mowa jest o projektowanych zmianach w rozporządzeniu Parlamentu Europejskiego i Rady (UE) 2015/847 z dnia 20 maja 2015 r. w sprawie informacji towarzyszących transferom środków pieniężnych i uchylenia rozporządzenia (WE) nr 1781/2006 w sprawie informacji towarzyszącym transferom środków pieniężnych. Rozporządzenie to znane jest również pod nazwą WTR2. Jest ono częścią szerokiego pakietu regulacji zmierzających do przeciwdziałania praniu pieniędzy oraz finansowaniu terroryzmu. Podstawowym celem WTR2 jest zapewnienie, aby transferom pieniężnym towarzyszyły odpowiednie informacje umożliwiające identyfikację stron transakcji.