newtech.law - prawne aspekty nowych technologii

Na poziomie deklaracji i intencji Akt w sprawie sztucznej inteligencji jednoznacznie postuluje zapewnienie nadzoru nad systemami AI przez człowieka. Na poziomie niższym, w szczególności przy określaniu szczegółowych obowiązków podmiotów stosujących systemy AI, przepisy Aktu nie są już tak jednoznaczne. W tekście staram się zarysować najważniejsze wyzwania, z którymi w tym kontekście będą musieli zmierzyć się dostawcy systemów AI oraz podmioty stosujące te systemy.

Na pierwszym tegorocznym spotkaniu będziemy rozmawiać o wytworach generowanych przez AI lub z pomocą AI oraz o tym, jak deepfake może wpłynąć na procedury KYC.

Technośniadania to seria spotkań przebiegających w luźnej atmosferze, podczas których prawnicy naszej kancelarii omawiają najciekawsze zagadnienia prawne związane z nowymi technologiami. Dobór tematów nie jest przypadkowy. Staramy się omawiać kwestie najbardziej uniwersalne, dotyczące wszystkich przedsiębiorców. Przedstawiamy je w sposób praktyczny, wskazując pułapki oraz szanse, które się z nimi wiążą. Trzecie z cyklu a zarazem ostatnie w tym roku technośniadanie poświęcimy zagadnieniom związanym z AI i dark patterns.

Przepisy o zakazanych praktykach w zakresie systemów AI wchodzą w życie już 2 lutego 2025 r. Wiele instytucji zakłada zapewne, że zakazy dotyczą jedynie ekstremalnych praktyk, które na pewno nie są ich udziałem. Jednak zakaz stosowania systemów AI do oceny ryzyka popełnienia przestępstwa pokazuje, że nie jest to prawidłowe podejście. Bardziej wnikliwa analiza prowadzi do wniosku, że część działań uznawanych do tej pory za rynkowy standard, szczególnie w sektorze usług finansowych, może okazać się wątpliwa w świetle wspomnianego zakazu. Dotyczy to w szczególności praktyk stosowanych przy monitorowaniu ryzyka AML oraz szeroko pojętego monitorowania ryzyka fraudów.  

W jakie pułapki prawne można wpaść, tworząc grę? Łatwo się o tym przekonać, wcielając się w postać Kreatywnej, Kierowniczki, Księgowego lub Konsultanta w grze Gamedev CEO simulator przygotowanej przez praktykę gamingową kancelarii Wardyński i Wspólnicy.

Co się liczy przy tworzeniu gier? Oczywiście pomysł. Grafika. Grywalność.

Niestety to nie wszystko. Na twórców czyha też Prawo. Tym, co je znają, pomaga. Tych, co go nie znają, zaskakuje.

Stąd seria artykułów o gamingu na portalu Codozasady.pl i stąd gra Gamedev CEO simulator (w formie interaktywnego pliku PDF) opracowana przez Monikę A. Górską i Lenę Marcinoską-Boulangé z praktyki gamingowej.

Akt o rynkach cyfrowych (Digital Markets Act, dalej: DMA), który wszedł w życie 1 listopada 2022 r., przyniesie wiele nowych obowiązków dla przedsiębiorstw świadczących usługi w sektorze cyfrowym, w szczególności dla tzw. strażników dostępu (ang. gatekeepers).

Nowe przepisy wpłyną jednak na funkcjonowanie całego ekosystemu cyfrowego, nie tylko na wspomnianych strażników dostępu, lecz również na pozostałych uczestników rynków cyfrowych, w tym użytkowników biznesowych i użytkowników końcowych korzystających z podstawowych usług platformowych, konkurencyjnych dostawców podstawowych usług platformowych oraz dostawców innych usług cyfrowych.

Wynika to z tego, że obowiązki i zakazy nałożone na strażników dostępu przyznają – bezpośrednio lub pośrednio – szerokiej grupie ww. podmiotów uprawnienia, które mogą być dochodzone przed sądami krajowymi.