sztuczna inteligencja - prawne aspekty nowych technologii

Przepisy o zakazanych praktykach w zakresie systemów AI wchodzą w życie już 2 lutego 2025 r. Wiele instytucji zakłada zapewne, że zakazy dotyczą jedynie ekstremalnych praktyk, które na pewno nie są ich udziałem. Jednak zakaz stosowania systemów AI do oceny ryzyka popełnienia przestępstwa pokazuje, że nie jest to prawidłowe podejście. Bardziej wnikliwa analiza prowadzi do wniosku, że część działań uznawanych do tej pory za rynkowy standard, szczególnie w sektorze usług finansowych, może okazać się wątpliwa w świetle wspomnianego zakazu. Dotyczy to w szczególności praktyk stosowanych przy monitorowaniu ryzyka AML oraz szeroko pojętego monitorowania ryzyka fraudów.  

Niezależnie od tego, czy w najnowszych technologiach AI widzimy korzyści, czy potencjalne egzystencjalne zagrożenie, niezaprzeczalny jest ciężar gatunkowy wyzwań, które te technologie ze sobą niosą. W ciągu ostatnich kilkudziesięciu lat postęp technologiczny znacznie wyprzedził refleksję nad jego możliwymi konsekwencjami. Tak nie musi i nie powinno być. O tym, że technologie nie są wyłącznie źródłem dobra, przekonujemy się dzisiaj, kiedy zaczynamy dostrzegać destrukcyjny wpływ, jaki niektóre technologie cyfrowe wywierają na nasze demokracje, bezpieczeństwo czy komfort psychiczny. W obliczu najnowszych osiągnięć technologicznych, takich jak AI, mamy szansę uniknąć błędów i przynajmniej podjąć próbę przekierowania rozwoju tych technologii w stronę autentycznych korzyści, przy jednoczesnym ograniczeniu ryzyk. W tym kontekście zdecydowałem się podpisać apel o czasowe wstrzymanie prac nad systemami AI. Zachęcam do tego również innych, a poniżej podaję główne przesłanki, którymi się kierowałem.

Ostatnio przyjrzeliśmy się definicji systemów sztucznej inteligencji oraz podmiotowemu i terytorialnemu zakresowi projektowanego aktu w sprawie SI, z uwzględnieniem listopadowych propozycji zmian Rady do tego projektu. W tym artykule omówimy poziomy ryzyka, od których unijny prawodawca unijny uzależnia zakres nakładanych obowiązków i ograniczeń.

Na całym świecie pokłada się wielkie nadzieje w rozwoju systemów sztucznej inteligencji. Sztuczna inteligencja może przynieść wiele korzyści gospodarczych i społecznych w różnych aspektach życia czy sektorach gospodarki, w tym w dziedzinie środowiska, rolnictwa, zdrowia, finansów, podatków, mobilności czy spraw wewnętrznych.

Postępujący rozwój systemów sztucznej inteligencji wymusza stworzenie odpowiednich ram prawnych, które z jednej strony pozwolą na dalszy rozwój technologii SI, a z drugiej strony zapewnią należytą ochronę osób, które z takich systemów będą korzystać, i zwiększą społeczne zaufanie do ich działania.

Tym razem zajmiemy się rozwiązaniami z pierwszej linii frontu. Chodzi o
urządzenia do zdalnej diagnostyki, które mogą zwiększyć skuteczność wykrywania
koronawirusa, a także odciążyć służbę zdrowia w innych obszarach. Rozwiązania
te mogą również stać się swoistym poligonem doświadczalnym w zakresie podejścia
regulacyjnego do nadzorowania algorytmów.

Bezpośrednią inspiracją do napisania tego tekstu stało się rozwiązanie firmy StethoMe przedstawione podczas DemoDay zorganizowanego przez MIT Enterprise Forum CEE. Jest to bezprzewodowy stetoskop połączony z aplikacją, która pozwala przeprowadzić badanie osłuchowego na odległość. Dodatkowo system umożliwia analizę zebranych danych z wykorzystaniem algorytmu AI. StethoMe testuje aktualnie możliwość wykorzystania zdalnego stetoskopu do badania zmian wywołanych koronawirusem. Diagnostyka na odległość mogłaby istotnie zwiększyć efektywność i bezpieczeństwo walki z wirusem.

Można z dużym prawdopodobieństwem założyć, że jednym ze skutków pandemii będzie wzrost zainteresowania zdalnymi rozwiązaniami diagnostycznymi w najbliższej przyszłości. Warto w związku z tym zwrócić uwagę na specyficzne wyzwanie regulacyjne, które będzie się nieodłącznie wiązało z takimi rozwiązaniami.

W ostatnich dniach ujrzały światło dzienne bardzo ważne dla przyszłości europejskiej gospodarki dokumenty strategiczne Komisji Europejskiej. Dotyczą one strategii dla danych oraz strategii dla AI. Dokumenty przedstawiono do publicznych konsultacji. Wyłania się z nich wizja europejskiego podejścia do nowego modelu gospodarki.

Zgodnie z dokumentami nowy model gospodarki ma być oparty na pryncypiach ważnych dla europejskich wartości, tj. przede wszystkim godności człowieka oraz zaufaniu. Warto podkreślić ten wątek, gdyż Unia Europejska wyraźnie wyrasta na globalnego lidera w myśleniu o nowych technologiach przez pryzmat wartości humanistycznych. To unikatowe podejście, ale wiąże się z nim parę  dylematów. Przyjmując je, UE ryzykuje utratę przewagi konkurencyjnej – przynajmniej w krótkiej perspektywie. Najprawdopodobniej bowiem technologie AI szybciej rozwiną się w tych miejscach, w których ich rozwój nie będzie ograniczany wątpliwościami etycznymi. Komisja proponuje zatem bardzo ambitne, ale jednocześnie ryzykowne podejście.