newtech.law

Opublikowano Kategorie sztuczna inteligencja

Dlaczego podpisałem się pod apelem o wstrzymanie prac nad rozwojem AI?

Niezależnie od tego, czy w najnowszych technologiach AI widzimy korzyści, czy potencjalne egzystencjalne zagrożenie, niezaprzeczalny jest ciężar gatunkowy wyzwań, które te technologie ze sobą niosą. W ciągu ostatnich kilkudziesięciu lat postęp technologiczny znacznie wyprzedził refleksję nad jego możliwymi konsekwencjami. Tak nie musi i nie powinno być. O tym, że technologie nie są wyłącznie źródłem dobra, przekonujemy się dzisiaj, kiedy zaczynamy dostrzegać destrukcyjny wpływ, jaki niektóre technologie cyfrowe wywierają na nasze demokracje, bezpieczeństwo czy komfort psychiczny. W obliczu najnowszych osiągnięć technologicznych, takich jak AI, mamy szansę uniknąć błędów i przynajmniej podjąć próbę przekierowania rozwoju tych technologii w stronę autentycznych korzyści, przy jednoczesnym ograniczeniu ryzyk. W tym kontekście zdecydowałem się podpisać apel o czasowe wstrzymanie prac nad systemami AI. Zachęcam do tego również innych, a poniżej podaję główne przesłanki, którymi się kierowałem.

Czytaj dalej Dlaczego podpisałem się pod apelem o wstrzymanie prac nad rozwojem AI?
Opublikowano Kategorie sztuczna inteligencja, zmiany w prawie

Podejście oparte na ryzyku i nowe obowiązki w projekcie aktu w sprawie SI

Ostatnio przyjrzeliśmy się definicji systemów sztucznej inteligencji oraz podmiotowemu i terytorialnemu zakresowi projektowanego aktu w sprawie SI, z uwzględnieniem listopadowych propozycji zmian Rady do tego projektu. W tym artykule omówimy poziomy ryzyka, od których unijny prawodawca unijny uzależnia zakres nakładanych obowiązków i ograniczeń.

Czytaj dalej Podejście oparte na ryzyku i nowe obowiązki w projekcie aktu w sprawie SI
Opublikowano Kategorie sztuczna inteligencja, zmiany w prawie

Projekt aktu w sprawie SI – czy UE stworzy globalny standard regulacji systemów SI?

Na całym świecie pokłada się wielkie nadzieje w rozwoju systemów sztucznej inteligencji. Sztuczna inteligencja może przynieść wiele korzyści gospodarczych i społecznych w różnych aspektach życia czy sektorach gospodarki, w tym w dziedzinie środowiska, rolnictwa, zdrowia, finansów, podatków, mobilności czy spraw wewnętrznych.

Postępujący rozwój systemów sztucznej inteligencji wymusza stworzenie odpowiednich ram prawnych, które z jednej strony pozwolą na dalszy rozwój technologii SI, a z drugiej strony zapewnią należytą ochronę osób, które z takich systemów będą korzystać, i zwiększą społeczne zaufanie do ich działania.

Czytaj dalej Projekt aktu w sprawie SI – czy UE stworzy globalny standard regulacji systemów SI?
Opublikowano Kategorie sztuczna inteligencja

Tech kontra wirus (2) – diagnostyka na odległość

Tym razem zajmiemy się rozwiązaniami z pierwszej linii frontu. Chodzi o urządzenia do zdalnej diagnostyki, które mogą zwiększyć skuteczność wykrywania koronawirusa, a także odciążyć służbę zdrowia w innych obszarach. Rozwiązania te mogą również stać się swoistym poligonem doświadczalnym w zakresie podejścia regulacyjnego do nadzorowania algorytmów.

Bezpośrednią inspiracją do napisania tego tekstu stało się rozwiązanie firmy StethoMe przedstawione podczas DemoDay zorganizowanego przez MIT Enterprise Forum CEE. Jest to bezprzewodowy stetoskop połączony z aplikacją, która pozwala przeprowadzić badanie osłuchowego na odległość. Dodatkowo system umożliwia analizę zebranych danych z wykorzystaniem algorytmu AI. StethoMe testuje aktualnie możliwość wykorzystania zdalnego stetoskopu do badania zmian wywołanych koronawirusem. Diagnostyka na odległość mogłaby istotnie zwiększyć efektywność i bezpieczeństwo walki z wirusem.

Można z dużym prawdopodobieństwem założyć, że jednym ze skutków pandemii będzie wzrost zainteresowania zdalnymi rozwiązaniami diagnostycznymi w najbliższej przyszłości. Warto w związku z tym zwrócić uwagę na specyficzne wyzwanie regulacyjne, które będzie się nieodłącznie wiązało z takimi rozwiązaniami.

Czytaj dalej Tech kontra wirus (2) – diagnostyka na odległość
Opublikowano Kategorie blockchain, sztuczna inteligencja

Europejska wizja gospodarki opartej na danych

W ostatnich dniach ujrzały światło dzienne bardzo ważne dla przyszłości europejskiej gospodarki dokumenty strategiczne Komisji Europejskiej. Dotyczą one strategii dla danych oraz strategii dla AI. Dokumenty przedstawiono do publicznych konsultacji. Wyłania się z nich wizja europejskiego podejścia do nowego modelu gospodarki.

Zgodnie z dokumentami nowy model gospodarki ma być oparty na pryncypiach ważnych dla europejskich wartości, tj. przede wszystkim godności człowieka oraz zaufaniu. Warto podkreślić ten wątek, gdyż Unia Europejska wyraźnie wyrasta na globalnego lidera w myśleniu o nowych technologiach przez pryzmat wartości humanistycznych. To unikatowe podejście, ale wiąże się z nim parę  dylematów. Przyjmując je, UE ryzykuje utratę przewagi konkurencyjnej – przynajmniej w krótkiej perspektywie. Najprawdopodobniej bowiem technologie AI szybciej rozwiną się w tych miejscach, w których ich rozwój nie będzie ograniczany wątpliwościami etycznymi. Komisja proponuje zatem bardzo ambitne, ale jednocześnie ryzykowne podejście.

Czytaj dalej Europejska wizja gospodarki opartej na danych
Opublikowano Kategorie sztuczna inteligencja

Sztuczna inteligencja nie może przewidywać wyroków sędziów w Francji

O zastosowaniu sztucznej inteligencji w branży prawniczej od dawna pisze się dużo. Także my wspominaliśmy o różnego rodzaju rozwiązaniach tego rodzaju na naszym blogu. Jednym z takich rozwiązań jest tzw. analityka predykcyjna, czyli używanie algorytmów do przewidywania wyroków, które zostaną wydane przez konkretnego sędziego w danym stanie faktycznym. Takie narzędzia opierają się przede wszystkim na analizie orzeczeń wydanych w przeszłości i wyciąganiu z nich różnego rodzaju wniosków, np. w zakresie szans na wygranie sporu.

Niedawno we Francji, wraz z reformą wymiaru sprawiedliwości, wprowadzono zakaz wykorzystywania danych dotyczących tożsamości sędziów w celu oceny, analizowania, porównywania lub przewidywania ich rzeczywistych lub rzekomych praktyk zawodowych. Nieprzestrzeganie tego ograniczenia może skutkować karą do pięciu lat pozbawienia wolności.

Czytaj dalej Sztuczna inteligencja nie może przewidywać wyroków sędziów w Francji