Vlády členských zemí EU a Evropský parlament dospěly po šestatřiceti hodinách k předběžné dohodě o obsahu prvního nařízení, které bude regulovat využívání umělé inteligence. Evropa se tak vybaví pravidly, která by měla zajistit, aby umělá inteligence sloužila co nejprospěšněji a nemohla být zneužita proti lidem nebo proti demokratickým hodnotám evropských společností. Text „Aktu o umělé inteligenci“ podle jeho autorů podněcuje další rozvoj inovativních technologií v této oblasti a zároveň znemožňuje jeho odklon nežádoucím směrem.
„Evropa se stává prvním kontinentem, který stanovil jasná pravidla pro využití umělé inteligence,“ radoval se hned po dosažení dohody v sobotu nad ránem na síti X eurokomisař Thierry Breton, který se o tento výsledek významně zasadil.
Historic!
— Thierry Breton (@ThierryBreton) December 8, 2023
The EU becomes the very first continent to set clear rules for the use of AI 🇪🇺
The #AIAct is much more than a rulebook — it's a launchpad for EU startups and researchers to lead the global AI race.
The best is yet to come! 👍 pic.twitter.com/W9rths31MU
Právě z jím řízené „dílny“ Evropské komise tento návrh před dvěma a půl lety vzešel a experti Komise se podíleli na všech následných fázích vyjednávání včetně té poslední, která trvala 37 hodin.
Zdlouhavý proces urychlila v poslední době sama realita, tedy masové rozšíření na internetu nástroje ChatGPT, produktu kalifornské firmy OpenAI, schopného závratnou rychlostí kompilovat dizertační práce, psát básně nebo provádět překlady.
Tato novinka, stejně jako další nástroje schopné generovat obrázky nebo vytvářet zvuky, odhalila široké veřejnosti nesmírné možnosti umělé inteligence, ale zároveň s tím také nebezpečí jejího zneužití: na sociálních sítích se již začaly objevovat zmanipulované texty nebo falešné fotografie a videa, což vyvolalo zvýšený tlak na potřebu stanovit pro tuto technologii nějaká pravidla.
V rámci „konzultace s veřejností“, kterou Komise uspořádala, byly tyto požadavky zahrnuty do vyjednávání; důraz byl položen na transparentnost algoritmů a databází, které jsou srdcem nových systémů.
Debata se pak točila zejména kolem otázky, kolik regulace je zapotřebí a jak daleko by měla jít, aby ještě měla smysl, nezahubila v zárodku další inovace a neobrátila se nakonec proti evropským startupům, které by v této svěrací kazajce nebyly schopny konkurovat firmám ze Spojených států a dalších částí světa. Do konzultací byly zapojeny firmy jako Aleph Alpha z Německa či francouzská Mistral AI považované za evropskou špičku.
Z toho, co víme, se zdá, že dosažený kompromis by měl vyhovovat oběma požadavkům. Je to ovšem zatím jen politická dohoda, tedy nalezení styčných bodů ohledně nejcitlivějších částí textu.
Na konečném znění se bude ještě pracovat. Teprve pak ho definitivně schválí Evropský parlament a Rada EU. Přesto má smysl o novince referovat již nyní, protože jde o zlomový bod a jeden z velkých úspěchů v jinak pro Unii nevalném roce 2023.
Pro šéfku Evropské komise Ursulu von der Leyenovou „Akt o umělé inteligenci přenáší evropské hodnoty do nové éry“ a „podstatně přispívá k vývoji globálních pravidel a zásad pro umělou inteligenci prospěšnou pro lidi“. Jedná se proto o „historický okamžik“.
Řízené systémy dohledu
Vyjednávání se zaseklo zejména na takzvaných „řízených systémech dohledu“, tedy využití umělé inteligence ke sledování lidí policií, zaměstnavateli nebo maloobchodníky. Obecně nebude možné takové sledování provádět v reálném čase; zakázáno bude používat biometrické technologie, včetně rozpoznávání emocí. Výjimku ze zákazu bude mít policie v případech, kdy bude čelit hrozbě teroristického útoku, bude pátrat po obětech trestné činnosti, třeba únosů, nebo při stíhání zvláště nebezpečných trestných činů.
Zákon předpokládá, že naprostá většina systémů umělé inteligence bude patřit do kategorie „minimálního rizika“; ty budou zaváděny a provozovány bez dodatečných povinností, protože nepředstavují žádné nebezpečí pro práva či bezpečnost lidí.
Naopak ty systémy, které budou označeny za „vysoce rizikové“, musejí vyhovět přísným požadavkům, včetně předložení detailní dokumentace, zajištění jasných informací pro uživatele a také lidského dozoru při jejich provozu.
Příkladem takových vysoce rizikových systémů umělé inteligence jsou některé řídící systémy pro distribuci vody, plynu nebo elektřiny, ale také lékařské přístroje nebo systémy používané pro nábor pracovníků. Patří sem podle vysvětlení Komise také některé nástroje využívané v trestněprávním řízení, ochraně hranic nebo justiční správě. Jako vysoce rizikové jsou a priori považovány všechny systémy biometrického rozpoznávání lidí či zachycování emocí.
Zakázáno bude podle dohody vše, co „lze považovat za jasnou hrozbu pro základní práva lidí“, tedy například aplikace umožňující ovlivňovat lidské chování či potlačovat svobodnou vůli uživatelů – například mluvící hračky nabádající děti či mladistvé k nebezpečnému chování. Do zákazu spadají i systémy umožňující „známkování“ lidí podle jejich chování (praxe běžná například v Číně), a to jak ze strany úřadů, tak vedení podniků.
Dodavatelé aplikací a nástrojů používajících umělou inteligenci budou muset zajistit, aby si uživatelé byli vědomi, že jsou v kontaktu s robotem. Veškeré produkty umělé inteligence, včetně písemných či zvukových záznamů, videí a podobných budou muset být jasně označeny jako plody umělé inteligence nebo výsledek manipulace s její pomocí. Firmám, které tato pravidla nebudou respektovat, hrozí schválený zákon vysokými pokutami.
V rámci Evropské komise vznikne AI Office – Kancelář pro umělou inteligenci, která bude dohlížet na naplňování nového nařízení nejen v EU, ale bude sledovat vývoj v této oblasti v celém světě.
Předpokládá se proto, že její dobrozdání budou mít globální vliv. Svou práci bude opírat o panel složený z nezávislých vědeckých kapacit, který bude sledovat vývoj situace a vydávat varování v případě, že se objeví nová rizika nebo evropským právem neupravené jevy.
