Vyvíjet a prosazovat umělou inteligenci ve všech sférách lidské činnosti a zároveň zajistit, aby její používání bylo bezpečné, v souladu s právem a hodnotami, ke kterým se hlásí Evropská unie. To je cílem vůbec prvního zákona o umělé inteligenci (Artificial Intelligence Act), který na základě návrhu Evropské komise a po 20 měsících vyjednávání schválily pod českou taktovkou členské státy EU. Konečnou podobu dostane po dojednání s Evropským parlamentem.
Obsáhlý a podrobný návrh je koncipován jako horizontální rámec pro použití umělé inteligence; podporuje výzkum, usnadňuje využívání a aplikaci jeho výsledků, zejména v průmyslu, obsahuje pravidla pro vznik jednotného trhu s digitálními aplikacemi a celkově prosazuje užívání umělé inteligence v EU. Souběžně však obsahuje řadu limitů, omezení a varování, která mají zajistit, že rozvoj a využívání umělé inteligence se budou dít v souladu se zákony a nebude nikterak narušovat lidská práva či soukromí nebo bezpečnost fyzických osob.
Projednávání doprovázela právě debata o taxativním výčtu míněných zákazů či limitů. Patří mezi ně například požadavek, aby technologie využívající umělou inteligenci nebyly vyvíjeny tak, aby data do nich uložená způsobovala předsudky, takže jejich použití by pak mohlo vést k diskriminacím podle pohlaví, rasy, náboženství nebo jiného hlediska. Zakázány jsou algoritmy či aplikace, které manipulují lidským chováním nebo obcházejí svobodnou vůli uživatelů. Umělou inteligenci nebude tedy v EU dovoleno používat ke sledování výkonů či chování a následnému bodování, a to ani fyzických, ani právnických osob.
