Plán EU na regulaci umělé inteligence počítá se zákazy i pokutami

„Evropa dělá první tah a představuje nadčasová pravidla pro důvěryhodnou umělou inteligenci a podporu inovací. Její potenciální přínosy pro naši společnost jsou rozmanité, ale existují i rizika. Proto stanovujeme zákaz omezeného počtu použití umělé inteligence, která jsou v rozporu s hodnotami EU nebo porušují základní práva,“ říká místopředsedkyně Evropské komise Věra Jourová.

Podle plánů komise mají být v EU zakázané technologie například na výpočet takzvaného sociálního skóre, které by sledovaly ekonomické či společenského chování a nastavovaly například různé úrovně přístupu k veřejným službám. Takový systém už využívá například Čína.

Zakázané budou technologie zneužívající zranitelnosti dětí, nebo manipulující s lidským chováním s cílem obejít svobodnou vůli uživatelů - zde Komise v prohlášení uvedla jako příklad hračky s hlasovým asistentem, který navádí nezletilé k nebezpečnému chování.

Stejně tak využití systémů umožňujících sledovat lidi pomocí rozpoznávání obličeje by se mělo do budoucna omezit výslovně jen na prevenci teroristických útoků či hledání ztracených dětí. Určitou výjimku by měly získat i případy, kdy bude ohrožena „veřejná bezpečnost“, proti čemuž už ovšem vystoupili někteří lidskoprávní aktivisté.

Další technologie, které Brusel považuje za rizikové, budou muset splnit přísná pravidla. Sem patří třeba využití umělé inteligence (AI) v personalistice nebo prověřování bonity klientů finančních institucí.

Bez omezení by bylo možné využívat AI v případech, které z pohledu Komise žádné riziko nepředstavují, například ve videohrách nebo ve spamových filtrech elektronické pošty.

Za porušení pravidel má podle Komise firmám hrozit pokuta až šest procent ročního obratu anebo třicet milionů eur (780 milionů korun) - podle toho, která částka bude vyšší.

Komise také navrhuje, aby nová pravidla pomáhala do života uvádět nově zřízená Evropská rada pro umělou inteligenci. Všechny tyto plány však nejprve musí schválit členské státy a europarlament, což se může táhnout ještě roky.

„Je třeba hledat takové řešení, které umožní, aby AI byla maximálně užitečná pro společnost, a zároveň poskytne záruky, že její použití nebude narušovat ochranu soukromí a osobních údajů,“ uvedl počátkem týdne český europoslanec Jiří Pospíšil (TOP 09).

Odpůrci plošné regulace však unijní přístup kritizují. Podle nich zpozdí vývoj a nasazení některých technologií na evropském trhu a způsobí technologické zaostávání kontinentu za Amerikou a Čínou. - čtěte EU chystá regulaci umělé inteligence. Experti se obávají odlivu mozků

„Další problém je, jaké množství povinností musí podnikatel, který se svým produktem do této kategorie spadne, splnit. Jde o vnitřní předpisy, kontrolu a především certifikace, takzvané posuzování shody, známé značkou CE. ve složitých případech až roky trvající nákladná procedura, bez které nesmí na trh EU. Doslova se tam píše, že na AI systém se má nalepit značka CE, což jen dokresluje absurditu,“ popisuje Jan Klesla, který řídí projekt Evropského centra excelence v AI vedený pražským ČVUT.

Pro poskytovatele vysoce rizikových systémů AI zavádí regulace povinnost testovat jejich software na kvalitních datových souborech. Například u samořídicích aut jde o soubory fotografií a videosekvencí chodců.

Jenže i v požadavku na kvalitní datové soubory je háček. „Trénování AI modelu pouze na vyvážených datasetech je samo o sobě skvělou myšlenkou. Jsou tu ale i oblasti, pro které takové datasety neexistují. Regulace už neřeší to, jestli se nám vyplatí zdržet pokrok a čekat třeba šest let, až někdo postaví vyvážený dataset,“ říká expert na umělou inteligenci Martin Rehák, jehož firma Resistant AI působí v oblasti kyberbezpečnosti.

Komisaři jsou však přesvědčeni, že budoucí vývoj nová legislativa neohrozí. „Naše pravidla, která jsou připravena na budoucí vývoj a vstřícná k inovacím, se použijí tam, kde je to nezbytně nutné: v případech, kdy jde o bezpečnost a základní práva občanů EU,“ míní komisařka pro hospodářskou soutěž Margrethe Vestagerová.

„Cílem dnešních návrhů je posílit postavení Evropy jako globálního centra umělé inteligence na nejvyšší úrovni, zajistit, aby AI v Evropě respektovala naše hodnoty a pravidla, a využít její potenciál pro průmyslové použití,“ dodává její kolega, komisař pro vnitřní trh, Thierry Breton.