EU chystá regulaci umělé inteligence. Zakáže rozpoznávání obličejů?

Návrh usnesení týkající se procesů automatického rozhodování se zaměřuje především na zajištění ochrany spotřebitelů a volného pohybu zboží a služeb. Obsahuje několik výzev určených Evropské komisi. Ta má monitorovat implementaci už přijatých předpisů (například Směrnici pro lepší vymáhání a modernizaci právních předpisů Unie na ochranu spotřebitele a Nařízení o geoblockingu), aby zajistila zaručení práv spotřebitelů včetně zamezení diskriminace. Komise by měla revidovat i předpisy týkající se bezpečnosti výrobků, především ve vztahu k výkladu pojmů „výrobek“, „škoda“ a „vada“, obdobně i předpisy týkající se poskytování služeb. Zmíněno je i nakládání s daty, mimo jiné ve vztahu k zajištění transparentnosti ADM prostřednictvím nadcházející účinnosti Nařízení o online platformách (P2B).

Návrh bílé knihy zveřejněný na zpravodajském webu vzbudil mediální pozornost především nastíněnou možností 3-5 letého zákazu používání systémů na rozpoznávání obličeje ve veřejných prostorách. Jde ovšem jen o jedno z celé řady zmíněných opatření. Návrh totiž obecně shrnuje problémy, kterým EU ve vztahu k AI čelí, včetně nutnosti zabezpečit přístup k potřebným datům. Jako základ budoucí právní regulace AI rozpracovává možná opatření preventivního (ex ante) i následného (ex post) charakteru. Uvádí pět možných konkrétních přístupů: dobrovolné označení (např. oficiální označení etická či důvěryhodná AI), sektorové požadavky pro veřejnou správu a rozpoznávání obličejů (v nich je zmíněna právě překvapivá možnost plošného zákazu využití těchto systémů), povinné požadavky na aplikaci ve vysoce rizikových odvětvích (např. zdravotnictví či doprava), revidovaná právní úprava bezpečnosti a odpovědnosti a systém přísného dohledu státní správy.

Jak ale zmiňuji výše, jedná se o pouhý návrh, který ani nebyl určen veřejnosti a bude zcela jistě dále rozpracován či dokonce přepracován.