Bílé knihy a (ne)žádoucí regulace umělé inteligence | Marwick.cz
Marwick.cz

Bílé knihy a (ne)žádoucí regulace umělé inteligence

Právo 12.3.2020 Linda Kolaříková
Bílé knihy a (ne)žádoucí regulace umělé inteligence
Evropská komise v únoru představila svou Bílou knihu k umělé inteligenci (AI). Ta má být podkladem pro budoucí celoevropskou regulaci. Velké technologické společnosti, především z USA, jsou rozpolceny mezi přáním dostatečné a kvalitní regulace, která odstraní právní nejistotu, a obavou z přílišné přísnosti budoucí úpravy.

Velké technologické společnosti, především z USA, jsou rozpolceny mezi přáním dostatečné a kvalitní regulace, která odstraní právní nejistotu, a obavou z přílišné přísnosti budoucí úpravy.

Bílá kniha k AI zdůrazňuje nárůst dat a jejich význam pro úspěšný vývoj AI. Také přichází s vlastní (v rámci dokumentů EU už několikátou) zjednodušenou definicí umělé inteligence. Tou rozumí soubor technologií, které kombinují data, algoritmy a výpočetní sílu.

Shodně jako dříve uniklý návrh, o kterém jsme na našem blogu psali, pracuje Bílá kniha s konceptem tzv. vysoce rizikových odvětví, mezi které zahrnuje zdravotnictví, státní správu nebo dopravu. Technologie rozpoznávání obličejů se nakonec zmiňuje jen v souvislosti s obecnou regulací nakládání s biometrickými údaji. Nenaplnily se tak některé obavy z jejího plošného zákazu. Přístup založený na posouzení míry rizika má být výchozí pro zamýšlenou právní úpravu AI. Ta by měla zohlednit například vyjasnění aplikace dosavadní legislativy (například ve vztahu k software), změny funkcionalit AI systémů během jejich životního cyklu, rozdělení odpovědnosti v distribučním řetězci nebo zohlednění nových rizik, která AI může přinést.

Další kroky, které mají následovat:

  • revize Koordinovaného plánu v oblasti umělé inteligence do konce roku 2020,
  • tvorba testovacích a excellence center,
  • podpora vzdělání,
  • vytvoření minimálně jednoho hubu pro digitální inovace na členský stát,
  • equity financování AI technologií,
  • partnerství veřejného a soukromého sektoru,
  • podpora implementace AI do veřejného sektoru,
  • revize Pokynů vydaných High-level Expert Group,
  • dobrovolné označování méně rizikových aplikací.

Komise zároveň vyzvala k otevřené veřejné konzultaci Bílé knihy k AI do května 2020.

Ačkoliv snad všechny dokumenty EU týkající se AI zmiňují snahu o vytvoření konkurenceschopného prostředí a dohnání technologického náskoku USA a některých asijských zemí, podle kritiků evropský přístup včetně Bílé knihy k AI dostatečně nezohledňuje například open source povahu AI a strojového učení.

Mimoevropská regulace a obavy „Big Tech“ společností
EU není se svou snahou regulovat AI jediná. Americká administrativa zveřejnila počátkem ledna memorandum obsahující 10 obecných principů, na jejichž základě by se měly připravovat nové předpisy týkající se AI. Důraz se klade hlavně na uměřenost regulace, která by měla směřovat spíš k odstraňování překážek, podpoře výzkumu a k nasazení AI.

Technologičtí giganti sídlící v USA tento přístup vítají. Žádoucí je pro ně právní úprava dostatečně určitá, ale zároveň co nejméně limitující jejich obchodní cíle. Proto v poslední době osobně intenzivně lobovali na půdě EU a zároveň přicházejí s vlastními „bílými knihami“. Například Facebook nedávno zveřejnil vlastní představu regulace digitálního obsahu. Dokument zahrnuje i úpravu využití AI ke sledování obsahu postů. S vlastními „seberegulačními“ dokumenty týkajícími se AI přišla už dříve většina „Big Tech“.

autor
Linda Kolaříková
Advokátka, KPMG Legal

Google utržil další ránu za 2,42 mld. eur

Google utržil další ránu za 2,42 mld. eur

Společnost Google a její mateřská společnost Alphabet prohrály další spor s Evropskou komisí. Pokutu udělenou za zneužívání dominantního postavení na trhu potvrdil Tribunál Soudního dvora Evropské unie. Snaha Googlu zvrátit rozhodnutí Komise, které nejen že ukládá rekordní pokutu, ale zároveň naznačuje směr pro budoucí rozhodovací praxi, tak vyšla naprázdno.
Ladislav Karas: Pro přivýdělek ve stejném oboru je potřeba souhlas zaměstnavatele

Ladislav Karas: Pro přivýdělek ve stejném oboru je potřeba souhlas zaměstnavatele

Jak sladit přivýdělek s pracovní dobou je jedna věc. Jak ho sladit se zákoníkem práce, radí Ladislav Karas, advokát KPMG Legal.
Komise navrhla ambiciózní reformu digitálního prostoru

Komise navrhla ambiciózní reformu digitálního prostoru

Evropská komise chystá nová pravidla pro digitální služby. Měla by přinést největší změny od roku 2000.
EDPB a jeho „návod“ pro datové přenosy po rozhodnutí Schrems II

EDPB a jeho „návod“ pro datové přenosy po rozhodnutí Schrems II

V listopadu 2020 vydal Evropský sbor pro ochranu osobních údajů (European Data Protection Board – EDPB) dlouho očekávaná doporučení ohledně přenosu osobních údajů mimo EU. Navazují na přelomové rozhodnutí Soudního dvora EU známé jako „Schrems II (C-311/18)“.
Amazon opět v hledáčku Komise – tentokrát kvůli využití dat obchodníků na Marketplace

Amazon opět v hledáčku Komise – tentokrát kvůli využití dat obchodníků na Marketplace

Evropská komise informovala největšího internetového prodejce Amazon o svém předběžném zjištění o porušení antimonopolních pravidel EU. Údajně měl narušit hospodářskou soutěž na maloobchodních trzích provozovaných online. 
Návrh nařízení o správě dat unikl před zveřejněním a sklidil kritiku

Návrh nařízení o správě dat unikl před zveřejněním a sklidil kritiku

Podle uniklého návrhu je cílem vytvoření dobré infrastruktury pro sdílení dat, a přinést tak EU „digitální suverenitu“. 
Evropská regulace AI na obzoru

Evropská regulace AI na obzoru

Evropský parlament hlasoval v říjnu o návrzích pravidel pro umělou inteligenci (AI). Europoslanci přijali Etický rámec, zprávu o právech k duševnímu vlastnictví a především předběžný návrh nařízení o odpovědnosti za provoz systémů AI.
Bude regulace umělé inteligence následovat GDPR?

Bude regulace umělé inteligence následovat GDPR?

Evropská unie vydala rámcový dokument týkající se etických aspektů umělé inteligence (AI), robotiky a souvisejících technologií. Přiklání se v něm k přísné regulaci.