V platnost vstoupilo nové evropské nařízení o umělé inteligenci

Jedná se o Nařízení Evropského parlamentu a Rady (EU) 2024/1689 ze dne 13. června 2024, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci. V Úředním věstníku ČR bylo zveřejněno 12. července 2024 s tím, že jeho účinnost bude nabíhat postupně. Firmy by měly mít dostatek času na přípravu, než pro ně začne být nařízení závazné. Většina z oslovených zástupců firem ovšem vidí splnění termínu jako nereálné.

Jaký je záměr nového nařízení

Účelem tohoto nařízení by mělo být zlepšení fungování vnitřního trhu EU v rámci jednotného právního rámce, kterým se stanoví harmonizovaná pravidla pro AI s cílem podpořit vývoj, používání a zavádění AI. Nařízení by mělo splňoval nároky na vysokou úroveň ochrany veřejných zájmů, jako je například zdraví a bezpečnost a ochrana základních práv, včetně demokracie, právního státu a ochrany životního prostředí, jež jsou uznávána a chráněna právem Evropské Unie. Nástroje umělé inteligence budou muset být zcela transparentní, některé čeká přímo zákaz či omezení. Týká se to například manipulace s lidmi, zneužívání děti, sledování či klasifikace lidí podle jejich sociálního chování.

„Nový legislativní akt rozděluje různé typy umělé inteligence do kategorií podle rizika. Systémy AI představující pouze omezené riziko by podléhaly velmi mírným povinnostem týkajícím se transparentnosti, zatímco vysoce rizikové systémy AI by byly povoleny, ale pro přístup na trh EU by musely splnit soubor požadavků a povinností. Systémy umělé inteligence, jako je například kognitivně behaviorální manipulace a hodnocení sociálního kreditu, budou v EU zakázány, protože jejich riziko je považováno za nepřijatelné. Právní předpis rovněž zakazuje používání umělé inteligence pro prediktivní policejní práci založenou na profilování a systémech, které využívají biometrické údaje k zařazení osob do specifických kategorií, například podle rasy, náboženství nebo sexuální orientace,“ píše se mimo jiné v dokumentu.

Zdroj: Pexels

Od kdy začíná nařízení platit

Tak, jako u většiny nařízení EU, účinnost nabíhá postupně. AI Act se bude zřejmě ještě upravovat, někde možná i lišit podle připomínek jednotlivých států EU. V České republice byl AI Act zveřejněn v Ústředním věstníku 12. července 2024 a začal platit 20 dní po tomto zveřejnění. V platnost vstoupil tedy 1. srpna 2024 a firmy a úřady nyní mají dva roky na přípravu, kdy nařízení začne být přímo závazné v celém rozsahu, přičemž některé části regulace týkající se zakázané AI budou vymahatelné již dříve. Česká asociace umělé inteligence (ČAUI), která nabízí firmám poradenství, upozorňuje, že zákazy se uplatní 6 měsíců po vstupu v platnost, kodexy praxe 9 měsíců, obecná pravidla 12 měsíců a povinnosti pro vysoce rizikové systémy 36 měsíců po vstupu v platnost. Od 2. února 2025 začnou platit obecná ustanovení a budou stanoveny zakázané postupy v oblasti umělé inteligence, členské státy musí zřídit oznamující orgány a určit oznamující subjekty. V plném rozsahu se pak nařízení začne uplatňovat od 2. srpna 2026 s výjimkou týkající se systémů AI používaných jako bezpečnostní součást produktu.

„Může se zdát, že je na přípravu dostatek času, ale opak je pravdou. Je třeba, aby firmy a instituce začaly ještě v tomto roce. Již v únoru začne například platit ustanovení týkající se školení zaměstnanců v oblasti AI gramotnosti. Regulace se svým způsobem dotkne všech možných oddělení nejrůznějších firem, stavební nevyjímaje,“ upozorňuje Lukáš Benzl, ředitel České asociace umělé inteligence (ČAUI), která se snaží pomoci formou seminářů a dalších aktivit. Spolupodílela se například i na vypracování Národní strategie umělé inteligence České republiky 2030, s níž závěry AI Act souvisejí.

Co je Národní strategie umělé inteligence

Jedná se o strategický dokument Ministerstva průmyslu a obchodu ČR (MPO), který pokrývá základní aspekty umělé inteligence s ohledem na její vliv na ekonomiku a společnost. Definuje celkem sedm navzájem provázaných klíčových oblastí, jejichž posilování a další rozvoj se považuje za zásadní pro efektivní využití potenciálu AI ke zvyšování kvality života a posilování konkurenceschopnosti českých firem. Mezi tyto klíčové oblasti patří: AI ve výzkumu, vývoji a inovacích; Vzdělávání a expertíza v AI; AI dovednosti a dopady AI na trh práce; Etické a právní aspekty AI; Bezpečnostní aspekty AI; AI v průmyslu a podnikání a AI ve veřejné správě a veřejných službách.

„V rámci každé klíčové oblasti jsou definovány cíle a typová opatření, která přispějí jejich naplňování. Celý dokument poskytuje strategický rámec pro rozvoj a využívání důvěryhodné umělé inteligence v České republice,“ dodává Lukáš Benzl a dále odkazuje na MPO ČR, Radu vlády pro informační společnost, Výbor pro digitální ekonomiku a společnost a Výbor pro umělou inteligenci.

Důležitým dokumentem je v tomto směru rovněž Akční plán, který je součástí Implementačních plánů Digitálního Česka, do jehož struktur Národní strategie umělé inteligence ČR 2030 spadá v rámci koncepce Digitální ekonomika a společnost. Akční plán je každoročně vyhodnocován a aktualizován, aby umožnit flexibilně reagovat na technologický rozvoj a jeho dopady. Reaguje tak samozřejmě i na Nařízení Evropského parlamentu a Rady (EU) 2024/1689.

Legislativní pohled a navržené sankce

Pro úspěšné zvládnutí výše uvedeného implementačního procesu doporučuje Robert Šimek, odborník na právní legislativu v oblasti AI, sestavení odborného týmu složeného z právníků, compliance a IT specialistů, specialistů na ochranu dat, kybernetickou bezpečnost, případně řízení rizik, kontinuity činností, a dalších relevantních odborníků s ohledem na potenciální přínosy a rizika. Za důležité považuje připomenout i pokuty za porušení aktu o umělé inteligenci, které jsou stanoveny jako procentní podíl celkového ročního obratu společnosti porušující pravidla v předchozím účetním období nebo jako předem stanovená částka, podle toho, která hodnota je vyšší. Na malé a střední podniky a začínající podniky se zatím vztahují přiměřené správní pokuty, jejichž výše zatím nebyla blíže specifikována.

„Předpokládám, že na obecné modely AI, které nepředstavují systémová rizika, se budou vztahovat určité omezené požadavky, například pokud jde o transparentnost, ale ty, u nichž systémová rizika existují, budou podléhat daleko přísnějším pravidlům,“ píše Robert Šimek ve svém právním rozboru a jako příklad malého rizika uvádí umělou inteligenci komunikující se zákazníky, která musí uživatele informovat o tom, zda komunikují s umělou inteligencí či nikoli. Vyšší stupeň rizika skýtá například obsah generovaný umělou inteligenci, včetně deep fakes, přičemž některé sociální sítě již nyní zavedly povinnost označování obsahu vytvořeného AI. Přísná pravidla budou rovněž platit pro soubory dat a jejich správu, řízení rizik a logování, stejně jako pro registraci AI systémů v databázi EU a pro technickou dokumentaci.

„Implementace umělé inteligence ovšem není jen o novém AI Actu. Již dnes by měly firmy nastavit pro využití systémů umělé inteligence pravidla, která budou v souladu s unijní legislativou. Týká se to především zpracování osobních údajů a souladu s GDPR, kyberbezpečnosti, ochrany duševního vlastnictví a otázek nakládání se vstupy a výstupy umělé inteligence, stejně jako otázky implementace umělé inteligence v produktech či v rámci služeb a péče o zákazníky,“ dodává na závěr debaty advokátka Štěpánka Havlíková z mezinárodní advokátní kanceláře Dentons, která rovněž nabízí poradenství a právní rozbory v oblasti AI.

Zmíněné směrnice, nařízení EU a právní dokumenty

• Nařízení Evropského parlamentu a Rady (EU) 2024/1689 na oficiálních stránkách Evropské unie
• Česká asociace umělé inteligence (ČAUI)
• Národní strategie umělé inteligence České republiky 2030 ke stažení a prostudování
• Program Digitální Česko k prostudování
• Směrnice, zákony a nařízení na portálu TZB-info