AI Act - Český návrh zákona o umělé inteligenci

Ministerstvo průmyslu a obchodu (MPO) připravilo návrh zákona o umělé inteligenci, který implementuje evropské nařízení o umělé inteligenci, tzv. AI Act. Návrh zákona doplňuje AI Act a stanoví, jakým způsobem bude tato regulace uplatňována v Česku. Návrh zákona o AI mimo jiné určuje, které orgány budou vykonávat dozor, jak bude fungovat povolování a testování vysoce rizikových systémů AI, a zavádí sankce za porušení povinností.

Co do věcného rozsahu se jedná o nový právní předpis. Návrh zavádí samostatnou a dosud v českém právním řádu absentující právní úpravu oblasti umělé inteligence. Obsahuje ucelený komplexní úpravu, včetně dozoru, řízení a sankcí.

V článku se dozvíte, že:

• Česko chystá první speciální zákon o umělé inteligenci, který doplní evropský AI Act.
• Jako primární dozorový orgán je navržen Český telekomunikační úřad, přičemž další státní orgány jej budou doplňovat.
• Za jakých podmínek půjde testovat a provozovat vysoce rizikové AI systémy v reálném prostředí.
• Co přinese nově zřizovaný regulační sandbox pro inovativní firmy a jaká rizika hrozí při porušení povinností.

Návrh zákona obsahuje následující:

Dozor nad dodržováním pravidel

Dozor má být rozdělen mezi několik orgánů. Český telekomunikační úřad je určen jako primární dozorový orgán a stane se jednotným kontaktním místem. Dalšími dozorovými orgány jsou Česká národní banka a Úřad pro ochranu osobních údajů. Úřad pro technickou normalizaci bude vykonávat funkci oznamujícího orgánu a bude zajišťovat akreditaci subjektů posouzením shody. V otázkách ochrany základních práv a svobod jednotlivců bude sehrávat významnou roli Veřejný ochránce práv.

Co se dále týče dozoru, z § 17 návrhu zákona vyplývá, že při výkonu dozoru nad dodržováním povinností podle AI Act a návrhu zákona postupují výše uvedené orgány dozoru nad trhem podle zákona upravujícího dozor nad trhem s výrobky a přímo použitelného předpisu Evropské unie upravujícího dozor nad trhem s výrobky. Mezi Českým telekomunikačním úřadem a Úřadem pro ochranu osobních údajů má taktéž docházet k výměně informací, kdy tyto vyrozumí ostatní orgány dozoru nad trhem o zahájení kontroly nebo řízení podle tohoto zákona a o předmětu této kontroly nebo řízení.

V návrhu zákona je taktéž upraveno poskytnutí stanoviska, souvisí-li řízení vedené orgánem dozoru nad trhem podle nařízení o umělé inteligenci nebo podle návrhu zákona s dodržováním požadavků na kybernetickou bezpečnost systému umělé inteligence stanovených v nařízení o umělé inteligenci, a to od Národního úřadu pro kybernetickou a informační bezpečnost. Taktéž může tento orgán stanovisko vyžádat u právních předpisů upravujících zpracování a ochranu osobních údajů, a to od Úřadu pro ochranu osobních údajů.

Vysoce rizikový systém umělé inteligence

AI Act pak umožňuje za splnění stanovených podmínek testování vysoce rizikových systémů umělé inteligence v reálném provozním prostředí a současně připouští možnost jejich provozu i bez předchozího posouzení shody. V případě, že orgán dozoru zjistí porušení některého z ustanovení AI Actu, je oprávněn uložit povinnému subjektu provedení nápravných opatření. Návrh zákona k tomu stanovuje konkrétní procesní rámec, včetně lhůt a postupů správního řízení.

Obecně lze konstatovat, že se jedná o složitější správní řízení, které však mají jasně vymezené časové limity:

• pro rozhodnutí o povolení testování je stanovena lhůta 90 dnů,
• pro rozhodnutí o povolení provozu je stanovena lhůta 120 dnů.

Zřízení regulačního sandboxu pro umělou inteligenci a některé podmínky jeho provozu

Návrh zákona předpokládá taktéž zřízení takzvaného regulačního sandboxu pro AI. Provozovatelem regulačního sandboxu má být Česká agentura pro standardizaci. Regulační sandbox má sloužit zejména pro malé a střední podniky, které chtějí vyvíjet systémy umělé inteligence a už od začátku interagovat se státem a s jeho pomocí testovat novou umělou inteligenci, a to v reálném prostředí a se skutečnými klienty. Jedná se o formu „kontrolovaného testování AI v provozu“, která umožňuje ověřit funkčnost a bezpečnost systémů umělé inteligence před jejich uvedením na trh.

Podmínkou pro provozování regulačního sandboxu pro umělou inteligenci je, že účast v regulačním sandboxu pro umělou inteligenci vzniká až na základě uzavřené smlouvy, což znamená, že podáním nabídky účasti v regulačním sandboxu pro umělou inteligenci nevzniká automaticky právní nárok na takovou účast. Podmínky včetně způsobilosti a kritérií výběru pro účast v něm stanoví Česká agentura pro standardizaci a budou zveřejněny na svých internetových stránkách.

Upozornění na porušení povinnosti a přestupky

Nakonec je třeba zmínit, že v případě, že povinná osoba porušuje méně závažným způsobem povinnost stanovenou v AI Actu, může ji příslušný orgán dozoru nad trhem upozornit na toto porušení a vyzvat ji k nápravě v přiměřené lhůtě. Délka této lhůty pak nesmí být kratší než 15 dnů ode dne doručení upozornění. Přestupky pak návrh zákona zmiňuje v závěrečných ustanoveních § 21, § 22 a § 23.

Předpokládá se, že zákon by mohl vstoupit v platnost v průběhu roku 2026.

Naše advokátní kancelář pečlivě sleduje vývoj legislativy v oblasti AI a přináší Vám přehledné shrnutí nejdůležitějších změn, které MPO navrhuje.

Pro informace o našich službách v oblasti AI a souvisejícího poradenství nás neváhejte kontaktovat na info@stuchlikova.com.