3.16.1
Povinnosti týkající se vysoce rizikových systémů AI
Mgr. Mgr. Radana Burešová
Nedodržení níže uvedených povinností bude sankcionováno správními pokutami stanovenými v článku 99 aktu o AI, které mohou v závislosti na závažnosti porušení povinností, výši celosvětového ročního obratu a velikosti podniku dosáhnout značné výše v řádu (desítek) milionů eur.
I. Poskytovatelé
Od 2. srpna 2026 budou poskytovatelé systémů AI muset plnit následující povinnosti:
1. zajistit splnění požadavků stanovených v kapitole III oddílu 2 aktu o AI (viz níže),
2. uvádět na vysoce rizikovém systému AI, nebo není-li to možné, na obalu nebo v dokumentaci, která je k vysoce rizikovému systému AI přiložena, identifikační a kontaktní údaje (jméno, zapsaný název společnosti nebo zapsanou ochrannou známku a kontaktní adresu),
3. zavést systém řízení kvality, který je v souladu s článkem 17, tedy který je systematicky a řádně dokumentován formou písemných politik, postupů a pokynů a řeší alespoň otázky uvedené v článku 17 aktu o AI ,
4. vést a po dobu deseti let od uvedení vysoce rizikového systému AI na trh nebo do provozu uchovávat dokumentaci uvedenou v článku 18 aktu o AI ,
5. zajišťovat automatické generování protokolů systémy AI a jejich uchovávání, jak je uvedeno v článku 19 aktu o AI ,
6. zajistit, aby byl u daného vysoce rizikového systému AI před jeho uvedením na trh nebo do provozu proveden příslušný postup posuzování shody, jak je uvedeno v článku 43 aktu o AI , viz též přílohy VI a VII aktu o AI,
7. vypracovat EU prohlášení o shodě v souladu s článkem 47 aktu o AI a jeho přílohou V,
8. umístit na vysoce rizikový systém AI, nebo není-li to možné, na jeho obal nebo dokumentaci, která je k němu přiložena, označení CE, aby vyjádřili soulad s tímto nařízením podle článku 48 aktu o AI ,
9. splnit povinnosti registrace uvedené v článku 49 odst. 1 aktu o AI , informace požadované při registraci jsou uvedeny v přílohách VIII a IX aktu o AI,
10. přijímat nezbytná nápravná opatření a poskytovat informace, jak je požadováno v článku 20 aktu o AI ,
11. na odůvodněnou žádost příslušného vnitrostátního orgánu prokázat soulad daného vysoce rizikového systému AI s požadavky stanovenými v oddíle 2,
12. zajistit, aby vysoce rizikový systém AI splňoval požadavky na přístupnost v souladu se směrnicemi (EU) 2016/2102 a (EU) 2019/882,
13. spolupracovat s příslušnými orgány (článek 20 aktu o AI),
14. poskytovatelé usazení ve třetích zemích musí před dodáním vysoce rizikových systémů AI na trh Unie jmenovat formou písemného pověření zplnomocněného zástupce usazeného v Unii (článek 22 aktu o AI),
15. zavést a zdokumentovat systém monitorování po uvedení na trh, jak stanoví článek 72 aktu o AI a bod 155 jeho odůvodnění a jeho příloha IX, a
16. v souladu s článkem 73 aktu o AI oznamovat závažné incidenty.
Není-li výše uvedeno jinak, vyplývají výše uvedené povinnosti z článku 16 aktu o AI, viz též body 79 až 81 a 145 jeho odůvodnění.
Podle kapitoly III oddílu 2 aktu o AI musí vysoce rizikové systémy AI splňovat tyto požadavky:
1) zavedení, uplatňování, zdokumentování a udržování systému řízení rizik v souladu s článkem 9 aktu o AI a bodem 65 jeho odůvodnění, který mimo jiné zahrnuje testování a zvážení nepříznivého dopadu na osoby mladší 18 let a případně na jiné zranitelné skupiny,
2) splnění kritérií kvality dat a jejich správy stanovených v článku 10 aktu o AI , viz též body 66 až 70 jeho odůvodnění,
3) vypracování a aktualizace technické dokumentace v souladu s článkem 11 aktu o AI , bodem 71 jeho odůvodnění a jeho přílohou IV,
4) funkce protokolování umožňující automatické provádění záznamů uvedených v článku 12 aktu o AI ,
5) zajištění transparentnosti a poskytování informací zavádějícím subjektům (návod k použití) vyžadovaných článkem 13 aktu o AI ,
6) umožnění účinného lidského dohledu podle článku 14 aktu o AI a bodu 73…
