Týden v jedné větě
Kategorie rizika každého systému AI, který vaše firma používá, určuje vše ostatní:
• rozsah dokumentační zátěže
• požadavky na dohled
• právní expozici
Co nařízení skutečně říká
EU AI Act klasifikuje systémy AI do čtyř úrovní rizika.
Kategorie určuje, jaké povinnosti se uplatní.
Systémy s nepřijatelným rizikem
Tyto jsou podle článku 5 zakázány úplně.
Mezi příklady patří:
• AI psychologicky manipulující lidi
• sociální skórování veřejnými orgány
• rozpoznávání emocí na pracovištích a ve školách
• některé formy biometrického dohledu v reálném čase na veřejně přístupných místech
Tyto zákazy se uplatňují už od února 2025.
Vysoce rizikové systémy
Tyto systémy jsou regulované, ale stále povolené.
Jsou definovány dvěma způsoby:
• AI používaná jako bezpečnostní prvek produktů, které už podléhají právu EU o bezpečnosti produktů
• AI používaná v osmi oblastech uvedených v příloze III
Těch osm oblastí je:
• biometrika
• kritická infrastruktura
• vzdělávání a odborná příprava
• zaměstnanost a řízení pracovníků
• přístup k základním službám
• vymáhání práva
• migrace a kontrola hranic
• soudnictví a demokratické procesy
Pokud váš systém spadá do jedné z těchto kategorií, je ve výchozím stavu považován za vysoce rizikový.
Systémy s omezeným rizikem
Na ty se vztahují mírnější povinnosti transparentnosti.
Jde především o informování uživatelů, že komunikují s AI.
Chatboti a nástroje na deepfake obecně spadají do této kategorie.
Systémy s minimálním rizikem
Na ty se podle nařízení nevztahují žádné specifické povinnosti.
Jedním z mylných předpokladů, které mnoho firem stále má, je domněnka, že klasifikaci určuje dodavatel.
Provozně to tak nařízení nefunguje.
Zavádějící subjekt musí rozumět tomu, jak se systém uvnitř firmy používá, a tuto skutečnost zdokumentovat.
Zdroj:
artificialintelligenceact.eu — článek 5, článek 6, příloha III
Co to znamená pro vaši firmu
Většina firem dnes nemá úplnou inventuru systémů AI používaných interně.
Jednotlivé týmy už zavádějí schopnosti AI uvnitř:
• HR systémů
• CRM
• analytických platforem
• nástrojů podpory
• interních pracovních postupů
...bez centrálního přehledu.
V mnoha organizacích týmy pro governance zjišťují používání AI až po zavedení, ne před ním.
To vytváří závažný problém v oblasti governance:
Nemůžete řídit systémy, které nedokážete identifikovat.
Prodejní tým, který používá skórování potenciálních zákazníků pomocí AI v platformě CRM, může už provozovat systém, na který se vztahují povinnosti dokumentovaného dohledu a monitorování.
Náborový tým, který používá řazení s podporou AI v ATS, už může zavádět vysoce rizikový systém podle přílohy III.
Odpovědnost za klasifikaci nese zavádějící subjekt.
Pokud systém nedokážete klasifikovat, samo to se stává zjištěním v oblasti souladu.
Existuje také důležitá výjimka, kterou mnoho organizací přehlíží.
Některé systémy podle přílohy III se nemusí kvalifikovat jako vysoce rizikové, pokud vykonávají pouze úzké přípravné úkoly bez podstatného ovlivnění konečného rozhodnutí.
Tato výjimka však není automatická.
Odůvodnění musí být zdokumentováno před zavedením.
Stav rizika se také může v čase měnit.
Rozšíření existujícího nástroje AI do nového pracovního postupu nebo doplnění další rozhodovací schopnosti může vyvolat povinnost přehodnocení.
Většina organizací stále přistupuje k AI governance jako k nákupnímu cvičení.
V praxi jde o problém provozní governance.
Úkol na tento týden
Jděte na:
artificialintelligenceact.eu/annex/3
Přečtěte si osm kategorií přílohy III.
Pak vytvořte jednoduchou tabulku se seznamem všech nástrojů s podporou AI, které se dnes ve vaší firmě používají.
Uveďte:
• oddělení, které jej používá
• účel systému
• zda ovlivňuje rozhodnutí
• zda se dotýká některé oblasti přílohy III
• kdo jej interně vlastní
Tato inventura se stane základem celého vašeho procesu souladu.
Další čtení
Příloha III — vysoce rizikové systémy AI
artificialintelligenceact.eu/annex/3
Článek 5 — zakázané praktiky v oblasti AI
artificialintelligenceact.eu/article/5
AI Act Explorer
artificialintelligenceact.eu/ai-act-explorer
#EUAIAct #AIGovernance #EnterpriseAI #ResponsibleAI #AICompliance