Týden v jedné větě

Pokud vaše firma používá AI k posuzování životopisů, řazení kandidátů, cílení pracovních inzerátů nebo monitorování výkonu zaměstnanců, tyto systémy jsou podle EU AI Act pravděpodobně klasifikovány jako vysoce rizikové.

Co nařízení skutečně říká

Zaměstnanost a řízení pracovníků je výslovně uvedena jako jedna z osmi vysoce rizikových oblastí podle přílohy III.

Mezi zahrnuté případy použití patří:

• filtrování nebo řazení žádostí o zaměstnání • vyhodnocování kandidátů v průběhu pohovorů • ovlivňování rozhodnutí o povýšení nebo ukončení pracovního vztahu • přidělování úkolů • monitorování chování nebo výkonu zaměstnanců • distribuce cílených pracovních inzerátů

To je širší, než si mnoho organizací uvědomuje.

Nařízení se nevztahuje pouze na dedikovaný HR software. Pokud se systém AI pro obecné účely používá při náboru nebo rozhodování o pracovní síle, klasifikace se může uplatnit i tak.

To zahrnuje i neformální nebo stínové používání AI ze strany recruiterů a manažerů. Recruiter, který používá obecného asistenta AI k sumarizaci životopisů, řazení kandidátů nebo generování hodnocení z pohovorů, už může do náborového procesu zavádět vysoce rizikovou AI.

Podle článku 26 musí zavádějící subjekty vysoce rizikových systémů:

• používat systém v souladu s pokyny poskytovatele • zajistit smysluplný lidský dohled • uchovávat automaticky generované protokoly po dobu alespoň šesti měsíců • aktivně monitorovat fungování systému • hlásit závažné incidenty, kde je to vyžadováno

Jedním detailem, který mnoho firem zaskočí, je cílená inzerce pracovních míst. Pokud se AI používá k distribuci pracovních inzerátů směrem ke konkrétním profilům kandidátů, systém už může spadat do rámce vysokého rizika.

Zdroj: artificialintelligenceact.eu – příloha III (bod 4), článek 26

Co to znamená pro vaši firmu

Mnoho HR týmů stále předpokládá, že odpovědnost za soulad nese dodavatel softwaru. Podle nařízení ji nenese.

Nákup ATS nebo HR platformy s podporou AI nepřenáší povinnosti zavádějícího subjektu na poskytovatele. Vaše organizace zůstává odpovědná za to, jak se systém interně skutečně používá.

Lidský dohled musí být provozně reálný.

Někdo musí skutečně: • rozumět systému • být schopen zasáhnout • v případě potřeby přepsat výstupy • postupovat podle dokumentovaného eskalačního procesu

Organizační schéma samo o sobě tento požadavek nesplňuje.

Uchovávání protokolů je další oblast, kterou mnoho firem dosud neuvedlo do praxe. Váš dodavatel může generovat automatizované protokoly rozhodnutí, ale stále musíte zajistit, že:

• k nim máte přístup • jsou správně uchovávány • lze je předložit při vyšetřování nebo auditu

Většina organizací stále podceňuje, kolik neformálního používání AI už v náborových procesech probíhá. Recruiteři, manažeři a HR týmy denně experimentují s nástroji AI, často bez přehledu ze strany governance.

Právě tato mezera mezi skutečným používáním a dokumentovaným dohledem je místem, kde vznikne velká část budoucích problémů se souladem.

Důležité je zde i pravidlo extrateritoriality. Pokud posuzujete nebo vyhodnocujete kandidáty nacházející se v EU, nařízení se může uplatnit nezávisle na tom, kde má vaše firma sídlo.

Úkol na tento týden

Kontaktujte každého dodavatele HR, ATS, náborové nebo personální platformy, kterou vaše firma dnes používá a která obsahuje funkce AI.

Zeptejte se jich:

• Jak jste tento systém klasifikovali podle EU AI Act? • Můžete poskytnout technickou dokumentaci relevantní pro povinnosti zavádějícího subjektu? • Jaké automatizované protokoly se generují a můžeme je uchovávat? • Jaké předpoklady ohledně lidského dohledu váš systém od zavádějících subjektů očekává?

Pokud jsou odpovědi vágní, nekompletní nebo nejasné, toto riziko dnes nese vaše organizace.

Další čtení

Guide for HR & Staffing Businesses: artificialintelligenceact.eu/what-the-act-means-for-staffing-businesses

Článek 26 – povinnosti zavádějících subjektů: artificialintelligenceact.eu/article/26

Příloha III – vysoce rizikové systémy AI: artificialintelligenceact.eu/annex/3

Příští úterý: Problém zavádějícího subjektu a proč nákup podnikové platformy AI nezbavuje vaši firmu vlastních právních a provozních odpovědností.