OBJAVLJENO 01.10.2026

Prepoznavanje čustev zaposlenih z umetno inteligenco: kdaj je uporaba prepovedana?

Članek je namenjen delodajalcem, kadrovskim službam in ponudnikom HR-tehnologije. Pojasnjuje ozko prepoved sklepanja o čustvih iz biometričnih podatkov na delovnem mestu ter razliko do anket in analize besedila.

AI-ilustracija

AI Act prepoveduje sklepanje o čustvih ali namenih zaposlenih iz biometričnih podatkov, razen v ozko določenih medicinskih ali varnostnih primerih.

Stanje na dan 26.09.2026: prepoved iz Akta o umetni inteligenci se uporablja; vzporedno veljajo GDPR, delovno pravo in pravila varstva osebnosti.

Uvod

Kamera med razgovorom ocenjuje živčnost, mikrofon na sestanku pa naj bi zaznal odpor do sprememb. Ponudnik to predstavi kot podporo vodenju, toda tehnologija lahko poseže v področje, ki ga evropska uredba izrecno omejuje. Ključno vprašanje ni, kako natančen je rezultat, temveč kaj sistem sklepa in iz katerih podatkov.

Kaj pomeni prepoznavanje čustev po AI Act?

Gre za sistem, ki na podlagi biometričnih podatkov prepoznava ali sklepa o čustvih oziroma namenih fizične osebe. Tipični vhodni podatki so lahko značilnosti obraza, glasu, drže ali drugi telesni signali.

Uredba govori o čustvih in namenih, na primer sreči, žalosti, jezi, presenečenju, strahu, zadregi, navdušenju ali zanimanju. Ni odločilno, kako ponudnik poimenuje funkcijo. Oznake, kot so »engagement«, »iskrenost«, »kultura ujemanja« ali »pozornost«, lahko še vedno pomenijo sklepanje o notranjem stanju.

Podjetje mora zato pregledati dejanski tehnični opis, vhodne podatke in izhod. Marketinška predstavitev ni zadostna pravna razvrstitev.

AI-ilustracija

Preverite AI pri zaposlovanju

Kdaj je uporaba na delovnem mestu prepovedana?

Uporaba je prepovedana, kadar AI iz biometričnih podatkov sklepa o čustvih ali namenih osebe na delovnem mestu. Prepoved lahko zajame zaposlene, kandidate in druge osebe v zaposlitvenem okolju, odvisno od konkretne uporabe.

Primeri tveganih praks so ocenjevanje čustev na zaposlitvenem razgovoru, spremljanje razpoloženja prek spletne kamere, analiza glasu za domnevno iskrenost ali avtomatsko merjenje navdušenja med usposabljanjem.

Prepovedi ni mogoče obiti samo s privolitvijo zaposlenega ali s pogodbeno določbo. AI Act določa prepovedano prakso, GDPR pa se uporablja dodatno. Tudi če bi obstajala podlaga za obdelavo osebnih podatkov, to ne odpravi prepovedi po drugi zakonodaji.

Ali prepoved velja za vsako anketo ali analizo besedila?

Ne, prepoved ni splošna prepoved merjenja zadovoljstva ali analize vseh besedil. Odločilna je povezava med sistemom, biometričnimi podatki in sklepanjem o čustvih oziroma namenih.

Anonimna anketa, v kateri zaposleni sami označijo svoje zadovoljstvo, ni isto kot kamera, ki naj bi razbrala njihovo čustveno stanje. Tudi običajna analiza tem v pisnih odgovorih ni avtomatično biometrično prepoznavanje čustev. Vendar lahko še vedno odpira vprašanja varstva osebnih podatkov, transparentnosti, namena in delovnega prava.

Podjetje mora ločiti tri stvari: kaj oseba sama pove, kaj sistem razbere iz vsebine njenega sporočila in kaj sklepa iz telesnih ali glasovnih značilnosti. Pravna tveganja niso enaka.

Ali obstaja izjema zaradi varnosti ali zdravja?

Da, uredba dopušča ozko izjemo za medicinske ali varnostne razloge. Izjema ni splošno dovoljenje za izboljšanje produktivnosti, preprečevanje konfliktov ali nadzor kulture v podjetju.

Varnostni razlog mora biti resničen, konkreten in sorazmeren z uporabo. Sistem, ki naj bi pri vozniku ali upravljavcu nevarnega stroja zaznal stanje, povezano z neposredno varnostjo, zahteva povsem drugačno presojo kot sistem, ki ocenjuje zavzetost pisarniških delavcev.

Tudi ob morebitni izjemi mora podjetje preveriti nujnost, sorazmernost, natančnost, dostop do podatkov, obdobje hrambe in druge pravne podlage. Izjema po AI Act ne izbriše obveznosti po GDPR ali varnosti in zdravju pri delu.

AI-ilustracija

Vzpostavite register AI-orodij

Kako naj podjetje preveri obstoječa AI-orodja?

Podjetje naj najprej izdela inventar funkcij, ki uporabljajo kamero, mikrofon, prepoznavo obraza, glasovno analitiko ali druge biometrične signale. Pregledati mora tudi funkcije, ki so bile vključene z nadgradnjo ponudnika.

Za vsako funkcijo naj zapiše:

• katere vhodne podatke zbira;
• kaj sistem iz njih izpelje;
• komu prikazuje rezultat;
• ali rezultat vpliva na zaposlitev, oceno ali napredovanje;
• kje se podatki obdelujejo in koliko časa hranijo;
• ali funkcijo sploh potrebuje;
• katera pravna podlaga in varovala naj bi veljala.

Če ponudnik ne zna jasno pojasniti, ali sistem sklepa o čustvih, je to samo po sebi resen znak za ustavitev uporabe do razjasnitve.

Kaj naj naredi delodajalec, če je funkcija že vključena?

Delodajalec naj sporno funkcijo izključi ali začasno ustavi, omeji dostop do rezultatov in preveri, ali so bili podatki že uporabljeni pri odločitvah. Nato mora oceniti posledice ter po potrebi vključiti odgovorno osebo za varstvo podatkov, pravno službo in predstavnike zaposlenih.

Pomembno je ugotoviti, ali je sistem zgolj prikazoval rezultat ali je ta vplival na izbor, ocenjevanje, disciplinske postopke ali druge odločitve. Če je vplival, je potrebna tudi presoja že sprejetih odločitev in možnosti poprave krivic.

Podjetje naj od ponudnika zahteva pisno tehnično pojasnilo in ne le izjave prodajalca. Dokumentirati mora, kdo je sprejel odločitev o ustavitvi in kateri ukrepi so preprečili nadaljnjo obdelavo.

Kakšna vprašanja mora podjetje postaviti ponudniku?

Podjetje mora ponudnika vprašati, ali sistem uporablja biometrične podatke ter ali iz njih razvršča ali sklepa o čustvih, namenih, iskrenosti, stresu ali pozornosti. Odgovor mora biti dovolj natančen za pravno presojo.

Zahteva naj tudi dokumentacijo o namenu, modelu, omejitvah, testiranju, lažno pozitivnih rezultatih, hrambi, podizvajalcih in možnostih popolnega izklopa funkcije. Koristno je preveriti, ali se vhodni podatki uporabljajo za nadaljnje učenje modela.

Pogodbena zagotovila ne zadostujejo, če dejanska funkcija ostaja prepovedana. Podjetje, ki orodje uporablja, mora razumeti njegovo uporabo v lastnem okolju.

Pomembno: Izjema za varnost ne pomeni splošne »poslovne varnosti«. Ne uporablja se za merjenje zavzetosti, lojalnosti, iskrenosti ali primernosti kandidata.

DOGOVORITE SE ZA POSVET