Ali je umetna inteligenca pri zaposlovanju dovoljena?

Ali sme delodajalec z umetno inteligenco izbirati, ocenjevati ali odpustiti delavca?

Da, vendar delodajalec ne sme odločanja nekritično prepustiti algoritmu.

Umetna inteligenca se lahko uporablja za:

• razvrščanje prijav;
• iskanje kandidatov;
• preverjanje izpolnjevanja pogojev;
• pripravo vprašanj za razgovor;
• načrtovanje dela;
• analizo usposobljenosti;
• spremljanje delovne uspešnosti.

Sistemi, ki odločajo o zaposlitvi, napredovanju, delovnih pogojih, razporejanju nalog ali prenehanju zaposlitve, so po Aktu EU o umetni inteligenci praviloma obravnavani kot visoko tvegani.

Končna odločitev mora biti preverljiva. Človeški nadzor ne pomeni samo potrditve rezultata, temveč resnično možnost, da odgovorna oseba odločitev algoritma razume, preveri in spremeni.

Katere uporabe umetne inteligence so prepovedane?

Delodajalec ne sme uporabljati sistemov, ki nedovoljeno posegajo v dostojanstvo, zasebnost ali enako obravnavo zaposlenih.

Od 2. februarja 2025 je na delovnem mestu praviloma prepovedana uporaba umetne inteligence za prepoznavanje čustev zaposlenih, razen kadar je uporaba potrebna zaradi zdravstvenih ali varnostnih razlogov.

Posebej problematični so sistemi, ki:

• iz obrazne mimike sklepajo o motivaciji ali poštenosti kandidata;
• analizirajo glas za oceno osebnosti;
• kandidate izločajo zaradi starosti, spola, invalidnosti ali narodnosti;
• uporabljajo podatke, zbrane brez pravne podlage;
• prikrito spremljajo tipkanje, komunikacijo ali vedenje;
• napovedujejo možnost bolniške odsotnosti ali nosečnosti;
• avtomatično predlagajo odpoved brez dejanske človeške presoje.

Kakšne pravice imata kandidat in delavec?

Posameznik mora biti obveščen o uporabi njegovih podatkov in praviloma ne sme biti predmet izključno avtomatizirane pomembne odločitve.

GDPR že danes zahteva:

• zakonito in pregledno obdelavo podatkov;
• jasno določen namen uporabe;
• uporabo samo potrebnih podatkov;
• ustrezno varnost podatkov;
• informacije o avtomatiziranem odločanju;
• možnost človeškega posredovanja;
• možnost izražanja lastnega stališča;
• možnost izpodbijanja odločitve.

Če sistem povzroča veliko tveganje za pravice posameznikov, mora delodajalec pred uporabo praviloma izdelati oceno učinka na varstvo osebnih podatkov – DPIA.

Kandidat lahko zahteva pojasnilo, katere podatke je delodajalec uporabil in kako so vplivali na odločitev. Poslovna skrivnost ponudnika programske opreme ne more biti splošen izgovor za popolnoma nepojasnljivo odločanje.

Kaj se spreminja v letih 2026 in 2027?

Nekatere obveznosti že veljajo, celovita pravila za visoko tvegane kadrovske sisteme pa so bila prestavljena na 2. december 2027.

Akt EU o umetni inteligenci je začel veljati 1. avgusta 2024.

Pomembni roki so:

• 2. februar 2025: prepovedane prakse in obveznost zagotavljanja ustrezne AI-pismenosti;
• 2. avgust 2025: pravila upravljanja in obveznosti za splošne modele umetne inteligence;
• 2. avgust 2026: večina splošnih pravil in začetek nadzora nad AI-pismenostjo;
• 2. december 2027: pravila za visoko tvegane sisteme na področju zaposlovanja.

Rok za kadrovske sisteme je bil julija 2026 z uredbo AI Omnibus prestavljen z 2. avgusta 2026 na 2. december 2027.

Prednosti uporabe umetne inteligence

• hitrejša obdelava velikega števila prijav;
• bolj enotna uporaba vnaprej določenih meril;
• manj administrativnega dela;
• lažje odkrivanje manjkajočih znanj;
• boljše načrtovanje kadrovskih potreb.

Največja tveganja

• prikrita diskriminacija;
• napačne ali zastarele informacije;
• nepojasnljive odločitve;
• pretiran nadzor zaposlenih;
• uhajanje osebnih podatkov;
• avtomatizacija slabih kadrovskih praks;
• lažen občutek objektivnosti;
• odgovornost delodajalca za orodje zunanjega ponudnika.