Kdo odgovarja, ko zaposleni ravna po napačnem AI-nasvetu?
Odgovornost je odvisna od konkretnih dejstev, vendar AI samodejno ne prenese organizacijskih obveznosti delodajalca na zaposlenega ali ponudnika.
AI-ilustracija
Odgovornost je odvisna od konkretnih dejstev, vendar AI samodejno ne prenese organizacijskih obveznosti delodajalca na zaposlenega ali ponudnika.
AI lahko pripravi napačen izračun, pravno razlago ali navodilo stranki. Ko zaposleni rezultat uporabi, se hitro pojavi vprašanje krivde. Poštena presoja mora ločiti organizacijo dela, jasnost navodil, usposobljenost, možnost preverjanja in ravnanje zaposlenega v konkretnem trenutku.
1. Ali je za napako vedno odgovoren zaposleni, ki je kliknil potrditev?
Ne. Sam klik ne pove, ali je imel zaposleni znanje, čas, podatke in pooblastila za vsebinsko preverjanje. Delodajalec ostaja odgovoren za organizacijo dela, dovoljena orodja, navodila, usposabljanje in nadzor.
Presoditi je treba tudi, ali je podjetje spodbujalo nekritično uporabo z normami hitrosti ali predstavilo sistem kot zanesljivejši, kot je v resnici.
2. Kakšna je dolžnost zaposlenega?
Zaposleni mora upoštevati jasna in zakonita navodila ter kritične izhode preveriti v obsegu, ki ga zahtevajo naloga, usposobljenost in okoliščine. Če sistem opozori na negotovost ali rezultat očitno odstopa, ga ne sme slepo uporabiti.
Odgovornost ni enaka pri strokovnjaku z jasnim protokolom in pri začetniku, ki mu je bilo naročeno, naj AI uporablja brez dodatnega preverjanja. Kategoričen sklep brez dejstev bi bil zavajajoč.
AI-ilustracija3. Kaj mora urediti delodajalec?
Določiti mora dovoljena orodja, prepovedane podatke, kritične naloge in obvezne kontrolne korake. Navodila naj povedo, kateri rezultati zahtevajo drugo osebo, primarni vir ali strokovno odobritev ter kako zaposleni prijavi napako.
Usposabljanje mora vključiti resnične primere omejitev. Če postopek obstaja le v splošnem pravilniku, zaposleni pa ga pri delu ne more izvesti, varovalka ni učinkovita.
4. Kaj pomeni dejanski človeški nadzor?
Pomeni možnost razumeti, prezreti, spremeniti ali ustaviti rezultat, ne samo formalno potrditi. AI Act v členih 14 in 26 pri visokotveganih sistemih poudarja usposobljene osebe, razumevanje omejitev in ustrezno uporabo navodil.
Človek potrebuje prikaz relevantnih vhodov in opozoril. Skrit model z obveznim potrditvenim gumbom ne zagotavlja odgovorne presoje.
5. Ali pogodba s ponudnikom prenese odgovornost nanj?
Pogodba lahko uredi kakovost storitve, podporo, incidente, regres in razdelitev pogodbenih tveganj, ne more pa izbrisati vseh obveznosti delodajalca. Do zaposlenega, stranke ali organa lahko še vedno odgovarja organizacija, ki je sistem izbrala in rezultat uporabila.
PREVERITE POGODBENA DOLOČILA ZA AI
Pogodba naj zahteva dokumentacijo omejitev, obvestila o spremembah, dnevnike in pomoč pri preiskavi. Splošna izključitev odgovornosti ni nadomestilo za lasten nadzor.
AI-ilustracija6. Kako ravnati po napaki?
Najprej je treba omejiti škodo, ohraniti dokaze in pregledati celoten postopek, ne poiskati najhitrejšega krivca. Shranijo se vhod, izhod, različica sistema, navodila, odobritve in časovnica. Nato se preveri, ali se napaka lahko ponovi pri drugih primerih.
Ukrepi lahko vključijo popravek navodil, dodatno odobritev, omejitev uporabe ali začasno ustavitev sistema. Presoja ravnanja posameznika pride šele ob popolnih dejstvih.
Odgovornosti ni mogoče avtomatizirati stran
Podjetje ne more zaposlenemu dati orodja, ga spodbujati k hitri uporabi in nato vsako napako razglasiti za njegovo osebno odločitev. Enako ne more vseh obveznosti prenesti na pogodbeno klavzulo ponudnika.
Odgovoren sistem poveže jasna navodila, preverjanje kritičnih izhodov in resnično možnost ustavitve. Šele tak okvir omogoča pošteno presojo posameznega ravnanja.
