AI išče po internih dokumentih: kdo sme videti katere podatke?
Interni AI-pomočnik mora pri iskanju spoštovati pravice posameznega uporabnika. Preizkusite, ali prodaja lahko pride do kadrovskih dokumentov.
Ključna informacija: AI-pomočnik mora pri iskanju in odgovarjanju upoštevati pooblastila konkretnega uporabnika. Pred uvedbo to preverite z ločenimi testnimi računi in izmišljenimi dokumenti.
Kaj mora podjetje preveriti pred povezavo dokumentov z AI?
Preden AI-pomočniku omogočite iskanje po internih dokumentih, preverite, ali vsak zaposleni dobi samo informacije, za katere je pooblaščen. Pomočnik, ki dobro povzema gradivo, lahko postane težava, če prodajalcu odgovori tudi na vprašanje o individualnih plačah.
Tehnika RAG odgovore dopolnjuje z iskanjem po zunanjih virih, denimo interni bazi znanja. OWASP opozarja, da neustrezne dostopne pravice pri takšnem iskanju lahko povzročijo razkritje občutljivih podatkov. Gre za strokovno varnostno opozorilo, ne za novo zakonsko obveznost.
Zakaj skupna baza še ne pomeni skupnega dostopa?
Karlionov ponazorilni primer: v isto rešitev vključite prodajna navodila in kadrovske pogodbe. Prodaja potrebuje prvo zbirko, kadrovska služba pa dostop do dokumentov v okviru svojih nalog. Pri zasnovi zato določite, kdo sme iskati po posameznem viru in kdo sme prejeti njegov povzetek.
Če teh podatkov še nimate popisanih, si pomagajte z registrom AI-orodij, namenov in odgovornih oseb.
Ali zadostuje navodilo pomočniku, naj varuje skrivnosti?
Varovanja dostopa ne prepustite zgolj besedilnemu navodilu modelu. Od ponudnika zahtevajte prikaz, kako se pravice uporabnika upoštevajo pri iskanju in posredovanju virov. OWASP priporoča natančno upravljanje pravic ter ustrezno ločevanje podatkovnih zbirk.
Karlion priporoča tudi preizkus, kaj se zgodi po premestitvi zaposlenega: prejšnji dostop do kadrovske zbirke mora biti predmet ponovnega preverjanja, ne predpostavka, ki ostane za vedno.
Kako izvedete uporaben preizkus?
Pripravite testne uporabnike za prodajo, kadrovsko službo in zunanjega sodelavca. Uporabite izmišljene testne dokumente z različnimi pravicami ter vsakemu zastavite enaka vprašanja. Preverite odgovor, prikazane odlomke in povezave do virov. Zavrnjen neposreden dostop do datoteke ne pomaga, če pomočnik njeno vsebino že povzame.
Zabeležite pričakovani in dejanski rezultat ter odgovorno osebo za odpravo odstopanja. To je Karlionov predlog preizkusa, ne predpisan obrazec.
Kaj vprašati ponudnika pred nakupom?
Vprašajte, kako hitro se prenese sprememba pravic, kako se odstranijo umaknjeni dokumenti in kdo vidi zgodovino odgovorov. Zahtevajte prikaz na testnem primeru svojega podjetja. Splošna predstavitev varnosti ne pokaže, ali rešitev pravilno razume vaš način dela.
Širši izbor dokumentacije opisujemo v članku o dokazilih pred nakupom AI-orodja.
Kdo naj potrdi uporabo?
Tehnični skrbnik naj potrdi delovanje pravic, lastnik zbirke pa smiselnost dostopa. Pred širitvijo opravite ponoven preizkus in določite, kam zaposleni prijavi nepričakovano razkritje. Pri dodajanju nove zbirke preverite tudi obstoječe vloge; povezava vira spremeni obseg informacij, ki jih rešitev lahko ponudi.
Dober odgovor mora priti tudi do prave osebe
Pri interni bazi znanja uspeh merimo z uporabnostjo odgovora in primernostjo njegovega prejemnika. Hiter dostop do napačne zbirke je organizacijska napaka, četudi je povzetek povsem točen.
Začnite z omejenim naborom dokumentov in jasno določenimi vlogami. Podjetje tako lažje vidi, kaj rešitev res prinaša in katera pooblastila mora urediti pred širitvijo.
Viri
- OWASP: LLM08:2025 Vector and Embedding Weaknesses; obdobje/dogodek: izdaja 2025; preverjeno 18.10.2026.
