Pregled procesov za AI
Kako določiti pristojnosti odločanja pred AI pilotom
AI pilot ni samo vprašanje, katero opravilo bo hitrejše. Pomembneje je, kdo sme pri posamezni točki procesa pridobiti podatek, pripraviti osnutek, priporočiti odločitev, usmeriti primer ali sprožiti dejanje. Zemljevid pristojnosti odločanja to razmejitev naredi vidno še pred povezavo modela z e-pošto, CRM, ERP ali drugim živim sistemom.
Ekipa SVS Digital · Objavljeno
Začnite tukaj
Vzemite en resničen delovni tok in označite vsako točko, kjer se spremeni lastnik, stanje, obveznost ali nadaljnja pot primera. Za vsako točko določite vrsto podpore AI, človeškega lastnika odločitve, potrebne dokaze, posledico napake, povrnljivost, obvezno odobritev ali možnost razveljavitve, rezervno pot ter zapis za revizijo. AI naj dobi samo najmanjšo pristojnost, potrebno za preizkus. Če posledica ni sprejemljiva, dokaz ni preverljiv ali dejanja ni mogoče varno razveljaviti, naj sistem pripravi predlog ali primer preda človeku, ne pa samostojno izvede odločitve.
1. Začnite z enim potekom in njegovimi dejanskimi odločitvami
Izberite konkreten tok z jasnim začetkom in koncem, na primer obravnavo servisne zahteve od prejema do zaprtja. Z izvajalci preglejte nekaj anonimiziranih zaključenih primerov in označite mesta, kjer nekdo presodi popolnost, izbere kategorijo, določi prednost, odobri izjemo, dodeli skrbnika ali spremeni zapis. Ne popisujte vseh opravil; iščite točke, kjer drugačna presoja spremeni izid.
Če imate sistemske dogodke, jih uporabite kot dokaz dejanske poti. Microsoft pojasnjuje, da rudarjenje procesov iz dogodkovnih podatkov vizualizira resnično izvajanje. Zemljevid procesa pokaže dejavnosti, prehode ter frekvenčne ali časovne metrike, vendar sam ne določi, kdo sme odločati. Poslovno razlago morajo potrditi ljudje, ki proces izvajajo in zanj odgovarjajo.
- Jasen sprožilec, konec in vrsta primera.
- Odločitvene točke vezane na resnične primere.
- Sedanji lastnik in uporabljeni dokaz.
- Razlika med uradnim postopkom in dejansko prakso.
2. Ločite pet ravni pristojnosti AI
Pridobivanje informacij pomeni, da AI poišče ali izlušči podatke, odločitev pa ostane drugje. Pri pripravi osnutka oblikuje odgovor ali zapis, ki še nima učinka. Pri priporočilu predlaga možnost in pokaže podlago. Pri usmerjanju izbere čakalno vrsto ali naslednjega skrbnika. Izvedba pa spremeni stanje: pošlje sporočilo, potrdi zahtevo, rezervira termin, spremeni ceno ali zapiše odločitev v sistem.
Te ravni niso sopomenke. Dober osnutek ne dokazuje, da je varen samodejni pošiljatelj. Pravilna razvrstitev ne upraviči samostojne zavrnitve. Za vsako točko zapišite najvišjo dovoljeno raven v pilotu in prepovedana dejanja. Tako ekipa ne razširi pristojnosti samo zato, ker tehnična povezava to omogoča.
- Pridobivanje: kateri vir in katera polja?
- Osnutek: kdo ga mora pregledati?
- Priporočilo: kateri dokaz mora biti prikazan?
- Usmerjanje: kam gredo dvoumni primeri?
- Izvedba: katero stanje se spremeni in kdo jo odobri?
3. Za vsako točko izpolnite kartico odločitve
Kartica naj vsebuje: naziv odločitve, vhod, dovoljeno vlogo AI, imenovano poslovno vlogo lastnika, merilo odločitve, dokaz, ki ga mora videti, posledico napačnega izida, povrnljivost, prag za odobritev, način razveljavitve, rezervno pot in revizijski zapis. Lastnik ni nujno oseba, ki klikne gumb; to je vloga s pooblastilom, znanjem in odgovornostjo za posledico.
NIST pri funkciji Map priporoča dokumentiranje namena, konteksta uporabe, pričakovanih vplivov, omejitev in človeškega nadzora ter obravnavo možnosti brez AI. Zato pri vsaki kartici vprašajte tudi, ali zadošča obvezno polje, poslovno pravilo, boljši obrazec ali ročna obravnava. AI ni privzeti odgovor na nejasno odgovornost.
- En odgovorni lastnik, ne splošno navedena ekipa.
- Preverljiv vir in minimalni potrebni podatki.
- Posledica opisana za stranko, zaposlene in sistem.
- Možnost brez AI dokumentirana ob predlagani rešitvi.
4. Odobritev prilagodite posledici in povrnljivosti
Najprej ocenite, ali napačno odločitev lahko opazite, ustavite in popravite, preden vpliva na osebo ali drug sistem. Nizko tvegano, jasno povrnljivo usmerjanje je lahko primerno za omejen preizkus. Zavrnitev zahtevka, finančna zaveza, sprememba pravic ali zunanje sporočilo praviloma zahtevajo izrecno človeško odobritev in strožji področni pregled.
Določite, kaj pregledovalec vidi: izvorni podatek, predlog, razlog, stopnjo negotovosti in dovoljeni dejanji. Gumb za potrditev brez dokazov ni smiseln človeški nadzor. Zapišite tudi, kdo sme rezultat preglasiti, do kdaj je razveljavitev mogoča in kako se popravijo povezani zapisi. Visoko posledične ali nepovrnljive odločitve izločite iz pilota, če varnega nadzora ne morete zagotoviti.
- Jasna posledica napačne odločitve.
- Časovno okno in postopek razveljavitve.
- Pregledovalcu prikazani izvor, predlog in razlog.
- Imenovana vloga za preglasitev in ustavitev.
5. Določite rezervno pot in revizijski zapis
Za manjkajoč vir, nedosegljiv model, nasprotujoče si podatke, prekoračen odzivni čas ali primer zunaj obsega določite varen naslednji korak. To je lahko čakalna vrsta za ročni pregled, začasna ustavitev, vrnitev pošiljatelju ali uporaba obstoječega postopka. Rezervna pot ne sme tiho spremeniti negotovega rezultata v odobreno dejanje.
Revizijski zapis naj za vsako obravnavo ohrani oznako primera, čas, različico pravila ali sistema, uporabljene vire, predlog AI, človeško odločitev, odobritev, preglasitev in končno stanje. Ne shranjujte nepotrebne občutljive vsebine. NIST Govern poudarja razlikovanje človeških in sistemskih vlog, usposabljanje ter jasno odgovornost; zapis mora zato pokazati, kdo je bil pooblaščen in kaj je dejansko storil.
- Sprožilci za varno predajo ali ustavitev.
- Obstoječi postopek ostane dosegljiv.
- Različice pravil in odločitev so sledljive.
- Hramba je omejena na potreben dokaz.
6. Pred pilotom izvedite kratek pregled po odločilnih točkah
Za vsako kartico zaporedoma preverite: ali je namen jasen, ali je AI dobil najmanjšo potrebno pristojnost, ali lastnik razume merilo, ali so dokazi dostopni, ali je odobritev sorazmerna posledici, ali razveljavitev deluje, ali rezervna pot ohrani primer in ali zapis omogoča rekonstrukcijo. Nejasna točka ne gre v živi del pilota.
Zemljevid pristojnosti ni pravna presoja, ocena varstva podatkov, varnostna analiza ali dokaz skladnosti. Prav tako ne nadomesti testov z običajnimi, mejnimi in prepovedanimi primeri. Njegov namen je omejiti pooblastila ter omogočiti preverljiv dogovor med skrbnikom procesa, uporabniki, IT in odgovornimi področnimi strokovnjaki. Ob spremembi modela, vira, pravila, organizacijske vloge ali posledice kartice znova preglejte.
- Vsaka odločilna točka ima odobrenega lastnika.
- Prepovedana dejanja so izrecno zapisana.
- Rezervna pot je preizkušena brez AI.
- Spremembe zahtevajo ponovni pregled pristojnosti.

