SVS Digital

Analiza procesa za AI

Kako mapirati ovlašćenja za odluke pre AI pilota

AI pilot ne menja samo brzinu zadatka. On može neprimetno da pomeri pravo odlučivanja sa zaposlenog na model, pravilo ili integraciju. Zato pre izbora alata nacrtajte mapu ovlašćenja za odluke: na kojim tačkama nastaje izbor, ko ga danas donosi, na osnovu čega i šta AI sme da uradi bez dodatne potvrde.

Tim SVS Digital · Objavljeno

Počnite ovde

Izaberite jedan stvaran tok rada i označite svaku tačku na kojoj se bira sadržaj, kategorija, primalac ili poslovna radnja. Za svaku tačku upišite vrstu pomoći: pronalaženje informacija, priprema nacrta, preporuka, usmeravanje ili izvršenje. Zatim odredite vlasnika odluke, potreban dokaz, posledicu greške, mogućnost poništavanja, obavezno odobrenje, pravo izmene ili odbijanja, rezervni postupak i zapis za proveru. AI pilot počnite samo sa tačkama čije su granice proverljive; odluke sa ozbiljnim ili teško popravljivim posledicama zadržite kod ovlašćene osobe dok posebna procena ne pokaže drugačije.

1. Ograničite pregled na jedan stvaran tok i jednu vrstu slučaja

Ne mapirajte odjednom celu prodaju, podršku ili nabavku. Izaberite tok sa jasnim početkom i krajem, na primer od zahteva za povraćaj do odluke i obaveštenja kupcu. Pratite jedan završen slučaj kroz sisteme i razgovore zaposlenih. Označite gde neko tumači podatak, bira korak, prihvata obavezu ili menja zapis.

Ako sistemi čuvaju događaje, koristite ih da proverite razgovor sa timom. Microsoft navodi da analiza procesa izdvaja podatke o događajima i prikazuje stvarno izvršenje. Mapa procesa pokazuje aktivnosti, prelaze i izabrane metrike, ali ne određuje ko sme da donese poslovnu odluku. To potvrđuje vlasnik procesa.

  • Jedna vrsta slučaja, jasan okidač i završno stanje.
  • Stvarni primer pregledan sa ljudima koji šalju i obrađuju posao.
  • Tačke izbora označene odvojeno od običnog prenosa podataka.
  • Neformalna odobrenja i odluke van sistema uključene u mapu.
Microsoft Learn: pregled analize procesaMicrosoft Learn: mapa procesa

2. Razdvojite pet nivoa AI uloge pre razgovora o automatizaciji

Pronalaženje informacija prikuplja podatke iz dozvoljenih izvora. Nacrt priprema tekst koji osoba pregleda. Preporuka rangira opcije i objašnjava oslonac, ali ovlašćena osoba bira. Usmeravanje bira red, tim ili kategoriju prema pravilima. Izvršenje menja stanje: šalje poruku, odobrava zahtev, zakazuje termin ili menja podatak u sistemu.

AI može da pronađe ugovornu odredbu, napiše nacrt i predloži kategoriju, a da ne sme da obeća povraćaj novca. NIST Govern traži razdvojene ljudske i AI uloge, odgovornost i obuku. Zato „čovek u procesu“ nije dovoljno određenje: napišite koju odluku osoba može da promeni, odbije ili zaustavi.

  • Svaka tačka ima samo jednu primarnu oznaku: pronalaženje, nacrt, preporuka, usmeravanje ili izvršenje.
  • Nacrt se ne šalje automatski ako posledica zahteva odobrenje.
  • Preporuka prikazuje osnov i ne skriva druge dozvoljene opcije.
  • Izvršenje se razmatra kao posebno ovlašćenje, a ne kao tehnički nastavak nacrta.
NIST AI RMF Playbook: Govern

3. Za svaku odluku popunite isti red mape ovlašćenja

Navedite naziv odluke, vlasnika i zamenu. Zapišite ulaze i dokaz: važeću politiku, podatak iz sistema, dokument ili stručnu procenu. Dodajte dozvoljenu AI ulogu, odobravaoca i ono što mora da vidi pre potvrde. „Menadžer proverava“ nije dovoljno bez kriterijuma i pristupa izvornim podacima.

Opišite posledicu pogrešne odluke, mogućnost otkrivanja i poništavanja. Ispravka nacrta nije isto što i povlačenje uplate. Upišite ko može da nadjača rezultat, rok, rezervni put i trag: izvore, verziju pravila ili modela, predlog, konačnu odluku, odobravaoca i razlog izmene.

  • Vlasnik odluke i zamena sa stvarnim ovlašćenjem.
  • Dokaz koji mora biti dostupan pre odluke.
  • Posledica, mogućnost otkrivanja i mogućnost poništavanja.
  • Odobrenje, pravo izmene, odbijanja i zaustavljanja.
  • Rezervni postupak i dovoljan zapis za naknadnu proveru.

4. Odredite dozvoljeno ovlašćenje redosledom koji tim može da ponovi

Prvo pitajte da li je odluka potrebna ili uzrok rešava bolje polje, jasnija politika ili pravilo. Zatim proverite namenu, izvore i sposobnost osobe da oceni rezultat. Mala i lako popravljiva posledica može biti kandidat za ograničen nacrt ili usmeravanje. Za uticaj na novac, prava, bezbednost, ugovor ili pristup usluzi tražite stručnu i pravnu procenu i zadržite ovlašćenu osobu kao donosioca odluke.

NIST Map preporučuje dokumentovanje namene, konteksta, korisnika i posledica, kao i razmatranje rešenja bez AI-ja. Redosled je: uklonite nepotrebnu odluku, primenite jasno pravilo, dozvolite AI podršku uz proveru, pa tek onda razmatrajte izvršenje. Bez kriterijuma prihvatanja, signala za zaustavljanje i rezervnog postupka, tačka nije spremna za pilot.

  • Može li obrazac, politika ili pravilo da reši problem bez AI-ja?
  • Da li je namena uska, a zabranjena upotreba izričito navedena?
  • Može li odobravalac da vidi dokaz i proceni rezultat na vreme?
  • Da li se greška otkriva pre posledice i može li radnja da se poništi?
  • Postoje li signal za zaustavljanje i rezervni put bez AI-ja?
NIST AI RMF Playbook: Map

5. Proverite mapu na jednom slučaju od početka do kraja

Kod zahteva za povraćaj, AI može da pronađe porudžbinu i uslove, pripremi rezime i označi da nedostaje dokaz. Pravilo može da prosledi slučaj pravom timu. Odluka ostaje kod uloge sa finansijskim ovlašćenjem, a konačna poruka i promena statusa čekaju njenu potvrdu.

Prođite i težak slučaj: podaci se ne slažu, pravilo je promenjeno, sistem nije dostupan ili zaposleni odbija preporuku. Mapa pokazuje primaoca, zabranjene radnje i trag. Ako zaposleni potvrđuje rezultat bez vremena, dokaza ili prava izmene, ljudska potvrda je samo formalnost.

  • Običan slučaj i najmanje jedan dvosmislen slučaj prolaze kroz ceo tok.
  • Svaka promena stanja ima imenovanog odobravaoca ili jasno ograničeno pravilo.
  • Odbijena AI preporuka beleži se bez kažnjavanja opravdane stručne procene.
  • Nedostupan izvor ili sistem vodi u čekanje ili ručnu obradu, ne u nagađanje.

6. Postavite granice pilota i održavajte mapu kao operativni dokument

Za pilot izaberite mali broj odluka, ograničene korisnike i podatke i poznate slučajeve. Ne širite nacrt na slanje, preporuku na odobrenje ili pilot na drugi tim bez odluke. Promenu ovlašćenja odobrite, verzionišite i testirajte. Pregledajte izmene zaposlenih, odbijene preporuke, pogrešna usmeravanja, zabranjene radnje i rezervni postupak.

Mapa ne dokazuje usklađenost i ne zamenjuje procenu zaštite podataka, informacione bezbednosti, radnih odnosa, prava potrošača ili pravila delatnosti. Ona pokazuje ko odlučuje, na osnovu čega, sa kakvom posledicom i kako se kontrola vraća kada alat ili proces zakažu.

  • Obim korisnika, slučajeva, podataka, sistema i dozvoljenih radnji je zapisan.
  • Promena nivoa ovlašćenja zahteva novu odluku i test.
  • Vlasnik procesa periodično pregleda trag odluka i rezervne postupke.
  • Jasna završna odluka: nastavak, sužavanje, dodatne kontrole ili zaustavljanje.

Izvori i dodatna literatura

Još vodiča

Šta želite da napravite za svoju firmu?

Izaberite gde vam je potrebna pomoć. Poslaćemo vam sažetak mejlom i javiti se o sledećem koraku.

Uroš Jovanović

Osnivač · SVS Digital

Zdravo, ja sam Uroš.

Osnivač sam kompanije SVS Digital. Za firme dizajniramo i razvijamo digitalna rešenja po meri.

Kakvo rešenje vam je potrebno?

Vaš odgovor