I copilot i agent mogu koristiti isti model i razgovorno sučelje. Razlika nastaje nakon odgovora. Copilot prikuplja kontekst, objašnjava ili priprema prijedlog, a korisnik pokreće radnju. Agent dobiva dopuštenje izvršiti unaprijed definirani korak u poslovnom sustavu. Time se mijenjaju rizik, audit trag, testiranje i odgovornost.
Primjeri su priprema odgovora kupcu uz podatke iz ERP-a, objašnjenje odstupanja marže, sažetak ugovora s izvorima i prijedlog prioriteta radnih naloga. Copilot treba jasno razlikovati činjenicu, zaključak i nedostajući podatak. Korisnik mora moći otvoriti izvor prije odluke.
Radnja niske posljedice i jednostavnog povrata može ranije dobiti višu autonomiju, primjerice otvaranje internog zadatka. Radnja velike posljedice i teškog povrata treba ljudsku potvrdu, čak i kada je model često točan. Točnost sama nije dovoljna mjera: važni su i vrsta pogreške, mogućnost otkrivanja i vrijeme u kojem se šteta može zaustaviti.
Nadzor nije stvaran ako osoba dobije previše zahtjeva, nema vrijeme za provjeru ili ne vidi podatke na temelju kojih je prijedlog nastao. NIST AI RMF naglašava jasno definirane uloge i odgovornosti u human-AI konfiguracijama. U praksi potvrda mora doći pravoj ulozi, s razumljivim razlogom, izvorom i mogućnošću odbijanja ili eskalacije.
Izvor: NIST AI RMF Core: uloge, odgovornosti i human-AI oversight — Okvir preporučuje definiranje uloga, opsega i procesa nadzora kroz životni ciklus.
Autonomija nije svojstvo modela. To je dopuštenje za točno određenu radnju u točno određenom procesu, uz poznate granice i odgovornost.