Компанії, що працюють за галузевими нормами й стандартами контролю якості, ставлять про ШІ-агентів те саме питання: як отримати користь від автоматизації, якщо кожне рішення має бути зрозумілим для аудитора? Відповідь — не забороняти агентові діяти й не довіряти йому наосліп. Відповідь — продумати, де в процесі стоїть людина.
Правило 1. Агент готує, людина вирішує
Агент збирає дані, перевіряє їх за правилами компанії та пропонує результат разом із причинами. Поки відповідальна людина його не підтвердила, у системи компанії нічого не записується. Тоді хибна пропозиція коштує кількох секунд перевірки, а не виправленої партії чи помилкового платежу.
Правило 2. Для рішення вистачає одного екрана
Щоб підтвердити пропозицію, людина не повинна перечитувати весь документ. Агент показує запропоноване значення, місце в джерелі, звідки його взято, і правило, яке застосовано. Якщо агент не впевнений, він каже про це й передає випадок людині з обома версіями поруч.
Правило 3. Кожен крок залишає слід
Кожна пропозиція, кожне підтвердження й кожне виправлення потрапляють у журнал дій: хто що вирішив, на яких даних і коли. Для перевірки достатньо відкрити запис. Відновлювати події з пам'яті ніхто не має.
Як агент заслуговує більше самостійності
Право запису ми не даємо агентові в перший день. Спершу він лише пропонує результати, а команда порівнює їх зі своїми рішеннями. Якщо пропозиції достатньо довго збігаються, компанія обирає, які рутинні операції агент може виконувати без підтвердження. Операції, де йдеться про гроші, юридичні умови, відхилення якості чи персональні дані, можуть назавжди залишатися під підтвердженням. Рішення приймає компанія, і воно спирається на виміряні результати, а не на довіру.
Що отримує компанія
- Швидкість автоматизації без втрати відповідальності: рішення завжди за людиною.
- Систему, яка доводить, як було ухвалено рішення.
- Зрозуміле вимірювання того, наскільки агентові можна довіряти в кожному типі операцій.