Безпека
Агент працюватиме з вашими бізнес-даними
Ось уся модель простими словами: де працює система, до чого вона має доступ, що записує й чого не може робити. Ваша служба безпеки може поставити будь-яке запитання ще до першого рядка коду.
Чотири принципи нашого підходу
Не обіцянки добре поводитись, а те, як побудовано систему.
-
01
Ви вирішуєте, де це працює
Система працює у вашій інфраструктурі або у вашому хмарному акаунті. Наш стандартний варіант використовує хмарні ШІ-моделі через приватний шлюз. Закрита мережа з локальною моделлю — додатковий варіант, який ми оцінюємо індивідуально: потрібне ваше обладнання, а локальні моделі зазвичай поступаються найкращим хмарним.
-
02
Персональні дані ховаються перед відправкою
Перш ніж запит піде до ШІ-моделі, персональні дані замінюються умовними позначками, а після відповіді повертаються на місце. Ключ до цих позначок лишається у вас, і модель його ніколи не бачить.
-
03
Кожне рішення можна простежити
Вхідні дані, використані записи, застосоване правило, результат, людина, що його підтвердила, і записане значення — усе зберігається стільки, скільки ви вирішите. Коли аудитор питає, чому система зробила щось у березні, відповідь є.
-
04
Система належить вам
Код, інструкції для агентів, налаштування, набори тестів і журнали лежать у вашому репозиторії від першого дня. Якщо ми припинимо співпрацю, система продовжить працювати, а керувати нею зможе інша команда. Ми передаємо інструкції з експлуатації, а не залежність від нас.
Важливі рішення лишаються за людиною
У компаніях із жорсткими вимогами ШІ-агент не може вирішувати сам і непомітно. Ми будуємо його за трьома правилами.
-
Агент готує, людина вирішує
Агент збирає дані, перевіряє їх за вашими правилами та пропонує результат із причинами. Поки відповідальна людина його не підтвердила, у ваші системи нічого не записується.
-
Для підтвердження вистачає одного екрана
Людина бачить запропоноване значення, місце в джерелі, звідки його взято, і застосоване правило. Якщо агент не впевнений, він каже про це й передає випадок далі.
-
Кожен крок залишає слід
Кожна пропозиція, підтвердження й виправлення записуються: хто що вирішив, на яких даних і коли. Для перевірки достатньо відкрити запис.
Що дозволено агенту
Доступ надається до типу операції, а не до всієї системи. Агент, що читає замовлення, не може записувати в зарплатну відомість, бо йому ніколи не давали туди шляху. Це видно в налаштуваннях, а не сховано в інструкції.
| Етап | Читає | Пише |
|---|---|---|
| На початку агент лише пропонує |
Копія даних з обмеженим доступом | Нічого |
| З підтвердженням після вимірювання точності |
Копія даних з обмеженим доступом | Лише після підтвердження людиною |
| Самостійно для обраних операцій |
Копія даних з обмеженим доступом | Лише для операцій, які ви схвалили |
| Завжди | Лише в межах наданого доступу | Через інтерфейс, погоджений із вами |
Один перемикач в адмінпанелі повертає кожну операцію під підтвердження людиною, без жодного нового розгортання. Ми вважаємо такий перемикач обов’язковою частиною подібної системи.
Чого ми не робимо
Найважливіші зобов’язання — ті, що стосуються того, чого ми не робитимемо.
-
Ми не навчаємо моделі на ваших даних
Ваші документи — лише вхідні дані запиту. Ми не використовуємо їх для навчання моделей, наших чи чиїхось, і перевіряємо, що умови постачальника ШІ теж цього не допускають.
-
Ми не зберігаємо копію ваших даних
Ваші дані лишаються у вашому середовищі. На нашому боці немає їхньої копії: ні дзеркала, ні резервної копії, ні аналітичної вибірки.
-
Ми не даємо агенту необмеженого права запису
Право запису надається окремо для типу операції на основі виміряної точності й може бути скасоване одним кліком.
-
Ми не приховуємо, як отримано результат
Кожне значення, яке створює агент, має посилання на запис чи сторінку, звідки його взято. Якщо його не можна простежити, воно не записується.
-
Ми не прив’язуємо вас до себе
Звичайний код, стандартні способи розгортання, ваш репозиторій. Немає власного компонента, за який вам довелося б платити постійно.
-
Ми не торкаємося того, що не погоджено
Доступ надається до кожної системи й операції так, як погоджено під час аудиту, і надає його ваша команда, а не ми.
У вас є особлива вимога?
Ізольована мережа, певна сертифікація, угода про обробку даних від ваших юристів: скажіть про це до аудиту, а не після. Так дешевше для всіх.