Міністерство цифрової трансформації разом з експертами підготувало гайд із використання штучного інтелекту. У ньому зібрані прості поради для безпечної роботи з такими системами.
Різниця між ШІ-асистентом та агентом
Головний фокус гайду — як ШІ стає самостійнішим:
- ШІ-асистент робить лише те, що ви просите. Ви дали запит — він допоміг із конкретною задачею;
- ШІ-агент працює автономно. Він може сам отримувати завдання, аналізувати код, знаходити помилки та оптимізувати роботу без ваших постійних підказок.
Як уникнути ризиків?
Що більша автономність нейромережі, то обережнішими треба бути. У рекомендаціях пояснюють, як уникнути «галюцинацій» ШІ (коли він впевнено вигадує факти), не розповсюджувати конфіденційні дані через неправильний запит та захистити систему від зламів. Також дають покроковий алгоритм із 11 етапів — як правильно впровадити ШІ у свої робочі процеси.
5 правил роботи з ШІ:
- контроль завжди за вами. Алгоритм може працювати сам, але відповідальність за фінальний результат несе людина;
- довіряй, але перевіряй. Завжди вичитуйте та аналізуйте те, що згенерувала нейромережа;
- мінімум доступу. Давайте штучному інтелекту лише ті дані, які критично необхідні для конкретної задачі;
- рухайтеся поступово. Делегуйте спочатку найпростіші задачі, а потім ускладнюйте;
- майте кнопку «Стоп». Якщо працюєте з автономними агентами, обов’язково налаштуйте функцію миттєвого блокування, щоб зупинити ШІ, якщо щось піде не так.
Ці підходи вже застосовують на практиці: запустили національного ШІ-асистента на порталі Дія. Він не просто консультує, а допомагає отримувати послуги просто в чаті (скоро він з’явиться і в застосунку!).
Читайте повні рекомендації за покликанням.
Рекомендації розроблено за сприяння проєкту «Цифровізація для зростання, доброчесності та прозорості» (UK DIGIT), що виконується Фондом Євразія та фінансується UK Dev.
