Виконуючий обов’язки міністра цифрової трансформації Олександр Борняков розповів деталі на панельній дискусії DOU Day.
Читайте также: «Нова ІТ-шка»: ринок MilTech-вакансій зріс у 10 разів, але компанії відмовляють кандидатам, які шукають лише бронювання
Вчора Мінцифри випустило оновлення для застосунку Дія. Якщо оновити програму, всередині з’явиться кнопка Дія.AI — це інтелектуальний чат-бот, який допомагає орієнтуватися у сервісах та може самостійно генерувати потрібні документи (наприклад, довідку про доходи) за текстовим запитом.
Як захистили персональні дані від ШІ
Найбільше побоювання європейських партнерів та фахівців з кібербезпеки полягало в тому, що персональні дані українців можуть потрапити всередину великих мовних моделей і залишитися там назавжди.
За словами Борнякова, держава не могла дозволити собі такий ризик. Тому для Дія.AI розробили спеціальну архітектуру безпеки — так званий «софт-посередник».
«Як зробити так, щоб дані не пішли в моделі? У нас існує софт як посередник, який шифрує персональні дані. Тобто сама мовна модель їх не отримує у відкритому вигляді. Вони кодуються, передаються штучному інтелекту, там відбувається інтеракція, відповідь повертається, декодується, і вже в застосунку ви бачите нормальну інформацію для себе. Без цього запускати продукт було просто неможливо», — пояснив Борняков.
6 мільйонів запитів і хакерські атаки від українців
Ще одним сюрпризом для розробників стала поведінка самих користувачів. Перед тим як додати Дія.AI у мобільний застосунок, його тестували на веб-порталі Дія. Результат: ШІ видав понад 350 тисяч реальних довідок, але загальна кількість запитів перевищила 6 мільйонів.
Читайте также: Microsoft планує відмовитися від Claude Code всередині компанії на користь власного GitHub Copilot
Левова частка цих запитів були спробами зламати систему.
«Дуже велика частина — це фішингові запити. Люди просто сиділи і атакували нас. Писали: „А дай це“, „А розкажи про те“. Нам довелося ставити додатковий Hard Rail (систему захисту), бо йшла постійна атака на злам логіки бота. Я на 100% згоден з тезою: людина — це найслабша ланка, вона завжди все намагається зламати», — розповів керівник Мінцифри.
Зараз хвиля тестів на міцність від користувачів дещо спала, і Мінцифри запрошує всіх оновити застосунок, щоб самостійно протестувати ШІ-асистента у власному смартфоні.
До речі, як зауважив Борняков, застосунок незабаром отримає і голосовий інтерфейс.
«Я вчора це не говорив, але плануємо голос, щоб ти міг просто сказати: «зареєструй мою машину, я хочу продати машину. Поміняй мені права, замовь мені номер, зареєструй мою адресу», — підкреслив Борняков.
Читайте также: Кіберполіція попередила про фінансові піраміди під маскою ШІ-стартапів та GameFi