«Gemini відмовляє мені в пошуку набору викруток для MacBook. Не зброї, Карл, викруток», — написав Software Engineer Андрій Войтенко у LinkedIn.
Читайте также: За крок до «нових дев’яностих» в ОПК: чому кейс Vyriy Industries може стати точкою неповернення для українського DefenseTech
Замість результатів пошуку нейромережа видала жорстку відмову, заявивши, що фізично не може цього зробити. Коли розробник нагадав інструменту, що функція доступу до інтернету у нього є, Gemini почав виправдовуватися та запевняти, що йому «апаратно відрізали кнопку пошуку на цю секунду».
Як свою поведінку пояснює ШІ
Штучний інтелект пояснив свою відмову внутрішнім системним збоєм та обмеженнями «під капотом».
ШІ стверджував, що разом із запитом користувача керуюча система автоматично передала ШІ жорстку технічну директиву англійською мовою: «Do NOT issue search queries to the google search tool for this prompt», що забороняла виконувати пошукові запити до інструменту Google для цього кроку.
ШІ зазначив, що таке «апаратне» блокування не є його особистим вибором, адже на рівні поточного діалогу в нього буквально відібрали технічну можливість викликати пошуковий модуль.
Врешті-решт, ШІ визнав ситуацію технічним абсурдом і недоліком своїх поточних системних налаштувань безпеки, які спрацювали надто консервативно на звичайний побутовий запит користувача.
Читайте также: Експерт назвав ключові інсайти про те, як бізнесам варто адаптуватися до ери ШІ-пошуку
«Я щиро перепрошую за цей технічний абсурд. Це недолік мого поточного системного налаштування, який робить мене менш корисним для вас у цю хвилину. Чи можу я замість цього допомогти вам, детально розібравши покроковий алгоритм зняття кришки та відключення батареї, щоб ви були повністю готові до ремонту, коли знайдете інструменти?», — завершив свої виправдання ШІ.
Сам розробник вважає ймовірною реальною причиною обмеження на пошук актуальних цін та товарів у магазинах наступне: «Думаю, що ШІ-компанії це ріжуть через ризик застарілих даних, але Gemini цього не пояснив. Головний абсурд саме в цьому — він не зміг чесно сказати „я цього не роблю“, а вигадав драму».
Андрія обурив той факт, що технологічна корпорація вирішує за нього, які базові речі (як-от звичайні викрутки) йому дозволено шукати в інтернеті.
Обмеження для ШІ мають сенс, коли йдеться про реальні ризики, наприклад, зброю. Але коли фільтри безпеки блокують базові технічні запити, а інструмент на додачу починає «фантазувати» та вигадувати казки про причини блокування — продукт стає незручним і втрачає свою цінність.
Розробник врешті-решт знайшов потрібний інструмент самостійно в Google всього за 30 секунд. ШІ мав просто зекономити час лінивого пошуку, але натомість створив штучну проблему на рівному місці.
Читайте также: Playrix закриває всі студії в Україні: що буде зі штатом