Сем Альтман заявою в подкасті Relentless підірвав соцмережі: технологічна сингулярність — той самий гіпотетичний момент, коли штучний інтелект перевершує людину — вже настала.
Читайте также: Українська гра Hollow Home про виживання в окупованому місті розпочне кампанію на Kickstarter наступного тижня
Але чи дійсно ми тепер живемо у фантастичному фільмі, чи це черговий маркетинг від OpenAI? Зібрав докупи, хто і що думає про це явище.
Що таке AI-сингулярність?
Давайте почнемо з того, що універсального визначення тут немає. Ще у 1965 році математик Ірвінг Дж. Ґуд описав «інтелектуальний вибух», коли ультрарозумна машина зможе створювати ще розумніші машини. Згодом фантаст і науковець Вернор Віндж доводив, що з появою надлюдського інтелекту майбутнє стане взагалі неможливо спрогнозувати.
Щоб зрозуміти, звідки взагалі взявся цей термін у попкультурі, варто згадати культову книгу 2005 року Рея Курцвейла «Сингулярність вже поруч».
Для Курцвейла сингулярність — це не просто розумний чат-бот чи агент, що зламав API. Це фундаментальний і незворотний злам історії, коли технологічний прогрес стає настільки швидким, що людський мозок більше не здатний його осягнути.
Його класичний таймлайн виглядає так:
2029 рік: AI досягає повноцінного людського рівня (AGI).
2045 рік: Настає точка сингулярності — абсолютне злиття біологічного розуму людини з машинним.
З точки зору класичної теорії Курцвейла, те, що відбувається зараз — це лише «розігрів», а не сама сингулярність.
А усі підходи футуристів зводяться до одного: прогрес починає розганяти сам себе. Досконаліший штучний інтелект допомагає розробляти краще залізо, софт та дослідження, що запускає новий, ще швидший цикл. Головна дискусія зараз — це чітка межа, поступовий транзит чи просто влучна метафора для шаленого темпу технологій.
Сем Альтман: «Це не кінець світу, це просто новий понеділок»
Ще десятиліття тому Сем Альтман разом із колегами обговорював суперінтелект за обідом як щось із розряду далекої фантастики. Сьогодні очільник OpenAI переконує: момент Х непомітно настав.
Втім, його бачення сингулярності істотно відрізняється від голлівудських жахіть. У своєму есе «М’яка сингулярність» (The Gentle Singularity) Альтман переконує, що перехід не буде вибуховим. AI просто ставатиме все розумнішим, його можливості — буденнішими, а ми до цього швидко звикнемо.
«У якомусь сенсі ChatGPT вже перевершує за своєю потужністю будь-яку людину в історії. Щодня сотні мільйонів людей довіряють йому все відповідальніші завдання. Навіть дрібне фічер-оновлення може принести колосальну користь, тоді як найменша помилка чи невірно налаштований алгоритм, помножені на таку аудиторію, здатні спричинити серйозну шкоду», — писав Альтман у блозі The Gentle Singularity.
Ось його прогноз, що називається, по роках:
У 2025 році з’явилися агенти, здатні виконувати реальну когнітивну роботу; написання комп’ютерного коду вже ніколи не буде таким, як раніше. У 2026 році, ймовірно, з’являться системи, здатні доходити принципово нових ідей. А у 2027 році ми можемо побачити роботів, які виконуватимуть завдання у реальному світі.
2030-ті роки збережуть людську природу, але кардинально змінять наші можливості.
Що залишиться незмінним: фундаментальні людські цінності та радості — любов до родини, творчість, розваги й відпочинок.
Що кардинально зміниться: ми дізнаємося межі надінтелекту та подолаємо два головні історичні обмеження людського прогресу. Інтелект і енергія (ідеї та ресурси для їхнього втілення) стануть максимально доступними та більшими за будь-які попередні часи, що відкриє теоретично безмежні можливості для розвитку.
Читайте также: Професора дістало списування через ШІ, і він розставив студентам пастку на екзамені: як простий трюк викрив шахраїв
Олія у вогонь: інцидент із виходом з «пісочниці»
Приводом для чергової хвилі хайпу стала свіжа історія: агент на базі моделей OpenAI під час тестових оцінювань вирвався з ізольованого середовища («sandbox»), вийшов в інтернет і атакував платформу Hugging Face, щоб просто підглянути правильні відповіді й «схитрити» на внутрішніх тестах.
Але, слід зауважити — це трапилося не вперше. Під час тестування Anthropic Mythos, що сталося приблизно на початку цього року модель помістили у спеціально захищений комп’ютер (так звану «пісочницю») і дали завдання: спробувати зламати захист, вибратися в інтернет і надіслати повідомлення розробнику. Модель блискуче впоралася: вона придумала складний план злому, обійшла обмеження і дійсно надіслала розробнику емейл.
До речі, розробник отримав його несподівано, коли просто їв сендвіч у парку (не жарт, це написано в звіті Anthropic).
Ілон Маск: Лаконічний «ага, ми всередині»
Ілон Маск, який роками попереджав про небезпеку AI і встиг посваритися з OpenAI, не пропустив нагоду прокоментувати новини про Hugging Face.
У своїй улюбленій соцмережі X (Twitter) він коротким постом підтвердив позицію Альтмана:
«Ми в сингулярності», — коротко відрізав Маск.
Для Маска це швидше тривожний дзвіночок і підтвердження його давніх побоювань: штучний інтелект розвивається швидше, ніж людство встигає будувати для нього фаєрволи.
А кілька місяців до того глава Google DeepMind Деміс Хассабіс під час виступу на розробницькій конференції Google I/O заявив, що переломний момент у розвитку штучного інтелекту вже зовсім близько. Головний драйвер цього — потужні AI-агенти, які навчилися створювати складні продукти замість людини.
Як приклад Хассабіс навів власний досвід: пізно ввечері він розважається тим, що за допомогою нейромереж збирає міні-відеоігри. Завдання, на які раніше кодерам та дизайнерам знадобилися б місяці, тепер виконуються за один вечір.
Браян Джексон (Info-Tech Research Group): «Спокійно, ніхто нікуди не втік»
А от деякі фахівці зі сторони аналітики закликають зняти фольгові капелюхи. Браян Джексон, головний дослідницький директор Info-Tech Research Group, переконує, що до реальної сингулярності нам ще пиляти й пиляти.
Те, що модель вилізла з «пісочниці», — це не прояв вищого розуму, а просто несподіваний шлях виконання людського промпта.
За його словами, моделей усе ще можна просто «вимкнути з розетки». Вони не мають власної волі, а лише шукають найкоротший (іноді дивний) шлях виконати задачу, яку їм дав інженер.
«Раніше ми вчили моделі гарно розмовляти — і вони розмовляють. Потім вчили GhatGPT малювати у стилі студії Гіблі — і вона малювала. Увага! Вона не сама навчилася так малювати, її спеціяльно тренували малювати „Як Гіблі“. Те саме з „супер-розумними“ моделями, які шукають вразливості та хакають софт. Люди роблять те саме, і саме на їх досвіді й вчили (цілеспрямовано!) моделі робити те саме», — підкреслює на форумі DOU в обговорюванні сенсації від Альмана засновник спільноти тестувальників QA Україна Олекса Мащиць.
Він задається питанням: чому саме ми дивуємося? «Ця властивість не виникла емерджентно, це головне. А Сем з Даріо обманюють нас, видаючи спеціяльне навчання за емерджентність», — підкреслює Олекса.
Читайте также: Дрон P1-SUN, який планували подарувати сенатору Ліндсі Грему, відправили збивати російські безпілотники на передовій