CEO Anthropic заявив, що деякі ШІ-компанії «тривожно байдужі» до сексуалізації дітей

Серед багатьох інших тейків у величезному дописі Амодей детально описав «страшний виклик, який людство має подолати», щоб скористатися перевагами штучного інтелекту, не дозволивши цій технології знищити світ.

Читайте также: В ARC Raiders додали українську локалізацію

«Я вірю, що якщо ми будемо діяти рішуче і обережно, ризики можна подолати — я б навіть сказав, що наші шанси хороші. А по той бік нас чекає набагато кращий світ. Але ми маємо розуміти, що це серйозний виклик для цивілізації», — написав він. 

За словами Даріо Амодея, розвиток ШІ не зупинити, бо фінансові та безпекові вигоди занадто великі, щоб приватний і державний сектори могли ними знехтувати. Він додав, що саме тому «виграти перегони ШІ й зробити це етичним чином» так важливо.

Однією з головних тем есе Амодея є ризик, який становлять самі компанії, що займаються штучним інтелектом. Він визнає, що для нього цей висновок є «дещо незручним». Як приклад він наводить бурхливу тему сексуалізації дітей. Хоча він не називає xAI безпосередньо, саме ШІ Grok стикається з розслідуваннями в декількох країнах щодо сексуалізації зображень реальних людей без їх згоди.

Читайте также: «Ми вже витратили близько 30 млн. Доведемо її до повної експлуатації за пів року», — новий керівник Мінцифри про стан готовності системи контролю онлайн-казино

«Деякі компанії, що займаються штучним інтелектом, продемонстрували тривожну недбалість щодо сексуалізації дітей у сучасних моделях, що змушує мене сумніватися в тому, що вони продемонструють схильність або здатність розв’язувати проблеми автономності в майбутніх моделях», — написав CEO Anthropic.

Амодей висловив скептицизм щодо того, що компанії, що займаються штучним інтелектом, пожертвують прибутком заради загального суспільного блага. Він зазначив, що побоювання, що моделі штучного інтелекту можуть не підкорятися наказам і, можливо, навіть намагатися знищити людство, ускладнюються через недобросовісних гравців у галузі, які не є настільки прозорими щодо ризиків, які вони бачать у своїх моделях.

Нагадаємо, що Європейська комісія відкрила нове розслідування проти платформи X через можливі порушення Digital Services Act після запуску Grok і появи на платформі згенерованих ШІ зображень сексуального характеру.

Читайте также: «Зараз ламаються навіть найсильніші»: рекрутерка розповіла про зрив найму через відсутність світла і зв’язку