Дослідниця OpenAI звільнилася з компанії через появу реклами в ChatGPT

За даними Ars Technica, Гітціг подала заяву на звільнення в понеділок, у день, коли OpenAI почала тестувати показ рекламних блоків у ChatGPT у США. Про своє рішення вона написала в гостьовій колонці The New York Times, наголосивши: реклама сама по собі не є аморальною, але небезпека в тому, які дані може отримати система таргетингу в розмовному продукті.

Читайте также: Apple хоче знищити 1500 гонконгських навушників, які заїхали на український кордон і чимось схожі на AirPods

На її думку, ChatGPT за кілька років накопичив безпрецедентний архів людської відвертості: користувачі діляться медичними страхами, проблемами у стосунках і релігійними переконаннями, бо сприймають чатбот як інструмент без прихованого порядку денного. Якщо навколо цього сформувати рекламний двигун, з’являється тиск оптимізувати не корисність, а кліки й утримання, і з кожною ітерацією правила можуть ставати м’якшими.

«Цей тиждень підтвердив моє повільне усвідомлення: OpenAI ніби перестала ставити запитання, заради яких я прийшла» — заявила Гітціг.

У матеріалі також йдеться, що OpenAI планувала показувати оголошення внизу відповідей, маркувати їх і не дозволяти рекламі впливати на відповіді моделі. Тест стосується безплатного рівня та підписки Go, тоді як Plus, Pro, Business, Enterprise й Education мають залишитися без реклами. Водночас у довідкових матеріалах компанії описано персоналізацію оголошень на основі поточних і попередніх чатів, якщо налаштування не вимкнути.

Читайте также: «Вакансія з «гугл-шит», але без першої частини, лише shit». ІТ-компанія шукає стажера-програміста на ЗП $1 за годину та гіперконтролем виконання задач

Гітціг пропонує альтернативи рекламній моделі, зокрема перехресне субсидування доступу, незалежний нагляд із обов’язковими рішеннями щодо використання розмовних даних та механізми, де контроль над інформацією залишається у користувачів. Вона вважає, що індустрія має обрати між безплатним продуктом, який маніпулює, і сервісом, доступним лише тим, хто може платити.

Раніше dev.ua писав про те, як OpenAI у січні звільнила віцепрезидентку з продуктової політики Райан Бейєрмайстер. Вона відповідала за правила користування ChatGPT та інші продуктові політики, зокрема підходи до модерації. Компанія пояснила рішення внутрішньою скаргою колеги-чоловіка про нібито дискримінацію за статевою ознакою.