OpenAI напряму працюватиме з канадськими правоохоронцями після масової стрілянини в школі, вчиненої трансгендеркою. Чому прийняте таке рішення і до чого тут ChatGPT

Як передає Reuters, ці кроки компанія анонсувала у своєму листі до міністра штучного інтелекту та цифрових інновацій Канади Евана Соломона. 

Читайте также: Латвія стала першою країною, яка офіційно визнала українські електронні підписи

Лист направила віцепрезидент OpenAI з питань глобальної політики Енн О’Лірі. Це сталося після того, як канадські міністри закликали розробника ChatGPT швидко посилити свої протоколи безпеки та попередили, що Канада внесе законодавчі зміни щодо роботи чатбота, якщо компанія цього не зробить.

Речник міністра Соломона повідомив, що Оттава розглядає лист від OpenAI та прокоментує його найближчими днями.

Канадські міністри цього тижня також викликали команду безпеки OpenAI після того, як компанія заявила, що не зверталася до поліції щодо облікового запису, який належить підозрюваній у стрілянині Джессі Ван Рутселаар.

Відомо, що 18-річна ван Рутселаар народилася хлопчиком, але з певного віку почала ідентифікувати себе як дівчину. Її підозрюють у вбивстві восьми людей 10 лютого у містечку Тамблер-Ридж перед тим, як покінчити життя самогубством. Перед масовою стріляною в школі вона вбила матір і брата. 

При цьому OpenAI заявила, що минулого року заблокувала її обліковий запис ChatGPT за порушення правил, адже цей обліковий запис був позначений системами, які виявляють «зловживання моделями для сприяння насильницькій діяльності». Водночас, OpenAI заявила, що цей кейс не відповідав її внутрішнім критеріям для повідомлення правоохоронним органам.

Читайте также: «Київстар» придбав інтернет-провайдера з Кіровоградщини — Shtorm

Втім, вже зараз О’Лірі заявила, що згідно з «розширеним протоколом», вона би передала інформацію про блокування цього облікового запису до поліції, якби це було виявлено зараз.

Компанія також виявила, що Ван Рутселаар використовувала другий обліковий запис у чатботі після блокування попереднього, дані про який вона надала правоохоронним органам.

Поліція, в результаті, повідомила, що у Ван Рутселаар були проблеми з психічним здоров’ям. 

Як повідомляв dev.ua, студент зі США подав позов на OpenAI і заявив, що ChatGPT підштовхнув його до психозу. Тим часом, гендиректор OpenAI Сем Альтман шукає кандидата на топ-позицію у компанії, у фукціонал якої буде входити широке коло питань безпеки — як для користувачів, так і щодо критичних вразливостей самого продукту.