Замість того, щоб з нуля вигадувати, як зробити ШІ безпечнішим для підлітків, розробники можуть використовувати ці промпти для захисту своїх продуктів. Вони охоплюють такі проблеми, як графічне насильство та сексуальний контент, шкідливі ідеали краси та моделі поведінки, небезпечні заняття та челенджі, романтичні чи насильницькі рольові ігри, а також товари та послуги з віковими обмеженнями, пише TechCrunch.
Читайте также: «Ми довго годували їх лайном». Український виробник FPV-дронів TechEx заявив про «жучок» російських спецслужб у своєму офісі
Ці політики безпеки розроблені у форматі промптів, що робить їх легко сумісними з іншими моделями, окрім gpt-oss-safeguard, хоча вони, ймовірно, найефективніші саме в екосистемі OpenAI.
Для написання цих промптів OpenAI співпрацювала з організаціями з безпеки ШІ Common Sense Media та everyone.ai.
«Ці політики на основі промптів допомагають встановити вагомий базовий рівень безпеки в усій екосистемі, а оскільки вони випущені як відкритий код, їх можна адаптувати та вдосконалювати з часом», — зазначив у своїй заяві Роббі Торні, керівник відділу ШІ та цифрових оцінок у Common Sense Media.
Читайте также: Senior Java-розробник втомився шукати документи в пошті, хмарах і галереї — і зробив AI-сховище Life Data Hub
У своєму блозі OpenAI зауважила, що розробникам, зокрема й досвідченим командам, часто буває складно перетворити загальні цілі безпеки на чіткі операційні правила.
В OpenAI визнають, що ці політики не є остаточним розв’язанням складних викликів у сфері безпеки ШІ. Проте вони ґрунтуються на попередніх напрацюваннях компанії, зокрема на таких інструментах захисту на рівні продуктів, як батьківський контроль та прогнозування віку. Торік OpenAI оновила настанови для своїх великих мовних моделей (відомі як Model Spec), щоб визначити, як саме ШІ має взаємодіяти з користувачами віком до 18 років.
Попри небездоганну репутацію у сфері безпеки ШІ, ці кроки є позитивним зрушенням, зокрема для незалежних розробників.
Читайте также: «Я хочу впровадити на СТО штучний інтелект». Це був реальний запит у Києві. Для чого на СТО ШІ?