Коли неповнолітній користувач заговорює про самогубство чи самоушкодження, штучний інтелект Meta AI вже зараз спрямовує його на гарячі лінії підтримки та закликає звернутися до дорослого, який може допомогти.
Читайте также: Українська Unwave створила безпілотник «Ребодрон» із вбудованою системою РЕБ
Починаючи відсьогодні, компанія також проактивно сповіщатиме батьків або опікунів, які здійснюють нагляд, про те, що підліток перебуває в зоні ризику. Крім того, Meta ділитиметься з ними ресурсами та порадами щодо того, як вони можуть допомогти своїм дітям, повідомляє Engadget.
У Meta зазначають, що створили спеціальну систему ШІ для виявлення таких розмов, проте всі зафіксовані штучним інтелектом чати спочатку перевірятимуться вручну. Це робитимуть перед надсиланням попередження, щоб не сіяти паніку без реальних на те причин. Водночас компанія керуватиметься принципом максимальної перестороги: сповіщення надішлють навіть тоді, коли наміри підлітка здаватимуться модератору неоднозначними.
Зараз ця функція вже доступна для батьків, які використовують батьківський контроль в Instagram у США, Великій Британії, Австралії та Канаді. Для всіх інших користувачів інструментів батьківського контролю у світі вона стане доступною до кінця року.
Читайте также: Британія має намір у стислі строки виготовити нову балістику, аби вже наступного року передати її Україні
Компанія також працює над створенням можливості звертатися до екстрених служб, якщо розмова користувача (як неповнолітнього, так і дорослого) з Meta AI свідчитиме про безпосередню загрозу його життю.
Нарешті, налаштування обмеження контенту від Meta відтепер застосовується і до взаємодії з Meta AI. Якщо батьки ввімкнули функцію обмеження контенту в Instagram, яка відфільтровує чутливі теми на кшталт відвертих зображень чи самоушкодження, то взаємодія їхніх дітей зі штучним інтелектом також буде більш обмеженою.
Читайте также: За межами IDE: як курс FIX IT від KSE ProfTech допомагає розробникам зрозуміти світ електроніки