Google обмежив AI Overviews для частини медичних запитів після скандалу з «неправильними нормами» аналізів

За даними TechCrunch, AI Overviews більше не показуються для запитів «what is the normal range for liver blood tests» та «what is the normal range for liver function tests». У матеріалі пояснюють, що раніше згенерований блок міг давати числові діапазони без важливих уточнень, зокрема віку й статі, і підштовхувати людину до хибного висновку, що результати «в нормі».

Читайте также: «Код честі»: як iOS-розробник із Сум став бійцем ССО і створив власний бренд одягу на війні

Окремо зазначається, що варіації запиту на кшталт «lft reference range» або «lft test reference range» інколи все ще призводили до появи AI Overviews. Автор публікації перевірив ці формулювання вже через кілька годин після виходу матеріалу й не побачив ШІ-оглядів. Натомість у верхніх позиціях видачі міг з’являтися текст про вимкнення оглядів, а поруч залишалася опція поставити те саме запитання в режимі AI Mode. Втім, для інших, схожих формулювань ці ШІ-огляди могли й далі з’являтися

Представник Google сказав, що компанія не коментує «окремі вилучення» у Search, але працює над «ширшими поліпшеннями». Також у Google додали: внутрішня команда медфахівців переглянула підсвічені запити й у багатьох випадках дійшла висновку, що інформація не була неточною та спиралася на якісні сайти. У British Liver Trust позитивно оцінили вимкнення, але наголосили, що проблема ширша за «підчищення» одиничних відповідей.

Google торік анонсував оновлення для медичних сценаріїв у пошуку, включно з поліпшеними оглядами та моделями. Водночас у запитах про аналізи критичними є контекст, одиниці вимірювання та різниця між лабораторіями, тож помилка в короткому огляді може коштувати занадто дорого.

Читайте также: ГУР заявило, що рф уперше атакувала Україну новим ударним БпЛА «Герань-5»

Раніше dev.ua писав про те, як у пошуку Google не з’являються AI Overviews для запитів на кшталт «чи має Дональд Трамп ознаки деменції» — система показує лише звичайні посилання. Натомість у схожих запитаннях про інших президентів інколи формується коротке зведення. Компанія каже: не кожен запит отримує відповідь від ШІ.