Компания Google сообщила, что удалила ряд рекомендаций, которые выдавал ИИ-сервис AI Overviews в ответ на запросы пользователей о здоровье и медицинских анализах. Решение приняли после журналистского расследования, выявившего случаи, когда ответы сервиса содержали ложные утверждения и могли быть опасны для здоровья и жизни, пишет The Guardian.
Что такое AI Overviews
AI Overviews — это функция, которая анализирует множество веб-источников и формирует краткую справку, показывая её прямо в результатах поиска. В Google ранее называли этот инструмент «полезным и надёжным». При этом запросы о здоровье — среди самых популярных: пользователи часто ищут расшифровки анализов, рекомендации по диете, лекарства и симптомы заболеваний.
Какие советы вызвали тревогу
По данным расследования, в одном из случаев AI Overviews рекомендовал людям с раком поджелудочной железы избегать пищи, богатой жирами. Однако специалисты отмечали, что при таком диагнозе как раз может назначаться высококалорийное питание и продукты с более высоким содержанием жиров — и ошибочная рекомендация способна навредить пациентам.
В другом примере сервис выдал неверную информацию о функциональной пробе печени. Это могло привести к опасным выводам: пациенты с заболеваниями печени, доверившись ответу ИИ, могли решить, что у них нет проблем со здоровьем.
Также отмечалось, что некоторые рекомендации могли заставить пользователей пропустить важные симптомы серьёзных заболеваний, включая онкологические.
Реакция Google
После удаления проблемных рекомендаций в компании заявили, что AI Overviews в целом опирается на «очень качественные источники». В Google подчеркнули, что не комментируют отдельные изменения в выдаче. При этом компания признала: если сервис «упускает контекст», команда работает над улучшениями и принимает меры в рамках внутренних правил и политики.
Почему это важно
Ситуация вновь поднимает вопрос о том, насколько безопасно использовать ИИ-ответы как руководство к действию в медицинских темах. Даже при ссылках на источники краткие «выжимки» могут искажать смысл, упускать нюансы и в результате давать рекомендации, которые в реальной жизни окажутся неверными.
Врачи напоминают: интерпретация анализов, подбор лечения и оценка симптомов требуют профессиональной диагностики, а советы из поиска — тем более автоматизированные — не могут заменить консультацию специалиста.
