Расследование Guardian выявило, что AI Overviews от Google могут предоставлять ложную и опасную информацию о здоровье, ставя под угрозу жизни людей. В результате, Google стала приостанавливать работу этой функции для ряда медицинских запросов. Ранее компания утверждала, что AI Overviews содержат "полезную" и "надёжную" информацию. В одном из случаев система посоветовала пациентам с раком поджелудочной железы избегать жирной пищи, что противоречит медицинским рекомендациям и может ухудшить их состояние. В другом примере были предоставлены неверные данные о тестах на функцию печени, что могло ввести людей с серьёзными заболеваниями в заблуждение относительно их здоровья. Эксперты обеспокоены тем, что люди могут игнорировать важные симптомы, полагаясь на неточные рекомендации. Афина Ламнисос из Eve Appeal отметила непоследовательность ответов AI Overviews на одинаковые вопросы. Кроме того, AI Overviews давала ошибочные сведения о психических заболеваниях, отговаривая людей от обращения за