Независимое агентство социологических исследований KFF в 2024 году установило, что, по крайней мере, один из шести взрослых (17%) использующих чат-боты (ChatGPT, Microsoft CoPilot, Google Gemini и др.), как минимум, раз в месяц обращается с вопросами о здоровье 🚑
Доля таких пользователей возрастает до каждого четвертого (25%), если взять аудиторию моложе 30 лет.
Программные инженеры Apple выявили, что большие языковые модели ведущих разработчиков Meta и OpenAI галлюцинируют и ошибаются в силу принципиального отсутствия у современных систем ИИ критического мышления❗
Это приводит к тому, что процент ошибок в их «умозаключениях» может достигать до 35%, и это никак нельзя побороть❗
Системы, построенные на современных ИИ-технологиях, критически чувствительны к данным, использованным для их обучения❗
Исследование, проведенное специалистами Стэндфордского университета, выявило 133 такие системы, при этом 59 систем оказались небеспристрастны к полу, а 74 – к расе человека. При этом 34 системы проявляли предвзятость по обоим признакам.
Так, например, система диагностики рака кожи оказалась значительно менее точна в диагнозах, которые ставились чернокожим, потому что обучалась на белой выборке.
То есть причиной во всех этих случаях был не злой умысел разработчиков и не сбои в работе аппаратно-программной части, а наборы обучающих данных, неадекватные решаемым задачам❗
В качестве реакции на сложившуюся ситуацию организация ЮНЕСКО при ООН даже выпустила специальный документ с рекомендациями по достижению гендерной непредвзятости в системах ИИ.
Что мы имеем на сегодня:
✔️ Система ИИ не является аналогом человеческого мышления, это всего лишь самонастраивающийся фильтр - алгоритм, выявляющий шаблоны на основе обработки конкретного набора примеров. Этот набор примеров не охватывает всего многообразия ситуаций или всех влияющих факторов, т.е. система ИИ дает ответ, основанный на некачественном обучении 👌
✔️ Большие языковые модели, стоящие за всеми популярными чат-ботами, могут формировать несуществующие доказательства для своих выводов. Система не содержит в своей базе ответа на вопрос, но все равно ответит, генерируя нечто правдоподобное по заложенным в неё шаблонам 👌
Известны случаи, когда по рекомендации ChatGPT человек, занимавшийся самолечением, принимал токсичные вещества с серьезными последствиями для здоровья.
Возможно, именно такие случаи послужили основой для принятого создателями ChatGPT в конце октября 2025 года решения, согласно которому данный чат-бот больше не дает советов по медицинским вопросам❗
Но ведь есть и другие чат-боты…
А теперь добавим к рассмотрению еще один фактор❗️
Ни для кого не секрет, что поисковые системы типа Google и Yandex за деньги готовы разместить приоритетную информацию в результатах выдачи при поиске - это их официальная стандартная услуга. Иными словами, пользователь ищет лекарство от боли, а ему в ТОП-10 ссылках выдадут конкретные препараты, производители которых это оплатили.
А что если владельцы популярных чат-ботов будут делать тоже самое, и советы их ИИ-систем будут определяться не только их «обучением», но и оплатой❓
Как часто вы пользуетесь услугами чат-ботов в своей профессиональной сфере❓
Замечали ошибочные советы и рекомендации❓
#ИИ #chatGPT #искусственныйинтеллект #телемедицина #самолечение