🤩Искусственный интеллект — в центре внимания ПМЭФ-2025
Он уже используется в ключевых сферах: от диагностики заболеваний до персонализированного обучения и автоматизации госуслуг. Но чем шире применение — тем важнее правила.
🤩Что может ИИ сегодня? ИИ-системы решают множество задач:
🤩В медицине: помогают ставить диагнозы по снимкам КТ/МРТ, прогнозируют риски заболеваний, ускоряют расшифровку анализов, подбирают индивидуальные схемы лечения.
🤩В образовании: автоматизируют проверку заданий, формируют индивидуальные траектории обучения, отвечают на вопросы студентов, анализируют вовлечённость.
🤩В социальной сфере: чат-боты ведут приём обращений, алгоритмы отбирают заявки, ИИ участвует в судебной аналитике.
Кажется, это прорыв. Но есть нюанс: ИИ всё ещё не отличает истину от ошибки. Он создаёт ответы — даже если ответа нет.
🤩Проблема: ИИ может придумывать
Один из фундаментальных рисков — галлюцинации нейросетей. Термин означает ситуацию, когда модель "уверенно выдает ложную информацию", генерируя:
🤩Несуществующие научные ссылки
🤩Неверные диагнозы на основе искажённых данных
🤩Рекомендации, не подтверждённые никакой методикой
🤩В марте 2023 года Bloomberg писал о случае, когда ИИ, применяемый в клинике в США, «придумал» протокол терапии, ссылаясь на якобы существующую публикацию в Journal of Oncology Practice — которая никогда не издавалась. Ошибку выявили врачи, но только через три дня. Для пациента последствия могли быть критичными.
🤩В сфере образования в 2024 году несколько университетов в Великобритании сообщили, что ИИ, встроенный в платформу оценки эссе, ставил высокие баллы за тексты с фактологическими ошибками, если они были написаны «уверенным тоном» и соответствовали ожидаемой структуре.
❓Почему это происходит?
ИИ — не человек и не эксперт. Он предсказывает, какое слово/факт/данные должны идти дальше на основе обучающей выборки. Но:
🤩он не проверяет, существуют ли эти данные на самом деле;
🤩не умеет различать ложь и правду;
🤩не понимает последствий ошибок в здравоохранении или праве.
Чем сложнее и критичнее контекст — тем опаснее «уверенные выдумки».
Ошибки, допущенные машиной, часто выглядят убедительно. А значит — их сложнее распознать и вовремя исправить. Это может привести к фатальным последствиям — от неправильного лечения до дискриминации в доступе к образованию или социальной помощи.
Что нужно?
🤩Регулирование на уровне отраслей.
ИИ в медицине должен проходить лицензирование как медицинское изделие. В образовании — прозрачную методическую экспертизу.
🤩Обязательный человек в цепочке принятия решений.
Автоматизация — да. Но не автономия в финальном решении.
🤩Метки достоверности и источников.
Модель должна указывать, где взяты данные, и отделять подтверждённое от предположений.
🤩Прозрачность алгоритмов.
Нельзя применять black-box решения там, где цена ошибки — здоровье или доступ к знанию.
🤩ИИ — мощный инструмент. Он уже делает многое, на что раньше уходили дни и недели. Но доверять ему полностью — особенно в критичных сферах — преждевременно и небезопасно.
