Правительство России готовит законопроект, который обяжет оставить за человеком решающее слово при использовании искусственного интеллекта в общественно значимых сферах. Речь идет о здравоохранении, образовании, юриспруденции и общественной безопасности. Норму планируют внести в разрабатываемый закон о регулировании нейросетей.
Эта инициатива родилась из-за того, что проблемы с ИИ уже становятся системными. В медицине пациенты страдают от ошибок «умного» оборудования. В судах стороны ссылаются на придуманные нейросетями нормы права. В школах и вузах преподаватели небрежно проверяют домашние задания, доверив их ИИ, а в системе распознавания лиц алгоритмы путают людей, и только оператор-человек может исправить ошибку.
В аппарате вице-премьера Дмитрия Григоренко, курирующего вопросы развития ИИ, пояснили, что цена ошибки в этих сферах слишком высока. Она может стоить жизни, здоровья или свободы человека. Поэтому нужно четко прописать зоны ответственности разработчиков и пользователей, а главное — оставить окончательное решение за человеком, а не за машиной.
Депутаты и эксперты указывают на три главные угрозы бесконтрольного ИИ. Первая — дискриминация и искажения, если нейросеть обучали на неполных или предвзятых данных. Вторая — размывание ответственности: когда алгоритм ошибается, непонятно, кто виноват — разработчик, оператор или государство. Третья — потеря доверия граждан к цифровым сервисам, если судьбоносные решения будут приниматься автоматом.
Особая проблема — «галлюцинации» нейросетей, когда буквально вчера умная модель блестяще справлялась с задачами, а на следующий день начинает выдавать абсурд. В юриспруденции это оборачивается ссылками на несуществующие законы. В медицине — травмами пациентов. В образовании — ошибками в проверке знаний.
При этом эксперты предупреждают: вводить тотальный запрет на самостоятельные решения ИИ тоже неправильно. Например, нейросеть уже успешно отсеивает здоровые легкие на рентгеновских снимках, освобождая врачей от рутины, а если заставлять медиков перепроверять каждую «норму», польза от технологии сойдет на нет.
В мире к регулированию ИИ подходят по-разному. В США объявили мораторий на федеральное регулирование. В Китае контролируют отдельные сферы, запретили дипфейки. В Европе приняли жесткий закон об ИИ, который уже вызвал недовольство бизнеса.
Российские власти ищут баланс. С одной стороны, в правительстве уже запустили эксперимент по внедрению ИИ в документооборот — нейросети готовят проекты презентаций, анализируют данные и даже разбирают нормативные акты. С другой — хотят законодательно закрепить, что последнее слово всегда остается за человеком.
Эксперты сходятся в одном: механически делить сферы на разрешенные и запрещенные для ИИ бессмысленно. Важно учитывать уровень риска в каждом конкретном случае.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.