Самая большая проблема ИИ — не технологии, а отсутствие контроля
Мы продолжаем упираться в одну и ту же стену — безопасность ИИ, с которой даже крупнейшие компании пока не справляются. На бумаге у Google и OpenAI есть фильтры, политики, ограничения. На практике — их регулярно обходят. Причём без хакерских трюков: достаточно грамотно сформулированных запросов, чтобы ИИ начал делать то, что делать не должен. Вплоть до генерации контента, который позволяет «раздевать» людей или создавать убедительные дипфейки.
И проблема здесь уже не в отдельных уязвимостях. Да, конкретные баги пофиксят. Да, фильтры станут жёстче. Но пока одни модели закрывают дыры, тысячи других ИИ-инструментов продолжают работать без каких-либо ограничений вообще. Их никто не регулирует, никто не проверяет, никто не заставляет помечать результат как синтетический.
В итоге мы получаем ситуацию, где дипфейки масштабируются быстрее, чем появляется ответственность. Пользователь не видит разницы между реальным и сгенерированным контентом, а у платформ нет обязательств эту разницу показывать. И это куда более серьёзная проблема, чем временная неспособность ChatGPT или Gemini удержать оборону. Речь уже не про технологии — речь про отсутствие правил игры.
#ИИ #безопасность #дипфейки
