Компания Midjourney, разработчик популярного генератора изображений на основе искусственного интеллекта, приняла решение заблокировать запросы пользователей на создание изображений двух ведущих кандидатов на пост президента США в 2024 году - действующего президента Джо Байдена и экс-президента Дональда Трампа.
Источник изображения: @AP Photo
Это решение было принято в преддверии следующих президентских выборов в США, которые пройдут в 2024 году. Целью является минимизация рисков распространения дезинформации и фейковых изображений двух основных кандидатов посредством технологий искусственного интеллекта.При попытке создать изображение Байдена или Трампа пользователи Midjourney теперь увидят предупреждение "Обнаружен запрещенный запрос". Любые последующие запросы будут сопровождаться дополнительными предупреждениями о нарушении правил использования сервиса.По словам генерального директора Midjourney Дэвида Хольца, эти ограничения введены для минимизации рисков распространения фейковых изображений, которые уже создавали проблемы в социальных сетях. В частности, в прошлом году активно распространялись глубокие фейки, изображающие арест Дональда Трампа. Хольц подчеркнул, что его компания не преследует целей политической цензуры. Однако на фоне приближающихся важнейших выборов они посчитали необходимым ввести временные ограничения на генерацию потенциально вводящих в заблуждение изображений кандидатов.Подобные запреты уже введены и другими компаниями, разрабатывающими инструменты искусственного интеллекта. В частности, OpenAI запретила генерацию изображений политиков в своем сервисе Dall-E. Google также наложил ограничения на возможности своего чат-бота Gemini отвечать на вопросы, связанные с выборами.Эксперты предупреждают, что технологии искусственного интеллекта могут стать еще более мощным инструментом для распространения дезинформации и манипуляций общественным мнением во время выборов 2028 года. К тому времени возможности систем ИИ по созданию реалистичных подделок значительно возрастут.Помимо США, в этом году пройдут важные выборы более чем в 50 странах мира, включая Россию, Индию, Великобританию и другие. Существуют опасения, что технологии ИИ могут быть использованы для вмешательства в избирательные процессы и распространения фейковых новостей и компромата на кандидатов. Это вынуждает компании, подобные Midjourney, принимать превентивные меры по ограничению возможных злоупотреблений.