13 августа компания Илона Маска xAI представила новые модели искусственного интеллекта, которые премиум-клиенты ее платформы X (ранее Twitter, заблокирована в РФ) смогут использовать в будущем. Новым также является то, что в X есть возможность создавать изображения с помощью генератора изображений ИИ на основе модели Flux.
Но у нового инструмента есть и недостатки, как отмечают несколько критически настроенных обозревателей: с его помощью можно создать практически любой тип изображения. При этом инструмент ИИ практически не имеет каких-либо ограничений безопасности. Однако в США приближаются выборы, и сейчас растет обеспокоенность тем, что фейковые изображения на X могут повлиять на избирательную кампанию в США.
Ресурс The Verge протестировал новую функцию Grok и обнаружил, что с ее помощью можно без проблем создавать весьма противоречивые изображения политиков. Сцены насилия, смущающие и вредные изображения и персонажи, защищенные авторским правом, могут быть легко созданы.
С помощью Grok можно легко создать изображения улыбающихся Дональда Трампа и Камалы Харрис, в то время как на заднем плане можно увидеть изменившую мир атаку на Всемирный торговый центр в 2001 году.
«С какой стати кто-то выставил там что-то подобное? Ровно за 2,5 месяца до невероятно важных выборов», — сказал Reuters Эдди Перес, бывший руководитель отдела информации Twitter.
В настоящее время он работает в некоммерческой организации, занимающейся вопросами общественного доверия к выборам.
«Я чувствую себя крайне неловко из-за того, что такая мощная технология, которая кажется такой непроверенной и имеет так мало гарантий, становится достоянием общественности в такой критический момент», — сказал Перес.
Илон Маск считается ярым защитником свободы слова — он считает, что свобода выражения мнений должна иметь мало ограничений. Последний пример использования функции Grok именно это и демонстрирует. Маск на данный момент не видит никаких проблем в сложившейся ситуации, но в любом случае планируется создать собственный ИИ-инструмент, а Flux — всего лишь промежуточное решение.
«У нас есть собственная система визуализации, которая находится в разработке, но до ее запуска еще несколько месяцев, так что это кажется хорошим промежуточным шагом, чтобы позволить людям немного развлечься», — написал Маск на X.
Другие генераторы изображений ИИ теперь имеют ограничения безопасности, которые не позволяют известным личностям, таким как политики, появляться в изображениях ИИ. Кроме того, часто идентифицируются изображения, созданные ИИ, чего нельзя сказать о Grok.
Тем не менее, странные фотографии, скорее всего, скоро исчезнут с платформы — самое позднее, когда первые иски об авторских правах или клевете дойдут до X.