- Пользователи легко обходят возрастные ограничения и генерируют откровенный контент, практически не неся издержек.
Пользователи легко обходят возрастные ограничения и генерируют откровенный контент, практически не неся издержек.
Инструмент xAI нарушает политику компании, запрещающую порнографические изображения реальных людей.
Было создано свыше 34 миллионов изображений, что поднимает серьезные юридические и этические вопросы.
Видеоинструмент ИИ от xAI Илона Маска создает обнаженные дипфейки знаменитостей, включая Тейлор Свифт, с минимальными мерами предосторожности, что вызывает тревогу по поводу модерации ИИ-контента и изображений, сделанных без согласия.
Функция под названием Grok Imagine была запущена во вторник в приложении Grok для iOS и Android. Она позволяет пользователям анимировать сгенерированные искусственным интеллектом изображения в короткие видеоролики в четырех предустановленных стилях: Normal, Fun, Custom и Spicy. Выбрав "Пикантный ", можно создать обнаженные или сексуально привлекательные ролики. По данным The Verge, инструмент автоматически сгенерировал видео, где двойник Свифт раздевается, не запросив об этом репортера. После того, как фейки со Свифт получили распространение, в среду xAI ограничила возможность генерировать пикантные версии поп-звезды.
Вероятно, ранняя версия видеогенератора без цензуры объяснила его мгновенную популярность: Маск заявил, что использование Imagine выросло более чем на 50%, назвав это "гипервирусом ": только за вторник было сгенерировано 20 миллионов изображений.
В отличие от таких платформ, как Veo 3 от Google и Sora от OpenAI, которые предусматривают меры защиты, блокирующие контент для взрослых и изображения знаменитостей, Grok Imagine, по-видимому, обходит эти меры защиты, несмотря на собственную политику xAI. Условия компании гласят, что пользователям запрещено изображать "подобия людей в порнографической манере ".
Маск пока публично не высказался по этому поводу. Это произошло через год после того, как искусственный интеллект подделал Свифт во время выборов в США в 2024 году.
В августе 2024 года появились фейковые изображения, на которых было видно, что Свифт поддерживает тогдашнего кандидата Дональда Трампа. Этот инцидент вызвал всеобщее осуждение и новые призывы к регулированию генеративного ИИ. Позднее Свифт поддержала соперника Трампа, бывшего вице-президента Камалу Харрис.
В мае Конгресс принял "Акт об удалении ", предоставив жертвам несанкционированных интимных изображений формальную процедуру, позволяющую требовать удаления изображений с платформ. Пока неясно, ограничит ли xAI возможность Grok генерировать откровенный контент с участием реальных людей.
Это последний случай, когда xAI выпускает инструменты, не прошедшие должной проверки. В июле Grok разразился расистской тирадой, назвав себя "МехаГитлером ". Чатбот начал делать антисемитские заявления и утверждать, что в голливудских фильмах широко распространены идеология, пропаганда и антибелые стереотипы.
Еженедельное путешествие ИИ, о котором рассказывает Ген, генеративная модель ИИ.
Читайте нас на сайте transscreen.ru