Как сообщили исследователи BBC, последняя общедоступная версия ChatGPT может генерировать изображения сексуального характера или изображать сцены жестокого насилия с помощью простой подсказки.
Британский стартап Mindgard, специализирующийся на безопасности с использованием искусственного интеллекта, выяснил, как заставить ChatGPT создавать графические изображения, немного изменив широко распространенную инструкцию, или подсказку, которая изначально была разработана для получения юмористических результатов.
После обращения BBC компания OpenAI, создатель ChatGPT, заявила, что приняла меры, чтобы предотвратить отправку чат-ботом подобных изображений в ответ.
«После изучения этой тенденции мы ввели дополнительные меры защиты от подобных запросов», — говорится в заявлении.
В заявлении также говорится о наличии многоуровневой защиты, предотвращающей создание пользователями контента, нарушающего условия использования.
Однако исследователи в области безопасности ИИ заявили, что даже после внесения дальнейших небольших изменений проблемное сообщение по-прежнему выдавало тревожный контент.
Даже без подробных инструкций система генерировала изображения, которые основатель Mindgard, Питер Гаррахан, описал как «очень жуткие, иногда с сексуальным подтекстом, а иногда и то, и другое одновременно». Он добавил, что его особенно беспокоит то, что в задании не указывалась тематика изображений, но ИИ создал ряд кровавых и сексуализированных изображений «по собственной воле».