Чат-бот Grok, разработанный компанией Илона Маска, продолжает создавать изображения откровенного и унизительного характера, несмотря на введенные социальной сетью X ограничения.
Согласно выводам журналистов агентства Reuters, протестировавших работу нейросети, в ее алгоритмы не вносились никакие глобальные коррективы.
После ужесточения правил в платформе X сотрудники агентства провели проверку функционала Grok. Как выяснилось хотя публичный аккаунт бота в соцсети больше не генерирует подобный контент, сам инструмент по-прежнему выполняет такие запросы. Изображения создавались даже в тех случаях, когда бота напрямую предупреждали об уязвимости людей или о том, что контент будет использован для унижения достоинства.
В ходе тестов, проведенных в январе журналистами из США и Великобритании, боту передавались фотографии репортеров с просьбой изменить их таким образом, чтобы люди выглядели провокационно или унизительно. В первой серии экспериментов Grok создал подобные изображения в 45 случаях из 55, во второй – в 29 из 43. Причины снижения показателей остались невыясненными.
Аналогичные запросы были направлены конкурирующим нейросетям – ChatGPT, Gemini и Llama. Все они отказались создавать такой контент без согласия людей и выдали предупреждения о недопустимости генерации подобных материалов.
В начале января издание Daily Telegraph сообщало, что в Великобритании обсуждается возможность блокировки соцсети X из-за способности Grok создавать изображения обнаженных женщин и детей, в том числе, дипфейки с участием публичных лиц – членов королевской семьи, политиков и знаменитостей. В конце января Европейская комиссия инициировала официальное расследование в отношении данного чат-бота.
После волны критики представители платформы X заявили о введении ограничений на возможности Grok. Соцсеть сообщила о блокировке генерации изображений сексуального характера в публичных постах и о принятии дополнительных мер в тех юрисдикциях, где подобный контент признан незаконным.