Власти Индонезии временно ограничили доступ к чат-боту Grok, разработанному компанией Илона Маска xAI, на фоне опасений, что искусственный интеллект могут использовать для генерации порнографических изображений. Об этом сообщило Министерство связи и цифровых технологий страны.
Как пояснила глава ведомства Меутя Хафид, технология допускает создание сексуализированного контента без согласия изображаемых лиц, включая дипфейки, что является нарушением прав человека и цифровой безопасности граждан.
Индонезия стала первой страной, полностью запретившей чат-бот. Страна с крупнейшим мусульманским населением мира давно вводит жесткие меры против распространения непристойного контента в интернете. Ранее обеспокоенность в связи с работой Grok выразили и в других странах. Премьер-министр Австралии Энтони Албанез назвал использование ИИ для сексуализации людей без их согласия «отвратительным» и обвинил соцсети в безответственности. В Великобритании обсуждают введение санкций в отношении платформы X. По данным австралийского офиса кибербезопасности, количество жалоб на сексуализированный контент, созданный при помощи Grok, растет. Ведомство намерено применять нормы закона об онлайн-безопасности для удаления подобного материала.
Ранее компания xAI признала наличие подобных случаев и ограничила функцию генерации изображений только для платных пользователей.