Из-за слабых мест в системе безопасности чат-бот с искусственным интеллектом Grok генерировал фото полуголых детей. Правительство Франции обвинило его владельца, компанию xAI Илона Маска в нарушении закона Евросоюза о цифровых услугах, сообщило агентство Bloomberg.
По задумке разработчиков, пользователи соцсети X могли напрямую взаимодействовать с Grok на платформе, отмечая его аккаунт в своих сообщениях и предлагая чат-боту ответить. В последние дни при определенном запросе ИИ-модель создавала изображения несовершеннолетних в минимальном количестве одежды, нарушая собственное правило о запрете сексуализации детей. Когда компании-разработчику указали на эту уязвимость, некоторые картинки удалили.
Проблему успели заметить власти Франции. Правительство 2 января обвинило Grok в создании незаконного контента без согласия пользователей и в нарушении европейского законодательства. Материалы передали в прокуратуру.
«Продукты, созданные с использованием искусственного интеллекта, должны пройти тщательное тестирование, прежде чем поступать на рынок, чтобы убедиться в отсутствии у них возможности генерировать подобный материал», — заявила генеральный директор некоммерческой организации Internet Watch Foundation Керри Смит.
Ранее Grok идентифицировал президента Украины Владимира Зеленского как попрошайку, а своего создателя Маска — как гениального и ослепительно красивого. Президент США Дональда Трампа чат-бот предложил казнить.
Автор: Екатерина Виславская