Китайская полиция сообщила, что недавно задержала пользователя ChatGPT за то, что он якобы использовал чат-бота для создания фальшивой новости о несуществующем крушении поезда. Это одно из первых правоприменительных действий в рамках недавно принятого в Китае закона, регулирующего генерируемые ИИ "дипфейки" - кажущиеся реалистичными, но сфабрикованные цифровые изображения или видео.
Согласно полицейскому отчету, человек, назвавший только свою фамилию Хонг, использовал ChatGPT для создания фальшивой новостной статьи об аварии, которая якобы привела к гибели девяти рабочих в Ганьсу. Двадцать одна медиакомпания распространили фальшивую историю за короткий промежуток времени.
Как и большинство сайтов и приложений, ChatGPT технически недоступен в Китае благодаря "файерволу", который ограничивает доступ в интернет для жителей страны. Однако некоторые целеустремленные люди могут получить доступ, обходя брандмауэр. В полицейском отчете не описано, как Хонг смог использовать ChatGPT.
К тому времени, когда сотрудники службы безопасности Ганьсу поняли, что статья была фейковой, она набрала 15 000 просмотров. После этого полиция провела обыск по месту жительства Хонга для сбора доказательств, а затем приняла временные меры по ограничению свободы подозреваемого.
Новый китайский закон о фейках вступил в силу 10 января. Он запрещает фальшивые СМИ, созданные с помощью "технологий глубокого синтеза", таких как ИИ и виртуальная реальность, но предлагает лишь расплывчатые определения. Согласно сайту China Law Translate, он запрещает дипфейки, используемые в деятельности, которая угрожает национальной безопасности, наносит ущерб имиджу страны или общественным интересам общества, а также нарушает "экономический или социальный порядок". Закон запрещает использование технологию ИИ для производства, публикации или передачи фальшивых новостей.
Подписывайтесь на Телеграм
Еще от Аммиак: