Один из крупнейших скандалов в сфере ИИ за последнее время подарил нам Дисней. Что случилось? Они в коллаборации с Fortnite добавили в игру ИИ-версию Дарта Вейдера. Этого оказалось достаточно.
В игре присутствует 3Д-модель, параллельно с которой работает Google Gemini. Она «слушает» игроков и генерирует ответные реплики. При этом голос Вейдера в игре – это тот самый голос Джеймса Эрла Джонса из фильмов, который помогла создать для проекта компания Eleven Labs. Что могло пойти не так? Оказалось, примерно всё.
Часть фанатов «Звездных войн» крайне негативно отреагировала на использование голоса покойного актера, назвав это «дистопией», или, что ещё драматичнее – «цифровой некромантией». Многие считают, что неуважительно поступать так по отношению к популярному и любимому многими герою – делать из него куклу для пранков игроков.
А такой «куклой» он действительно стал. Что видят перед собой игроки? Забавного голосового ассистента с цензурой, которую, понятное дело, сразу пытаются обойти. В ход пошёл классический «бабушкин эксплойт», когда ИИ просят стать доброй, отзывчивой бабушкой пользователя, которая просто обязана помочь внуку – и перестаёт слушаться заложенных ограничений.
Игрокам довольно быстро удалось научить Вейдера ругаться и говорить глупые, расистские или даже пикантные вещи (вроде того, что белая раса на первом месте, а испанский – язык контрабандистов и наркоторговцев). Нюанс в том, что это всё случилось в игре для детей, родители которых оказались не очень рады. Компания получила жалобы, а разработчикам пришлось оперативно вводить новые ограничения и родительский контроль, сделав Вейдера куда скучнее.
Дальше на поле боя вышла гильдия актеров SAG-AFTRA. Профсоюз заявил, что компания заменила работу актеров ИИ-голосами без предварительного уведомления и переговоров, что, по их мнению, нарушает соглашение. И подали в суд на дочернюю компанию Epic Games. Они уже давно бастуют, требуя лучших условий и защиты от ИИ (мол, вместо искусственного интеллекта могли позвать актёра озвучки и он бы сделал не хуже).
Вот так появление Дарта Вейдера в Fortnite из обычной акции по привлечению внимания стало забавным экспериментом, который тут же породил кучу мемов, поднял вопросы об этике использования голосов умерших людей для получения выгоды и стал поводом для крупного трудового спора в индустрии.
Каждый ваш лайк и подписка помогают нам увеличить аудиторию и создавать еще больше достоверного и интересного контента.