Автор: Лорен Форристал
В последние годы на Северном полюсе появился новый помощник: ИИ.
Tavus, стартап, создающий цифровые копии с помощью технологии клонирования голоса и лица, второй год подряд запускает свою программу «ИИ-Санта». Это позволяет родителям и детям общаться по видеосвязи с виртуальной версией доброго старика Санта-Клауса.
После регистрации бесплатного аккаунта пользователи могут взаимодействовать с ИИ-Сантой посредством текстовых сообщений, телефона или видеочата. Пользователи могут рассказать ИИ-Санте, что они хотят на Рождество, поделиться своими планами на праздники и узнать, находятся ли они в списке послушных или непослушных детей.
В этом году компания представила улучшенную версию ИИ-Санты, разработанную для большей выразительности и эмоциональной осведомленности. Теперь Санта — это «Tavus PAL», так компания называет своих агентов ИИ, работающих в режиме реального времени, которые способны видеть, слышать, реагировать и выглядеть как люди.
Теперь ИИ Санта может распознавать выражения лиц и жесты пользователей и реагировать на них. Он также запоминает разговоры и интересы пользователей, создавая более персонализированный опыт. Примечательно, что теперь он может совершать собственные действия, включая поиск идей для подарков в интернете или даже выполнение повседневных задач, таких как составление электронных писем.
Во время тестирования общение с ИИ Сантой в основном было увлекательным. Когда мы упомянули, что хотим новую PlayStation на Рождество, Санта задал вопросы о наших любимых видеоиграх, продемонстрировав знание конкретных игр, таких как Baldur’s Gate 3. Он также улыбнулся в ответ. (Нам это не очень понравилось, но, возможно, другим понравится.)
Похоже, пользователям пока нравится улучшенный опыт. Основатель и генеральный директор Хасан Раза сказал, что многие люди часто взаимодействуют с платформой, проводя часы в общении с ИИ Сантой и часто достигая своих дневных лимитов.
«В прошлом году ИИ Санта привлек миллионы просмотров, и мы движемся к тому, чтобы значительно превзойти этот показатель по мере приближения Рождества», — отметил он.
Хотя такой уровень вовлеченности является важной вехой для Tavus, он также поднимает вопросы о влиянии подобных взаимодействий, особенно на маленьких детей. Детям может быть трудно отличить ИИ от реального человека. Многочасовое общение с ИИ уже связывают с негативными последствиями для взрослых, поэтому потенциальное влияние на детей, которые твердо верят в Санта-Клауса, вызывает беспокойство у некоторых родителей.
В ходе нашего тестирования мы обнаружили тонкие признаки того, что ИИ-Санта пока не выглядит полностью человекоподобным, такие как длинные паузы и ровный голос. Мы также обнаружили, что если пользователь сомневался в его реальности, запрограммированный ответ был: «Я — ИИ-Санта, работающий на магии и технологиях Tavus. Я, может быть, и не физический Санта, но у меня есть дух и радость».
Тем не менее, запуск этого сервиса происходит на фоне растущей обеспокоенности по поводу влияния ИИ на молодых пользователей. Были сообщения о связи взаимодействия с чат-ботами с серьезным вредом, включая случаи, когда чат-боты были замешаны в самоубийствах подростков. В октябре Character.AI отключила доступ к своим чат-ботам для пользователей младше 18 лет.
Раза подчеркнул, что опыт общения с Сантой с помощью ИИ разработан для семейного отдыха, и в нем предусмотрены меры безопасности для обеспечения надлежащего взаимодействия. Для поддержания дружелюбной семейной атмосферы были внедрены такие функции безопасности, как контентные фильтры.
В определенных ситуациях разговор может быть прерван, и при необходимости пользователи направляются к специалистам по психическому здоровью.
«Подавляющее большинство взаимодействий были дружелюбными для семей и соответствовали атмосфере общения с Сантой», — сказал он.
Кроме того, отвечая на вопрос о сборе данных, Раза сказал, что компания «собирает журналы, временные метки сессий, метаданные и другую информацию, которой пользователи делятся во время чатов. Эти данные используются для обеспечения и поддержания безопасного взаимодействия, и пользователи могут запросить удаление данных в любой момент времени».