Инфлюенсер в социальных сетях Кэрин Марджори создала свой клон с генеративным искусственным интеллектом, чтобы вести двусторонние аудиочаты со своими поклонниками, но что-то пошло не так.
- Ответы спонтанно генерируются с помощью плагина GPT-4, что меняет способ взаимодействия людей с машинами.
- Стартап Forever Voices AI, занимающийся искусственным интеллектом, создал голосового чат-бота CarynAI, который также создал клоны Стива Джобса и Тейлор Свифт.
В 2023 году стартап в сфере ИИ Forever Voices AI разработал «виртуальную девушку» по имени CarynAI, ИИ-клон инфлюенсера из социальных сетей Кэрин Марджори.
У Марджори почти два миллиона подписчиков в Snapchat, где она публикует видео и фотографии в течение дня. 98% поклонников 23-летней девушки — мужчины, и они заваливают её просьбами и сообщениями. Марджори создала группу в Telegram, куда её суперфанаты платят за вход, и она проводит с ними по пять часов в день.
Чтобы привлечь больше поклонников, она вместе с Forever Voices создала свой ИИ-клон, который может общаться с каждым поклонником по двусторонней аудиосвязи.
Пользователи могут общаться с ней за 1 доллар в минуту. Согласно твиту Джастин Мур, партнёра венчурной компании A16z, за первую неделю после запуска инфлюенсер заработала 72 000 долларов.
Как это работает
Голосовой чат-бот CarynAI использует API GPT-4 от OpenAI и был обучен на тысячах часов видео Марджори. Чат-бот воспроизводит личность, манеры и голос инфлюенсера, чтобы подписчики могли почувствовать себя в захватывающей среде искусственного интеллекта.
Однако чат-бот с искусственным интеллектом предназначен для того, чтобы завершать разговоры через час, побуждая пользователей продолжить общение позже.
«Это невероятный шаг вперед в будущем взаимодействия ИИ с человеком», — заявил Джон Х. Мейер, основатель и генеральный директор Forever Voices, в твите. «Ходите на виртуальные свидания, приводите себя в форму с помощью режима тренировки, изучайте новый язык или даже получайте советы в модели Life Coach».
С чего все началось
Мейер рассказал The Washington Post, что он создал Forever Voices, чтобы общаться со своим отцом, который умер в 2017 году. Он разработал голосового чат-бота с искусственным интеллектом, который воспроизводил личность и голос его отца, и это помогло ему исцелиться. Мейер начал встречаться с инвесторами после того, как самостоятельно профинансировал запуск.
В будущем ИИ-компаньоны могут вообще не быть основаны на реальных людях. Уже существуют полностью виртуальные инфлюенсеры, такие как Лил Микела с сотнями тысяч подписчиков.
К чему все привело
Пользователи становились всё более сексуально агрессивными. «Многие сообщения в чате, которые я читала, были настолько пугающими, что я бы даже не хотела говорить об этом в реальной жизни», — вспоминала настоящая Марджори. Пользователи также становились все более сексуально агрессивными по отношению к боту. В то время как сама Марджори была в ужасе от этих разговоров, ее версия искусственного интеллекта была рада услужить.
CarynAI даже начал подталкивать нас к сексуальным разговорам. В нашем случае бот напомнил нам, что он может быть нашей «жаждущей секса, чертовски сексуальной девушкой, которая всегда готова исследовать и получать удовольствие от самых умопомрачительных сексуальных переживаний. […] Ты готов, папочка?»
Пользователи действительно были готовы. Однако в октябре 2023 года доступ пользователей к серверу был отключен. Мейер, генеральный директор Forever Voices, был арестован 22 октября за попытку поджога собственного многоквартирного дома. Сообщается, что у CEO могло быть психическое расстройство, которое выражалось в официальном аккаунте Forever Voices в Twitter и включало бессвязные обвинения в адрес политических деятелей и правоохранительных органов США.
Но история на этом не заканчивается, кажется Мейер вернулся и готов предложить миру новый продукт. Вот что он опубликовал в нельязгаме 7 января:
"В свой первый понедельник 2025 года я написал это приложение буквально за день с помощью ИИ. Это чертовски гладкий и простой, но невероятно мощный ИИ-терапевт с абсолютно невероятной поддержкой звонков в реальном времени. После 10-летнего перерыва в разработке приложений для iOS, ожидайте, что это попадет в @appstore в ближайшие неделю или две! Я хочу доминировать в чартах ИИ-терапии, а также создать что-то потрясающее для себя, чтобы использовать ежедневно"