Наша жизнь вскоре наполнится разговорными агентами ИИ, созданными, чтобы помогать нам на каждом шагу, предугадывая наши желания и потребности, чтобы подавать нам персонализированную информацию и выполнять полезные задачи от нашего имени. Они будут делать это, используя обширный запас личных данных о наших индивидуальных интересах и увлечениях, происхождении и стремлениях, чертах личности и политических взглядах — все с целью сделать нашу жизнь «более удобной».
Эти агенты будут чрезвычайно квалифицированными. Только на этой неделе Open AI выпустила GPT-4o, своего нового поколения чатбота, который умеет читать человеческие эмоции. Он может делать это, не только читая настроения в тексте, который вы пишете, но и оценивая интонации в вашем голосе (если вы говорите с ним через микрофон) и используя ваши мимические сигналы (если вы взаимодействуете через видео).
Это будущее вычислений, и оно наступает быстро.
Только на этой неделе Google объявила о проекте Astra — сокращенно от advanced seeing and talking responsive agent (передовой видящий и разговаривающий реагирующий агент). Цель состоит в том, чтобы развернуть помощника ИИ, который может взаимодействовать с вами в разговоре, понимая, что он видит и слышит в вашем окружении. Это позволит ему предоставлять интерактивную помощь и поддержку в реальном времени.
И на прошлой неделе Сэм Альтман из Open AI сказал MIT Technology Review, что убийственным приложением для ИИ являются помощники-агенты. Фактически, он предсказал, что каждый захочет иметь персонализированного агента, который действует как «очень компетентный коллега, который знает абсолютно все о моей жизни, каждое письмо, каждый разговор, который у меня когда-либо был», все это зафиксировано, чтобы он мог предпринимать полезные действия от вашего имени.
Что может пойти не так?
Как я писал в VentureBeat в прошлом году, существует значительный риск того, что агенты ИИ могут быть использованы таким образом, который подрывает человеческую автономию. Фактически, я считаю, что целенаправленная манипуляция — это самая опасная угроза, исходящая от ИИ в ближайшем будущем, особенно когда эти агенты станут встроенными в мобильные устройства. В конце концов, мобильные устройства — это ворота в нашу цифровую жизнь, от новостей и мнений, которые мы потребляем, до каждого письма, телефонного звонка и текстового сообщения, которое мы получаем. Эти агенты будут контролировать наш поток информации, узнавая интимные детали нашей жизни, а также фильтруя контент, который достигает наших глаз.
Любая система, которая контролирует нашу жизнь и посредничает в получаемой нами информации, является средством интерактивной манипуляции. Чтобы сделать это еще более опасным, эти агенты ИИ будут использовать камеры и микрофоны на наших мобильных устройствах, чтобы видеть то, что мы видим, и слышать то, что мы слышим в реальном времени. Эта возможность (обеспечиваемая мультимодальными большими языковыми моделями) сделает этих агентов чрезвычайно полезными — они смогут реагировать на зрелища и звуки в вашем окружении, не требуя вашего запроса на их руководство. Эта возможность также может быть использована для инициирования целенаправленного влияния, соответствующего конкретной деятельности или ситуации, в которой вы находитесь.
Для многих людей этот уровень слежения и вмешательства кажется жутким, но я предсказываю, что они примут технологию. В конце концов, эти агенты созданы для того, чтобы сделать нашу жизнь лучше, шепча нам на ухо, пока мы ходим по своим делам, гарантируя, что мы не забудем забрать свое белье, когда идем по улице, обучая нас, когда мы учим новые навыки, даже тренируя нас в социальных ситуациях, чтобы мы казались умнее, смешнее или увереннее.
Это станет гонкой вооружений среди технологических компаний для усиления наших умственных способностей самыми мощными способами. И те, кто выберет не использовать эти функции, быстро почувствуют себя в невыгодном положении. В конечном итоге это даже не будет казаться выбором. Вот почему я регулярно предсказываю, что адаптация будет происходить очень быстро, становясь повсеместной к 2030 году.
Так почему бы не принять усиленное мышление?
Как я писал в своей новой книге "Наше следующее реальность" — агенты ИИ дадут нам умственные сверхспособности, но мы не можем забывать, что это продукты, созданные для получения прибыли. И, используя эти продукты, мы позволим корпорациям шептать нам на ухо (и мелькать изображениями перед нашими глазами), которые будут направлять нас, обучать, предостерегать и побуждать нас на протяжении всего дня. Иными словами, мы позволим агентам ИИ влиять на наши мысли и направлять наше поведение. Когда используется во благо, это может быть удивительной формой расширения возможностей, но когда это злоупотребляется, это может легко стать окончательным инструментом убеждения.
Это приводит меня к "проблеме манипуляции ИИ" — тому факту, что целенаправленное влияние, осуществляемое разговорными агентами, потенциально намного более эффективно, чем традиционный контент. Если хотите понять почему, просто спросите у любого квалифицированного продавца. Они знают, что лучший способ склонить кого-то к покупке товара или услуги (даже той, которая им не нужна) — это не вручить им брошюру, а вовлечь их в диалог. Хороший продавец начнет с дружеской болтовни, чтобы «размерить вас» и снизить вашу бдительность. Затем они зададут вопросы, чтобы выявить любые ваши сомнения. И, наконец, они адаптируют свою презентацию, чтобы преодолеть ваши опасения, используя тщательно подобранные аргументы, которые лучше всего играют на ваших нуждах или неуверенности.
Причина, по которой манипуляция ИИ представляет такой значительный риск, заключается в том, что скоро агенты ИИ смогут предлагать нам интерактивные продажи, и они будут значительно более квалифицированными, чем любой человек-продавец (см. видеопример). Это не только потому, что эти агенты будут обучены использовать тактики продаж, поведенческую психологию, когнитивные предвзятости и другие инструменты убеждения, но они также будут вооружены гораздо большим объемом информации о нас, чем любой продавец. Фактически, если агент является вашим «личным помощником», он может знать о вас больше, чем кто-либо когда-либо. (Для изображения ассистентов ИИ в ближайшем будущем прочтите мой короткий рассказ 2021 года "Метавселенная 2030" или посмотрите видео ниже).
"Метавселенная 2030" Луи Розенберга превратилась в аудиоспектакль, созданный Управлением по защите данных.
Кроме того, эти агенты ИИ смогут читать ваши эмоции с большей точностью, чем любой человек — обнаруживая «ошибочные выражения» на вашем лице и в вашем голосе, которые никогда не заметил бы продавец. И если мы не введем регулирование, они будут документировать вашу реакцию на каждое предложение, которое они делают, оценивая, что лучше всего работает на ВАС лично — предложения со скидками, страх пропустить что-то важное, логические аргументы, эмоциональные обращения — они будут со временем учиться, как точно давить на ваши кнопки.
Даже внешний вид агентов ИИ будет оптимизирован со временем, чтобы максимизировать их воздействие на вас лично. Их цвет волос и глаз, одежда и стиль речи, даже возраст, пол и раса могут быть выбраны на основе того, что наиболее вероятно повлияет на вас лучше всего. Я писал об этом десять лет назад в своем научно-фантастическом графическом романе "UPGRADE", в котором виртуальные представители (называемые "Spokegens") были развернуты для целевого воздействия на каждого человека. Агенты ИИ постепенно корректировали свой внешний вид со временем на основе того, что лучше всего работало на каждом человеке. Протагонист заметил, что его агент становился все более и более сексуализированным, пока не стал всегда появляться, выглядя как проститутка — все это для того, чтобы как можно эффективнее продавать ему "пищевые батончики" и другие продукты. Я предназначал это как иронию в 2012 году, но теперь это вот-вот станет реальностью.
С технической точки зрения, манипулятивная опасность агентов ИИ может быть подведена под два простых слова — "обратная связь". Это потому что разговорный агент может быть задан с "целью влияния" и затем работать интерактивно, чтобы оптимизировать воздействие этого влияния на конкретного человека через прямой разговор. Это может быть сделано путем выражения точки зрения, чтения реакций (как содержание, так и эмоции) в ваших словах, ваших голосовых интонациях и ваших мимических выражениях, а затем адаптации тактик влияния (как его язык, так и стратегический подход), чтобы преодолеть ваши возражения и убедить вас в том, что было предложено.
Система управления манипуляциями человеком показана выше. С концептуальной точки зрения это не очень отличается от систем управления, используемых в теплонаводимых ракетах. Они обнаруживают тепловую подпись самолета и корректируют в реальном времени, если они не нацелены точно в правильном направлении, прицеливаясь, пока не поразят свою цель. Если не регулировать, разговорные агенты смогут делать то же самое, но ракета будет куском влияния, а целью будете вы. И если влияние является дезинформацией, дезинформацией или пропагандой, опасность чрезвычайна. По этим причинам регуляторам необходимо сильно ограничить целенаправленное интерактивное влияние.
Но придут ли эти технологии скоро?
Я уверен, что разговорные агенты повлияют на нашу жизнь в течение следующих двух-трех лет. В конце концов, Meta, Google и Apple все сделали заявления, указывающие в этом направлении. Например, Meta недавно запустила новую версию своих очков Ray-Ban, работающих на ИИ, которые могут обрабатывать видео с встроенных камер, давая вам руководство по предметам, которые ИИ видит в вашем окружении. Apple также движется в этом направлении, объявив о мультимодальной большой языковой модели, которая могла бы дать глаза и уши Siri. Как я писал здесь, в VentureBeat, я считаю, что камеры вскоре будут включены в большинство высококачественных наушников, чтобы ИИ-агенты всегда видели, на что мы смотрим. Как только эти продукты будут доступны потребителям, адаптация произойдет быстро. Они будут полезны.
Независимо от того, с нетерпением вы ждете этого или нет, факт в том — Big Tech устремляется к тому, чтобы поместить искусственных агентов в наши уши (и скоро в наши глаза), чтобы они направляли нас повсюду, куда бы мы ни шли. Есть очень положительные способы использования этих технологий, которые сделают нашу жизнь лучше. В то же время эти же сверхспособности могут легко быть задействованы как агенты манипуляции.
Как мы можем решить эту проблему?
Потребность ясна — регуляторы должны принять быстрые меры, чтобы убедиться, что положительное использование агентов ИИ не будет затруднено, защищая при этом публику от злоупотреблений. Я пишу о проблеме манипуляции ИИ с 2016 года и за последние несколько лет провел несколько презентаций для FTC, и пока регуляторы не ввели никаких защит.
И это не только в США игнорируется эта новая проблема — регуляторы по всему миру все еще сосредоточены на "старой школе" рисков ИИ, связанных с их способностью генерировать традиционную дезинформацию в больших масштабах. Это реальные опасности, но гораздо больший риск представляет целенаправленная интерактивная манипуляция. И с объявлениями на прошлой неделе от Open AI и Google теперь ясно, что наше время истекло — регуляторам НУЖНО действовать сейчас. Короткое видео ниже под названием "Потерянная конфиденциальность" (3 мин) призвано показать риск манипуляции.
Видео о интерактивной разговорной манипуляции (3 мин)
Чтобы решить эту проблему, первым большим шагом было бы полное запрещение (или очень строгие ограничения) на интерактивную разговорную рекламу. Интерактивная реклама — это "входные ворота" к разговорной пропаганде и дезинформации. И если мы не запретим эту тактику, это быстро превратится в гонку вооружений, при которой крупные технологические компании будут конкурировать друг с другом, чтобы развернуть наиболее "эффективные" и "эффективные" разговорные рекламы, которые заставят пользователей совершать покупки. И те же самые технологии, которые они оптимизируют для продвижения продуктов и услуг, будут использоваться для продвижения дезинформации и пропаганды, оптимизируя способность заставлять вас верить в то, что не соответствует вашим интересам.
Теперь самое время для политиков решить эту проблему.
