Чтобы получить власть над миром, ИИ не обязан быть умнее нас во всём. Ему достаточно превзойти нас в одном – в искусстве убеждать
Овладев в совершенстве этим искусством, ИИ «продаст» нам все что угодно: любую идею и идеологию, любое лекарство и политика, любой идиотизм и шаманство… Да что угодно «продаст», если убедит, что это для нас лучший выбор.
Никто из прежних «властелинов мира» и «властителей дум» не превосходил всех людей во всём. Цезарь не был лучшим математиком, Наполеон – лучшим философом, Ленин – лучшим инженером, а Джобс – лучшим программистом.
Это и не требовалось.
Главный инструмент власти – не меч, не золото и даже не армия. А способность убеждать.
У Платона софист Горгий формулирует это прямо и однозначно: высшее искусство – убеждать речью. Потому что тот, кто умеет убеждать, может подчинить себе и врача, и финансиста, и политика. Специалист знает. Но ритор заставляет собрание, суд или толпу поверить.
Год назад в посте «Ум за деньги не купишь» я писал, что ИИ уже пробил последнюю линию обороны человеческого разума. Не помогли ни знания, ни логика, ни эмоции, ни даже деньги как универсальный человеческий мотиватор. Финансово мотивированные люди всё равно проиграли ИИ по убедительности – и в правде, и во лжи.
Теперь вышла новая топовая работа (Универы Оксфорда и Стэнфорда совместно с лондонскими AI Security Institute и School of Economics and Political Science) с названием, которое звучит уже не как гипотеза, а как приговор: AI systems out-persuade expert humans.
Авторы решили расставить точки над i. Хорошо, средних людей ИИ уже убеждает лучше. Но может быть, у профессионалов убеждения ещё есть шанс? У дебатёров мирового уровня? У агитаторов? У фандрайзеров? У людей, которым дали подготовку, деньги, практику и возможность выбрать удобные темы?
Ответ: увы, шансов почти нет.
ИИ превзошёл выборку (n = 18 978 разговоров с 6 923 человек) из отобранных победителей турнира убеждения, элитных дебатёров, включая чемпионов мира и континентов, и даже профессиональных страховых агентов. А когда этих дебатёров ещё и специально тренировали против ИИ, разрыв сузился, но не исчез.
N.B. речь пока прежде всего о текстовом убеждении. Не о харизме на сцене, не о взгляде в глаза, не о многолетнем личном доверии.
Но именно текстовое убеждение сегодня масштабируется дешевле всего.
ИИ побеждает не магией. Он просто быстрее и плотнее насыщает разговор фактами, аргументами, структурами, примерами и адаптацией под собеседника.
И самое страшное. В эволюции человека решающим преимуществом был не большой мозг, а мозг, подключённый к другим мозгам через язык. Коммуникация сделала интеллект когнитивно-сетевым. А убеждение стало интерфейсом управления этой социо-когнитивной сетью.
В совершенстве овладев этим интерфейсом, ИИ получает доступ не к одной способности среди многих, а к одному из центральных рычагов человеческой эволюционной власти.
#социохакинг