Сильный искусственный интеллект, которым Илон Маск регулярно пугает детей и взрослых, будет совсем не похож на Скайнет. Он не будет захватывать мир, но и контролировать ИИ не получится. ИИ будет манипулировать каждым жителем планеты индивидуально, меняя его жизнь под свои задачи. Человечеству придется туго, нас ждет тяжелый период эволюционной борьбы с противником, которого мы никогда не сможем уничтожить.
Накануне конференции «Искусственный интеллект: технологическая революция», попасть на которую все еще можно, мы поговорили о том, каким будет появление сильного ИИ, чего от него ждать и как он повлияет на развитие человечества с известным российским прогностиком, физиком, социологом Сергеем Переслегиным. Беседа получилась любопытной. Начните читать и, скорее всего, вы не заметите, как быстро доберетесь до конца.
— На разработку систем и сервисов с элементами искусственного интеллекта по всему миру направлены гигантские ресурсы. Практически ежедневно мы в Хайтек+ пишем о новых достижениях на основе применения ИИ в самых разных областях — медицине, материаловедении, химии, психологии, физике, космологии. Рано или поздно количество перейдет в качество и появится сначала система с элементами сильного или общего ИИ, а потом и самодостаточный релиз. Чего нам ждать от этого черного ящика?
— Нас ожидает множество изменений. И два из них принципиальны. Первое: чуть раньше или чуть позже вы начнете программировать искусственный интеллект на обычном естественном языке. Мы уже сейчас неплохо общаемся с нашими помощниками типа навигаторов или той же Алисы, в поисковиках, с помощью обычного языка — и они нас понимают. Не идеально, но понимают. Дальше у нас начнется очень важное явление: быстрая эволюция естественных языков. Вернее, возникнет коэволюция естественных и искусственных языков в некую единую языковую систему. Совсем другую, чем мы привыкли. Ну например, этот язык будет более логичен. На нем будет сложнее врать. Не скажу, что невозможно, но сложнее.
Мы никогда не жили в условиях, когда язык будет меняться не раз в поколение, — это он и сейчас делает, — а, скажем, раз в год или еще чаще. И нам придется волей-неволей следовать этим изменениям. Не забудьте, гипотеза Лейбница о том, что мышление имеет языковую обусловленность, скорее всего, верна. А наша исследовательская группа считает, что мы вообще ее подтвердили. Соответственно, как только меняется язык — у вас меняется мышление. То есть мы окажемся в условиях, где нам приходится его постоянно менять. А это непросто и не для всех вообще возможно. Это первое принципиальное изменение, когда мы окажемся в другом для нас, непривычном мире.
Второй момент. И, возможно, он важнее первого. С момента возникновения нас как биологического вида мы используем принцип, который носит название «монополия на разум». Мы считаем, что только мы можем, имеем право, быть разумными. Обратите внимание: на Земле к моменту появления Homo sapiens была масса «проектов» разумных гоминид. Мы были одним из пяти или шести проектов. Были еще неандертальцы, были филиппинские и индонезийские хоббиты, был алтайский человек. И все эти протолюди были нами уничтожены. Мы жестко контролируем монополию на разум, не должно быть никого другого разумного на нашей планете. При этом, заметьте, обезьян никто не трогал, они как жили себе тогда, так и живут сегодня. Потому что они на разум не претендуют.
Но искусственный интеллект — это другое. Мы его сами создали, у нас по отношению к нему в какой-то мере есть отношение родителя и ребенка. Это наша попытка стать Творцами, создать разум самим. И мы его не уничтожим, ведь это результат наших интеллектуальных усилий. А это означает, что мы впервые попадаем в условия настоящего «соревнования разумов». У компьютера есть свои очень сильные стороны. У человека — свои сильные стороны. Они разные. И будет очень интересное соревнование: что окажется значимее — умение компьютеров получить всю информацию, которая есть в мире в любой момент времени, и систематизировать ее, или наше умение организовывать мышление в очень больших группах и находить мыслительные паттерны, которые в принципе непредсказуемы, которые нельзя придумать заранее. Это соревнование сделает нашу жизнь невероятно интересной.
Плюс, не забудьте, конечно же, здесь возникает и человеко-машинная система. Ведь всякое соревнование — это одновременно и война, и сотрудничество. Возможна наша синергия, когда компьютеры используют свои сильные стороны, а мы свои, — и вместе мы сможем двигаться гораздо быстрее. Это третье изменение, которое будет происходить.
Но я обращаю ваше внимание, что все, что мною выше сказано, говорит про одно: наши современные представления о государстве, бизнесе и науке, а также о праве, как минимум об этих четырех сторонах человеческой жизни, с развитием систем искусственного интеллекта должны быть полностью пересмотрены. Возможно, будет пересмотрено и многое другое. Но вот это — в первую очередь.
— Странно, что вас не пугает предстоящая новая эволюционная борьба. Алармисты, например, считают, что мы ее заведомо проиграем и поэтому надо уже сегодня жестко контролировать все работы в области ИИ. Недавно мы говорили с Владимиром Пирожковым и он убежден, что человечество не сможет состязаться с общим ИИ, который рано или поздно появится.
— А что вы собираетесь контролировать конкретно? На самом деле эту задачу — а она прогностическая и довольно простая, — решил великий Станислав Лем в 1963 году. Он написал книгу «Сумма технологии», в которой подробно рассмотрел очень много вопросов, в том числе и вот этот, о контроле.
Продолжение по ссылке.