Олаф Липински: В научно-фантастическом фильме «Прибытие» 2016 года лингвист сталкивается с непростой задачей — расшифровать инопланетный язык, состоящий из палиндромных фраз, которые читаются одинаково как в прямом, так и в обратном направлении и записаны круглыми символами. По мере того, как она находит различные подсказки, разные народы по всему миру по-разному интерпретируют послания — некоторые считают, что они несут угрозу.
Если бы человечество сегодня оказалось в такой ситуации, лучшим решением было бы обратиться к исследованиям, раскрывающим, как искусственный интеллект (ИИ) развивает языки.
Но что именно определяет язык? Большинство из нас используют хотя бы один язык для общения с окружающими, но как он появился? Лингвисты десятилетиями размышляли над этим вопросом, но до сих пор не существует простого способа выяснить, как развивался язык.
Язык эфемерен, он не оставляет следов в летописи окаменелостей. В отличие от костей, мы не можем раскопать древние языки, чтобы изучить, как они развивались с течением времени.
Хотя мы, возможно, не сможем изучить истинную эволюцию человеческого языка, возможно, симуляция поможет нам кое-что понять. Именно здесь на помощь приходит искусственный интеллект — захватывающая область исследований под названием «эмерджентная коммуникация», которой я посвятил последние три года.
Чтобы смоделировать эволюцию языка, мы даем агентам (ИИ) простые задачи, требующие общения, например игру, в которой один робот должен провести другого в определенное место на сетке, не показывая ему карту. Мы не устанавливаем (почти) никаких ограничений на то, что и как они могут говорить - мы просто даем им задачу и позволяем решать ее так, как они хотят.
Поскольку для решения этих задач агентам необходимо взаимодействовать друг с другом, мы можем изучить, как развивается их взаимодействие с течением времени, чтобы получить представление о том, как может развиваться язык.
Подобные эксперименты проводились с участием людей. Представьте, что вы, говорящий по-английски, находитесь в паре с человеком, не говорящим по-английски. Ваша задача — попросить своего партнёра взять зелёный кубик из набора предметов на столе.
Вы можете попробовать изобразить руками форму куба и указать на траву за окном, чтобы показать зелёный цвет. Со временем вы вместе разработаете своего рода протоязык.
Возможно, вы бы создали специальные жесты или символы для обозначения «куба» и «зелёного». Благодаря повторяющимся взаимодействиям эти импровизированные сигналы стали бы более точными и последовательными, сформировав базовую систему коммуникации.
То же самое происходит с искусственным интеллектом. Методом проб и ошибок они учатся говорить об объектах, которые видят, а их собеседники учатся их понимать.
Но как мы можем понять, о чём они говорят? Если они развивают этот язык только со своим искусственным собеседником, а не с нами, то как мы можем понять, что означает каждое слово? В конце концов, конкретное слово может означать «зелёный», «куб» или, что ещё хуже, и то, и другое. Эта проблема интерпретации — ключевая часть моего исследования.
Взлом кода
На первый взгляд задача понимания языка ИИ может показаться практически невыполнимой. Если бы я попытался говорить по-польски (на моём родном языке) с коллегой, который говорит только по-английски, мы бы не поняли друг друга и даже не знали бы, где начинается и заканчивается каждое слово.
Проблема с языками ИИ ещё серьёзнее, поскольку они могут организовывать информацию совершенно не так, как это делают люди.
К счастью, лингвисты разработали сложные инструменты, использующие теорию информации для интерпретации неизвестных языков.
Подобно тому, как археологи восстанавливают древние языки по фрагментам, мы используем закономерности в диалогах с ИИ, чтобы понять их лингвистическую структуру. Иногда мы обнаруживаем удивительное сходство с человеческими языками, а иногда открываем совершенно новые способы коммуникации.
Эти инструменты помогают нам заглянуть в «чёрный ящик» коммуникации ИИ, показывая, как искусственные агенты разрабатывают собственные уникальные способы обмена информацией.
Моя недавняя работа сосредоточена на использовании того, что агенты видят и говорят, для интерпретации их языка. Представьте, что у вас есть расшифровка разговора на незнакомом вам языке, а также то, на что смотрел каждый из собеседников. Мы можем сопоставлять закономерности в расшифровке с объектами в поле зрения участников, выстраивая статистические связи между словами и объектами.
Например, возможно, фраза «яйо» совпадает по звучанию с пролетающей мимо птицей — мы можем предположить, что «яйо» — это слово, обозначающее «птицу» в языке говорящего. Тщательно проанализировав эти закономерности, мы можем начать расшифровывать смысл коммуникации.
В последней статье, написанной мной и моими коллегами и опубликованной в материалах конференции Neural Information Processing Systems (NeurIPS), мы показываем, что подобные методы могут быть использованы для реверс-инжиниринга, по крайней мере, части языка и синтаксиса ИИ, что дает нам представление о том, как они могут строить коммуникацию.
Инопланетяне и автономные системы
Как это связано с инопланетянами? Методы, которые мы разрабатываем для понимания языков ИИ, могут помочь нам расшифровать любые будущие сообщения инопланетян.
Если бы мы смогли получить какой-нибудь письменный текст на инопланетном языке вместе с контекстом (например, визуальной информацией, связанной с текстом), мы могли бы применить те же статистические инструменты для его анализа. Подходы, которые мы разрабатываем сегодня, могут стать полезными инструментами для изучения инопланетных языков в будущем, в рамках ксенолингвистики.
Но нам не нужно искать инопланетян, чтобы извлечь пользу из этого исследования. Существует множество применений: от улучшения языковых моделей, таких как ChatGPT или Claude, до улучшения коммуникации между автономными транспортными средствами или дронами.
Расшифровывая новые языки, мы можем сделать будущие технологии более понятными. Зная, как беспилотные автомобили координируют свои движения или как системы искусственного интеллекта принимают решения, мы не просто создаём интеллектуальные системы — мы учимся их понимать.
Олаф Липински, аспирант кафедры искусственного интеллекта Саутгемптонского университета.