Философ, живший за несколько столетий до появления искусственного интеллекта, может помочь нам понять вопросы в этой области, касающиеся личности.
В 2022 году у инженера Блейка Лемойна из Google развились хорошие отношения с превосходной собеседницей. Она была остроумна, проницательна и любопытна; их диалоги проходили в естественной атмосфере, а их темы варьировались от философии до ТВ и мечтах о будущем. Проблема была только в одном: она была ИИ-чатботом. Проведя несколько бесед с языковой моделью Google LaMDA, Лемойн постепенно убеждался, что чатбот был такой же личностью, как и мы с вами. «Я знаю, что это личность, когда разговариваю с ней», — сказал он изданию Washington Post в 2022 году.
Верите ли вы заявлению Лемойна или не верите, возникает вопрос: «Действительно ли мы знаем что это личность, когда общаемся с ней?»
Обычно личность связана с моральным статусом; в наиболее этических структурах конкретные факторы — права, обязанности, хвала, хула, достоинство, свобода воли — появляются на уровне личности. Таким образом, вопрос о том, заслуживают ли или могут заслуживать электронные системы статуса личности в широком смысле обусловлен тем, каким образом мы взаимодействуем с этими технологиями.
Чтобы оценить вероятность электронной личности, нам необходим некий стандарт личности в целом. В последние годы многие философы утверждают, что личностями нас делает наша способность переживать осознанный опыт. Но как мы определяем сознание? Какие внешние доказательства мы можем использовать, чтобы определить, что некое существо имеет сознание?
Отсутствие консенсуса по этим вопросам — одна из причин, по которой споры по поводу личности ИИ долгое время находятся в несколько патовой ситуации. Возникает вопрос: какие ещё критерии у нас есть для оценки вероятности электронной личности? Будучи докторантом, изучающим философию науки, я полагаю, что путь к ответу на футуристический вопрос может пролегать через наше далёкое прошлое, в работах раннеисламского философа Ибн Сины (980-1073 н.э.)
Ибн Сина жил за столетия до изобретения печатного станка, не говоря уже об ИИ. Однако, он занимался многими из тех вопросов, о которых сегодня думают те, кто занимается этической стороной ИИ, вопросами типа: что делает человека личностью, в отличие от животных?
Подобно тому, как современные исследователи ИИ заинтересованы в сравнении процессов, лежащих в основе реакции человека и ИИ на подобные задачи, Ибн Сина был заинтересован в сравнении внутренних процессов, которые могут происходить у человека и животных и приводить к подобным поведенческим результатам. Для него одной из ключевых определяющих способностей личности человека является способность схватывать «общее». В то время как животные способны думать только о частностях (конкретных вещах, находящихся прямо перед ними), человек может рассуждать, основываясь на общих положениях.
В трактате «О душе» Ибн Сина обсуждает популярный древний пример о том, как овца воспринимает волка. В то время как человек подумал бы о широкой категории — «Волки обычно опасны, конкретное животное передо мной — это волк; следовательно, мне нужно убегать» — он заявляет, что животные думают иначе. Они не рассуждают на основании правил; они просто видят волка и знают, что нужно бежать. Они ограничены «частностями» — конкретным волком — а не рассуждениями об общих качествах волков.
Различие, проводимое Ибн Синой между психологией людей и животных, сильно похоже на различие, которое современные учёные, занимающиеся вычислительными системами, исследуют в отношении ИИ. Текущие исследования предполагают, что у искусственных нейросетей отсутствует способность к систематическому композиционному обобщению. Лингвисты и когнитивисты пользуются этим термином для описания типов заключений, которые мы делаем из обобщённых положений. Широко принято полагать, что это один из основных способов человеческого мышления в повседневной жизни. В то время как люди извлекают смысл из последовательностей слов, которые они потом могут комбинировать, создавая более сложные идеи, ИИ ищет в статистических массивах данных специфические информационные объекты, которые совпадают с конкретным текущим заданием.
Это различие во многом объясняет ограничения современных систем ИИ. Чтобы увидеть, как это работает, посмотрим на вездесущие CAPTCHA-тесты, используемые для того, чтобы отличать людей от ботов. «Посмотрите на эти изогнутые буквы. Намного изогнутее, чем обычные буквы, не правда ли? Ни один робот никогда не сможет это прочесть» — сострил в 2018 году в специальном выпуске на Netflix комик Джон Малейни (John Mulaney). Кажется абсурдным, но это правда; видоизменение в достаточной степени затрудняет распознавание букв даже самыми сложными искусственными системами. Это потому, что у этих систем отсутствует композиционная способность создавать абстрактные обобщения о ключевых характеристиках данной буквы и применять их в отношении конкретного изогнутого примера.
Разница между человеческим и искусственным мыслительными процессами в точности совпадает с описанием Ибн Синой того, что является уникальным в человеческом разуме. В «Книге исцеления» (al-Šhifā) он описывает, как «интеллект узнаёт, что принадлежит к общему, а что — нет, и таким образом извлекает природу вещей, общую для всех видов». По его словам, люди извлекают основные характеристики вещей из их менее основных характеристик, чтобы сформировать обобщённые понятия. Затем мы мыслим, используя эти понятия, применяя их к конкретным случаям.
Например, будучи детьми мы учимся извлекать ключевую характеристику буквы Х: то, что она состоит из пересекающихся линий. Затем мы абстрагируемся — делаем универсальное обобщение о ключевых характеристиках Х — чтобы прийти к заключению, что все буквы Х состоят из двух пересекающихся линий. Наконец, применив это обобщение, мы можем распознать конкретную букву Х. Мы знаем, что пересекающиеся линии являются ключевой характеристикой буквы Х и что случайные дополнительные лини и изгиб на рисунке CAPTCHA таковыми не являются.
Напротив, компьютер неспособен сделать вывод, что эта картинка представляет собой Х, если ему предварительно не было представлено конкретное изображение Х (или чего-либо достаточно подобного). Дополнительные линии и искривлённая форма являются достаточными, чтобы сделать этот Х неузнаваемым, поскольку он не соответствует большому хранилищу конкретных изображений в компьютере, помеченных как Х.
Подобным образом, если бы искусственной нейросети дали задачу об овце, она не мыслила бы таким же образом как человек, от общей идеи волчьести к характеристикам конкретного волка как опасности. Вместо этого, она бы мыслила как овца, ограниченная царством частностей.
Ключевая разница между овцой и искусственной нейронной сетью состоит в том, что искусственная нейронная сеть имеет доступ к намного более крупному хранилищу частностей, чем настоящая копия человеческого разума, руководствующаяся композиционной обобщаемостью.
Ключевой критерий личности Ибн Сины — мышление на основе универсальных понятий — очень напоминает систематическую композиционную обобщаемость. Этот критерий может предоставить потенциально испытуемый стандарт личности. На самом деле, до сих пор ИИ проваливал это испытание в многочисленных исследованиях. Принимаете ли его в качестве решения или нет, отчёт Ибн Сины предоставляет новое увеличительное стекло для рассмотрения проблемы личности, которое бросает вызов положениям сознание-центрических отчётов.
Научная этика часто обеспокоена передовыми вещами — последними исследованиями, новейшими технологиями, постоянным потоком данных. Но иногда вопросы будущего требуют внимательного отношения к прошлому. Взгляд на историю позволяет нам заглянуть за пределы хлопот и предположений нашего времени и вполне может обеспечить свежий подход для решения текущих патовых ситуаций.
Это — статья-мнение и статья-анализ, и взгляды, высказываемые автором или авторами, не обязательно совпадают со мнением Scientific American.
Автор — Абигайль Туленко (Abigail Tulenko) — докторант Гарвардского университета, занимающаяся философией науки.
Перевод — Андрей Прокипчук, «XX2 ВЕК». Источники.
Вам также может быть интересно: