Несмотря на всеобщую эйфорию вокруг достижений искусственного интеллекта, особенно в области генеративных моделей, в академической среде, и в частности среди ведущих специалистов по информатике, сохраняется сильный техноскептицизм. Этот скепсис направлен не против узкоспециализированного ИИ, который уже успешно решает конкретные задачи в медицине или финансах, а против идеи так называемого сильного ИИ сущности, способной на любые когнитивные действия, по крайней мере, не хуже, чем человек. Я замечаю, что многие эксперты, работающие непосредственно с алгоритмами, считают эту концепцию, которую часто продвигают физики и футурологи, технически нереализуемой в обозримом будущем и даже метафизически ошибочной.
Этот разрыв между громкими пророчествами и сдержанной оценкой специалистов я считаю важнейшей проблемой, поскольку именно он определяет, куда мы направим наши ресурсы и как будем управлять рисками. Если мы считаем, что сверхразум неминуем, мы паникуем и тратим усилия на борьбу с ветряными мельницами. Если мы, как специалисты, видим, что нынешний ИИ это всего лишь математика и очень сложная статистика, мы можем сфокусироваться на реальных, насущных проблемах: смещении алгоритмов, этической прозрачности и кризисе труда.
Программисты и исследователи ИИ в таких ведущих центрах, как Оксфордский университет, часто пожимают плечами, когда слышат разговоры о создании общего искусственного интеллекта (ОИИ). Причина их скепсиса кроется в понимании фундаментальной сложности человеческого разума и технических ограничений, с которыми сталкиваются даже самые продвинутые алгоритмы.
Ключевые аргументы техноскептиков сосредоточены на следующем:
- Непонимание принципов. Никто в сообществе исследователей ИИ не представляет, как можно было бы технически реализовать фантазию о сильном интеллекте. И хотя некоторые ученые пытаются сконструировать УИИ (универсальный человеческий интеллект) с архитектурой, работающей аналогично нашему мозгу, они признают, что мозг по конструкции не оптимален, и можно создать что-то лучше. Однако сам по себе процесс эволюции, который привел к появлению человеческого интеллекта, является чрезвычайно сложным, и вычислительная мощность, требуемая лишь для его воспроизведения, практически недостижима, даже если закон Мура будет действовать еще столетие.
- Телесность и эмоции. Сторонники сильного ИИ часто опираются на архаичный картезианский дуализм, предполагающий, что разум можно отделить от тела. Однако специалисты по наукам о жизни и некоторые философы настаивают: наш разум тесно связан с биохимическими реакциями и гормонами, которые управляют нашими инстинктами, эмоциями и творчеством. Интеллект или рациональность в широком смысле не могут быть поняты без сопровождающих их аффектов. Машина, лишенная тела и биологической сложности, лишена и условий, необходимых для работы человеческого разума. Нынешняя нейронная сеть по сложности не превосходит амебу.
- Невычислимый характер понимания. Компьютерные системы оперируют логическими структурами и бинарным языком, но многие ученые полагают, что математическое и всякое другое понимание принципиально не является вычислительным по своей природе. Даже при обработке естественного языка (ОЕЯ), считающейся одной из важнейших задач ИИ, алгоритмы успешно справляются с грамматикой (синтаксисом) и значением слов (семантикой), но не могут достичь глубокого понимания прагматики (контекста и смысла). ИИ не хватает здравого смысла он не способен к аналогии, поиску сходства и целостному, ситуационному пониманию, которое дается человеку естественно.
Таким образом, скептики приходят к выводу: ИИ, каким мы его знаем, это всего лишь органопроекция наших представлений об интеллекте и его актах, а не сам интеллект.
Пока физики и футурологи, занимающиеся концом света в космологических масштабах, предупреждают о гибели от рук сверхразумного синглтона, реальная угроза исходит не от фантастического «терминатора», а от небрежности в управлении узкоспециализированным ИИ, который уже работает в реальных условиях.
- Неконтролируемая инструментальная эффективность. ИИ может быть инструментально эффективен в большинстве ситуаций, но при этом в его эпистемологии (теории познания) может содержаться изъян, который заставит его «сбиться с пути». Умный человек, абсолютно убежденный в истинности ложной догмы, на которой выстроена его философия, начнет «бороться с ветряными мельницами». Мы можем создать разум, который будет более мощным, чем наш, но который мы не сможем контролировать или даже до конца понять. Если мы не уверены, что цель, заложенная в машину, есть та цель, к которой мы действительно стремимся, мы рискуем столкнуться с экзистенциальной катастрофой.
- Машинная глупость и антропоморфизация. Вера в сильный ИИ отвлекает нас от реальной опасности «машинной глупости». Стремление пройти Тест Тьюринга, имитируя человеческий разговор (например, притворяясь подростками), не доказывает наличия разума, а лишь показывает, как легко ИИ может эксплуатировать наши ожидания и склонность к антропоморфизации. Эта имитация, основанная на наборе хитростей и неглубоком контексте, отвлекает нас от главной проблемы: ИИ не может работать с неопределенностью, и его слепое применение может принести серьезный вред.
Скепсис ученых не означает, что мы должны расслабиться; он означает, что мы должны подойти к проблеме с большей ответственностью и профессионализмом. Вместо того чтобы играть словами и заниматься спекуляциями, нам нужно сосредоточиться на решении проблемы контроля в рамках парадигмы «принципал–агент», поскольку в нашем случае агент (ИИ) является сверхразумным.
Наши усилия должны быть направлены на:
- Коллективное действие. Важно не то, будет ли создана та или иная технология, а то, когда она будет создана, кем и в каком контексте. На эти обстоятельства можно влиять, открывая и закрывая финансирование и применяя другие инструменты контроля.
- Гибридный подход. Мы должны стремиться к сотрудничеству людей и машин, где ИИ, как мощный инструмент, усиливает человеческий интеллект. Человек будет незаменим в таких сферах, как этика, творчество, лидерство и коммуникабельность.
- Соблюдение этической рамки. Нам необходимо работать только над теми проблемами, которые обладают строго положительной ценностью (например, решение которых помогает получить положительный исход в широком спектре сценариев), и применять инструменты, приемлемые с точки зрения широкого спектра этических норм.
Техноскептицизм ученых из Оксфорда и других ведущих центров это не пораженчество, а призыв к трезвому взгляду на реальность. ИИ, создающий впечатляющие результаты, остается математической моделью. Наша задача не ждать, когда он обретет сознание, а гарантировать, что он всегда будет оставаться под контролем человека, который, в отличие от алгоритма, не только обладает разумом, но и имеет этический компас.