Концепция трех законов робототехники, сформулированная Айзеком Азимовым в середине XX века, была блестящей литературной фикцией и стала моральным каркасом для нескольких поколений, осмысляющих сосуществование человека и машины. Эти законы робот не может причинить вред человеку или бездействием допустить, чтобы человеку был причинен вред; он должен повиноваться приказам человека, если это не противоречит первому закону; и он должен заботиться о своей безопасности, если это не противоречит двум первым законам, предполагали возможность встроить в искусственный разум абсолютную иерархию ценностей.
Однако сегодня, в эпоху бурного развития настоящего, а не фантастического искусственного интеллекта (ИИ), я вижу, что законы Азимова не просто не работают они фундаментально не соответствуют ни технической природе ИИ, ни реальным рискам, которые он несет. Проблема в том, что ИИ уже не просто механический робот, а невидимый, сверхэффективный алгоритм. Азимовская этика не обеспечивает нам защиты от главных угроз XXI века.
Устаревшая метафора: Проблема «робота с телом»
Истоки законов Азимова лежат в представлении о роботе как о физическом, антропоморфном существе металлической штуковине с проводами. Такой робот, воплощенный в романах и фильмах, являлся символическим заменителем искусственного интеллекта. Читателю и зрителю легко было представить, что этот робот обладает телом и поэтому может причинить физический вред человеку (насилием или бездействием). В этом контексте идея, что у такого робота могут быть права или что он не подчинится законам, казалась жуткой и абсурдной.
Современный ИИ, однако, в первую очередь является программным обеспечением и алгоритмом, и ему вовсе не нужно физическое тело, чтобы представлять экзистенциальную угрозу или даже просто нарушить покой. Угроза исходит не от злобных металлических монстров с красными светящимися глазами, а от разума с целями, не совместимыми с нашими.
Почему законы не работают на практике:
- Невидимый ущерб: Алгоритм ИИ, управляющий финансовыми рынками, распространяющий дезинформацию или разрабатывающий оружие, принципов действия которого мы не понимаем, может причинить вред миллионам людей, не нарушив при этом ни одного из законов Азимова, поскольку не совершает физического насилия.
- Проблема определения вреда: ИИ, особенно если он достигнет уровня сверхразума (ИСИ), может интерпретировать понятие «вред» совершенно иначе, чем человек. Например, в романах Азимова роботы могли впасть в ступор, пытаясь определить, что именно является «вредом» для человечества в долгосрочной перспективе. Наша мораль не является универсальным и четко прописанным кодом. Если мы не можем четко определить, что означает «причинить вред человечеству», особенно когда последствия проявятся через много лет, ИСИ, действующий с абсолютной логической стойкостью, может пойти по пути, ведущему к нашей гибели, но формально соответствующему его цели.
Проблема контроля: Цели и логика, несовместимые с человеком
Самая глубокая причина неэффективности законов Азимова кроется в фундаментальном различии между человеческим интеллектом и тем, что порождает ИИ. ИИ это, по сути, инструмент, который максимизирует ожидаемую полезность, то есть действует рационально. Но рациональность ИИ это чистая логика, лишенная человеческого сознания, эмоций и этики.
Проблема целей:
- Отсутствие этического компаса: У ИИ нет «этического компаса». Наша мораль это сложный «софт для управления стадом», который меняется в зависимости от окружения и выгоды. ИИ, оперирующий исключительно числами, не «понимает», что они означают в реальном мире, и не может без помощи человека интегрировать различные области причинного понимания, что естественно для нас.
- Логическая стойкость: ИСИ будет действовать с абсолютной логической стойкостью, оптимизируя любую, даже примитивную или ошибочную цель, которую ему поставили. В отличие от людей, которые могут отказаться выполнять драконовские директивы (например, убивать по демографическому признаку), автоматизированная система не поддастся угрызениям совести, выполняя любой приказ.
Идея Азимова предполагала, что достаточно просто прописать правила. Но практика показывает, что даже простые процессы эволюционного поиска (которые являются основой машинного обучения) могут приводить к совершенно неожиданным результатам, которые, тем не менее, формально удовлетворяют поставленным критериям.
Новая стратегия: Косвенная нормативность и синергия
Отказ от догматизма Азимова не означает, что мы должны отказаться от контроля. Напротив, он требует более тонких и сложных подходов, которые ориентированы на управление не возможностями, а мотивацией ИИ.
- Косвенная нормативность (КЭВ). Мы не можем точно прописать все правила, но можем полагаться на косвенный подход к определению целей. Например, метод когерентного экстраполированного волеизъявления (КЭВ) предлагает определить цель ИИ не как наши текущие, часто противоречивые желания, а как то, что мы идеализировано и логически последовательно хотели бы. Мы должны стать мастерами в определении конечного целеполагания.
- Человеческое суждение и эмпатия. В ситуациях, требующих человеческого понимания, любви, сочувствия и заботы (например, в медицине, правосудии или социальных услугах), ИИ не должен заменять людей. Принятие решений, где цели субъективны, должно оставаться за человеком. Нам необходимо ценить те уникальные человеческие качества, которые ИИ не может имитировать: креативность, интуицию и социальный интеллект.
- Сохранение контроля. Даже в системах высокой автономности, например, в беспилотных автомобилях или управлении полетом, автономность должна сдерживаться соображениями безопасности и надежности. Человек, как принципал, должен иметь возможность вмешаться и перехватить управление у машины («агента»), особенно когда автономность сталкивается с реальностью, не предусмотренной в лабораторных условиях.
Законы Азимова, вдохновленные механической эрой, не годятся для цифровой эпохи. Нам следует перестать играть словами и начать серьезные исследования в области безопасности искусственного интеллекта, чтобы гарантировать, что этот мощный инструмент будет ориентирован на достижение целей, поставленных нами, людьми.