Представьте мир, где нас больше пугают роботами, которые отнимают нашу работу. Там врач использует ИИ, чтобы проводить с вами больше времени, а учитель — чтобы найти индивидуальный подход к каждому ученику. Фрэнк Паскуале, вооружившись не отверткой, а юридическим кодексом, предлагает именно такой сценарий. Он не пишет очередную антиутопию о восстании машин. Вместо этого автор бросает вызов корпорациям и технократам, возвращая в центр дискуссии человека с его опытом, интуицией и незаменимостью.
«Новые законы робототехники» — это манифест, утверждающий, что будущее принадлежит не борьбе человека с машиной, а их партнерству, где последнее слово всегда остается за нами.
Об авторе:
Фрэнк Паскуале — американский юрист, профессор Бруклинской школы права, известный своими работами на стыке права, технологий и общества. В книге «Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта» (оригинальное название: New Laws of Robotics: Defending Human Expertise in the Age of AI, 2020) он предлагает вдумчивую альтернативу технооптимистичному алармизму.
Девять ключевых идей:
- Кризис экспертного знания
Экономисты и технологи захватили дискуссию об автоматизации, убеждая общество, что специалисты (врачи, юристы, учителя) скоро будут не нужны. Паскуале утверждает, что это опасное заблуждение. Истинное понимание того, что «действительно важно» в профессиональных сферах, есть только у самих профессионалов, чей голос должен быть решающим при создании новых технологий. - Технологии должны дополнять, а не заменять
Главный принцип книги: ИИ и роботы призваны augment (усиливать, дополнять) человеческие способности, а не заменять их. В сферах образования, медицины или права технологии могут взять на себя рутину, высвобождая время специалиста для задач, требующих эмпатии, творчества и сложных суждений, где машины бессильны. - Опасность «подделки под человека»
Когда ИИ имитирует человеческое поведение (например, чат-боты, притворяющиеся людьми, или дипфейки), это разрушает базовое социальное доверие. Паскуале настаивает, что системы обязаны всегда идентифицировать себя как нелюди. Это защищает нас от манипуляций, мошенничества и сохраняет ценность подлинного человеческого взаимодействия. - Этика «оценивающего ИИ»
Особую тревогу вызывает использование алгоритмов для оценки людей: при приеме на работу, кредитовании или в полицейском надзоре. Такие системы часто кодируют и усиливают существующие предрассудки, действуя как «черные ящики». Их решения должны быть прозрачными и подлежать обжалованию, чтобы не допустить цифровой дискриминации. - Гонка вооружений «с нулевой суммой»
Применение ИИ в военной сфере и гиперконкуренции ведет к дестабилизации. Если алгоритмы начнут принимать решения о жизни и смерти или втянут корпорации в бесконечную борьбу за долю рынка, это приведет к катастрофе. Технологии не должны обострять конфликты, где выигрыш одного означает неизбежный проигрыш другого. - Демократизация технологических решений
Судьбу автоматизации нельзя отдавать на откуп инженерам и советам директоров крупных корпораций. Паскуале призывает к широкому общественному обсуждению и демократическому контролю над тем, как и зачем внедряются технологии. Тысячи мелких решений не должны приниматься в офисах фирм, которые ни перед кем не отчитываются. - Прозрачность создателя (Responsibility by Design)
Каждая система ИИ должна содержать четкую информацию о своих создателях, контролерах и владельцах. Это необходимо для установления ответственности. Если робот или алгоритм наносит вред, мы должны знать, кто за это отвечает, и иметь возможность привлечь их к суду. Технологии должны разрабатываться с учетом этого принципа с самого начала. - Новая политэкономия автоматизации
Внедрение ИИ неизбежно потребует пересмотра экономических моделей. Паскуале обсуждает такие меры, как безусловный основной доход, но подчеркивает, что это лишь часть решения. Главное — перераспределить выгоды от автоматизации так, чтобы они служили всеобщему процветанию, а не обогащению узкой элиты. - Оптимистичный путь в будущее
Вопреки мрачным прогнозам, будущее может быть светлым. Оно заключается в синтезе человеческой мудрости и машинной мощи. Инвестируя в образование, поддержку профессионалов и создавая умные законы, мы можем построить инклюзивную экономику, где технологии делают наш труд более осмысленным и ценным, а жизнь — лучше.
В общем за все хорошее и против всего плохого! Поддерживаю автора, но вот только все дело в том, как и кто это будет делать? Каждая идея не выдерживает критики, если отвлечься от "благих намерений и прочитать в более трезвом состоянии и пройтись по идеям циничным взглядом инвестора. А кто скажет, что делать с возрастающей производительностью? Когда человек с ИИ может заменить 10-100 "традиционных" работников умственного труда.
Я бы написал продолжение, так как лет 25 назад опубликовал свой прогноз по теме "исчезновение работы", но пока ограничусь тремя новыми законами робототехники, от автора книги и как говориться, почувствуйте разницу.
Паскуале предлагает дополнить знаменитые «Три закона робототехники» Айзека Азимова, которые были ориентированы на безопасность отдельного человека. Его законы касаются более широких социальных и экономических последствий. Но можно ли юридически остановить этот тренд?
- Первый закон:
Роботизированные системы и системы искусственного интеллекта должны дополнять профессионалов, а не заменять их.
Смысл: Технологии должны повышать ценность человеческого труда, а не уничтожать рабочие места. Цель — симбиоз, а не замещение . - Второй закон:
Роботизированные системы и системы искусственного интеллекта не должны подделываться под людей (не должны «симулировать человечность»).
Смысл: ИИ должен честно заявлять о своей природе. Это необходимо для поддержания доверия в обществе и предотвращения манипуляций . - Третий закон:
Роботизированные системы и системы искусственного интеллекта не должны обострять гонку вооружений с нулевой суммой.
Смысл: Технологии не должны использоваться для создания систем, которые дестабилизируют международные отношения или превращают экономическую конкуренцию в войну на уничтожение .
(Примечание: иногда упоминают и четвертый закон, который формально замыкает систему, но часто включается в структуру первых трех):
- Четвертый закон:
Роботизированные системы и системы искусственного интеллекта всегда должны указывать идентичность своих создателей, контролеров и владельцев .
Приглашение к дискуссии:
Паскуале рисует вдохновляющий образ будущего, где мудрый профессор и добросердечный доктор используют мощь ИИ во благо человечества. Но не является ли его вера в профессионалов такой же утопией, как и вера технокапиталистов в машины? Книга оставляет за скобками главный вопрос: что делать с «плохими» или просто некомпетентными профессионалами? Если врач-человек ставит смертельные диагнозы чаще, чем среднестатистический ИИ, а учитель годами калечит детскую психику, имеем ли мы право заменить их бездушным, но статистически более надежным алгоритмом? И не скрывается ли за красивой «апологией человеческих знаний» банальная попытка законсервировать старые иерархии и цеховые привилегии, которые давно мешают развитию? Может быть, самый страшный враг человеческого достоинства — это не робот, а другой человек, и тогда выбор между ними становится куда более трагичным.
ИП
15.03.2026