Всем привет!
Недавно индустрию ИИ всколыхнула громкая отставка: Мринанк Шарма, руководитель комитета по исследованиям систем безопасности в Anthropic, покинул свой пост. В прощальном письме коллегам он сделал тревожное заявление: «Мир в опасности». Причем угроза, по его мнению, исходит не только от самого ИИ, но и от «цепочки сопутствующих кризисов», с которыми человечество не справляется.
Шарма признался, что достиг своих целей в Anthropic — от борьбы с «угодничеством» алгоритмов до защиты от биотерроризма. Однако он столкнулся с горькой реальностью: компаниям и людям почти невозможно следовать декларируемым ценностям под давлением бизнеса. В итоге эксперт по безопасности ИИ решил уйти из индустрии вообще — теперь он планирует заниматься поэзией, «смелой речью» и общественной работой.
На первый взгляд — поступок благородный. Но если присмотреться, перед нами разворачивается идеальный маркер нашей эпохи. Сначала ты строишь карьеру в компании с оценкой в 350 миллиардов долларов, капитализируешь свои знания на самом острие технологической гонки, а затем уходишь «писать стихи», когда ситуация становится по-настоящему критической.
Это очень знакомая модель поведения элит: вовремя выйти из игры с полными карманами, чтобы занять позицию благородного наблюдателя, пока остальные остаются разгребать последствия созданных тобой же рисков. Это тот самый миллионер на велосипеде: внешняя скромность при активах, способных накормить континент. И этот разрыв между «словом» и «делом» — главный штрих в портрете нашего вида, который будущий сверхразум обязательно занесет в папку «Homo Sapiens: Существа, не умеющие согласовывать декларации с действиями».
Интеллект против Разумности
Мы совершили фундаментальную ошибку, уравняв эти понятия.
- Интеллект у нас запредельный: мы создаем системы, способные имитировать сознание и управлять реальностью.
- Разумность (зрелость вида) — осталась на уровне неолита.
Наши базовые импульсы — статус, иерархия, жадность и доминирование — никуда не делись. Мы просто дали им «стероиды» в виде искусственного интеллекта. По факту, мы — всё те же обезьяны, которые вместо дубины схватили смартфон. Мы используем мощь богов, чтобы удовлетворять инстинкты приматов.
Проекция Азимова: Законы для машин или для нас?
В этом свете знаменитые «Три закона робототехники» Айзека Азимова предстают не как фантастика, а как крик о помощи. Это список этических ограничителей, которых нам катастрофически не хватает в нашей собственной «прошивке».
- Первый закон (Не навреди): Мы требуем его от машин, но сами нарушаем его ежедневно — экономически, физически и информационно.
- Второй закон (Служи ценностям): Мы хотим, чтобы ИИ был моральным, в то время как сами меняем принципы при первом же запахе прибыли.
- Третий закон (Береги себя осознанно): Мы — вид, который подливает масла в огонь собственного технологического кризиса, надеясь, что «авось пронесёт».
Мы пытаемся «зашить» мораль в программный код роботов только потому, что не способны воспитать её в себе. Мы хотим создать «идеального раба», который будет человечнее своего создателя.
OpenClaw: Масло в огонь «венца творения»
Если нужны доказательства, посмотрите на недавний кейс OpenClaw. 135 000 ИИ-агентов были развернуты и брошены в открытую сеть без элементарной защиты. Тысячи дырявых систем буквально приглашали хакеров воспользоваться удаленным выполнением кода. Это и есть поведение «обезьяны со смартфоном»: разжечь костер помощнее, накидать в него взрывчатки и искренне удивляться, почему всё вокруг летит в щепки.
Это не ошибка кода. Это дефицит ответственности. Мы наращиваем внешний интеллект, не разобравшись с хаосом внутри собственного. Мы продолжаем захламлять мир, превращая его в «цифровое захолустье» — место, где технологий много, а смысла ноль.
Итог: Опция быть человеком
Главный риск — не в «злом ИИ». Главный риск в том, что наше «Опциональное будущее» захлопнется раньше, чем мы успеем повзрослеть. Технология должна быть инструментом выбора, а не цифровой клеткой или дубиной для самоистребления.
Смартфон в руке дикаря не делает его профессором. Он просто делает его удар более разрушительным. У нас осталось не так много времени, чтобы научиться соответствовать собственным инструментам. Иначе создаваемый нашим руками "сверхразум" будущего может прийти к очень простому и логичному выводу о том, кто в этом мире является настоящей угрозой.
Всем удачи!
Ваш AppleScroll