Дай бог нам всем не обмануться, принимая простое за сложное, а сложное за простое, ибо все беды и человечества, и человека, начинаются именно тогда, когда он делает ошибочный выбор или “ведется” на подмену простого на сложное и наоборот.
Давосский форум, как всегда, переполнен политиками, традиционно уже дающими на эти вопросы неверные ответы (не станем даже обсуждать, являются ли эти ошибки злым умыслом или следствием слабого интеллекта), но в Давосе, кроме них, выступают еще ученые и бизнесмены, которые видят проблемы человечества вовсе не в соревновании слабеющих разумом старцев по части обмена гадостями (хотя такой обмен гарантирует человечеству плохие времена), а в том, что мир реально вступил во времена промышленной революции №4.
И эта революция, круто замешанная на искусственном интеллекте, уже вовсе не тема фантастических романов о далеком будущем - она происходит прямо здесь и сейчас.
Наверное, с этой точки зрения самое интересное событие на сегодня - это вступление Дарио Амадея, сооснователя и СЕО компании Anthropic.
Так как не все знают, о ком речь (хотя в прошлом, 2025-м, именно этот парень стал “человеком года” по версии Times), то стоит сказать пару слов о нем.
Он - один из немногих в Silicon Valley “местных” - родился в Сан-Франциско, в весьма скромной семье - итальянского кожевника и еврейки-библиотекарши. За плечами у него ряд престижных ВУЗов, вроде Стэнфорда и Принстона, и докторские степени в физике и биологии.
В бизнес он пришел человеком уже сложившимся - ему был 31 год, когда его нанял калифорнийский офис китайского Baidu для работы над искусственным интеллектом. Затем в его карьере был Google, а позже - 5 лет работы в OpenAI, откуда он ушел в 2021 и вместе со своей сестрой Даниэлой и еще пятью бывшими сотрудниками Сэма Альтмана из-за памятного многим спора о будущем AI - Джаредом Капланом, Джеком Кларком, Томасом Брауном, Кристофом Олссон и Беном Маном - так родился Anthropic.
Компания создала семейство моделей Claud с тремя “дочками” - Haiku, “для бытовых нужд”, Sonnet, среднего размера, и Opus, для сложных решений.
Оценка компании в данный момент - 183 млрд, а прибыль за прошедший год составила 9 млрд.
Амадей уже давно и весьма ярко высказывался о будущем искусственного интеллекта и о том, насколько он изменит нашу жизнь, поэтому, можно сказать, Давос этого выступления ждал. Наука (да и бизнес) полагали, что это это будет более важным событием, чем выступление Трампа, а пресса даже посчитала, что Амадей на этом форуме был популярнее президента США, правда, всё, что смогла услышать пресса в его выступлениях - так это разве что то, что в течении ближайших 6-12 месяцев профессия кодера исчезнет - это задачи целиком возьмет на себя AI.
Прессу жаль (хотя - кто же ждал от нее фокуса на чем-то кроме того, что можно с грохотом впарить читателям как сенсацию?), поэтому давайте не станем тормозить на обсуждении всем и так очевидной тенденции и попробуем обобщить основные идеи из выступлений Амадея.
Дарио Амадей говорит об отличиях нового мира, так как мир, создаваемый AI, эмерджентен, то есть, в данном контексте, непредсказуем. Он сравнивает создание AI с выращиванием растения: мы создаем условия для роста, но то, что в итоге вырастает, не можем предсказать с точностью.
Если прежние технологические революции отличались “понятностью” (ясно, как устроен паровой двигатель и что от него ждать, ясно, как написана программа и что мы должны получить на выходе и т.п.), то для объяснения работы искусственного интеллекта Амадей цитирует своего коллегу Олссона - “мы выращиваем больше, чем закладываем” - то есть самим ученым не очевидно, как AI решает когнитивные задачи и на что он способен.
Непрозрачность “поведения” AI, по Амадею, означает, что искусственный интеллект невозможно использовать в критически значимых системах, вроде финансовых операций или всем, что связано с безопасностью (вроде управления транспортом, например). При этом отказ от подобного вовсе не означает, что этим не могут воспользоваться злоумышленники. Как человек, знающий биологию, Амадей уже раньше заявлял, что он обеспокоен тем, с какой легкостью, по его мнению, AI, по его мнению, мог бы взяться за разработку биологического оружия, но надо полагать, что подобное можно отнести к оружию массового поражения вообще.
Заметим, что выпустить монстра, по мнению Амадея, способен не обязательно злоумышленник, но и просто ориентированный на достижение коммерческого успеха человек (имена Альтмана и Маска вслух при этом не произносятся, но понятно, кого Дарио имеет ввиду).
Амадей рассказывает, как, с учетом этих рисков, строит свою работу Anthropic, образно описывая её как исследование мозга: первичное МРТ, диагностика, лечение, снова МРТ и так далее.
Это он называет политикой ответственного масштабирования.
Амадей куда четче (и намного резче), чем любой политик, формулирует важное: AI идеален для авторитарных режимов. Он способен радикально усилить репрессии, выведя их на недоступный ранее уровень. Он говорит о том, что использование современных технологий заметно меняет жизнь внутри диктаторских режимов уже сегодня, но AI выведет тотальную слежку на новый уровень, вдалбливая каждому пропаганду на основе индивидуального меню, взламывая все пароли, физически преследуя любого инакомыслящего, полностью, на 100%, лишая любого человека личного пространства - “это действительно страшно и это мы должны остановить”.
Для чего Амадей предлагает радикально запретить передачу автократиям чипов от Nvidia - категорически и навсегда - такие чипы, по его мнению, просто не должны попадать в Китай.
Амадей резко критикует позицию правительства своей страны в этом вопросе, которую и в самом деле стоит мягко назвать “половинчатой” - с одной стороны, опасности администрацией США осознаются, с другой - давит желание заработать на технологиях.
Амадей это поведение сравнивает с передачей атомной бомбы в, например, Северную Корею - можно было бы отлично на этом заработать, но Америка этого все-таки не сделала, стоит ли объяснять, почему?
Сам Амадей видит в AI куда как более страшное и разрушительное оружие, чем ядерное, из-за его “незаметности”.
Проблемы недалекого будущего видятся Амадею и в том, как AI глобально сможет повлиять на экономику - это как раз та часть, фрагмент которой нам преподнесла пресса как сенсационную якобы новость о том, что AI будет генерить код вместо программистов.
Мысль Амадея, конечно, касается темы будущей безработицы, но рассматривает он её и в более широком аспекте. Общая идея такова: внедрение AI приведет к невиданному экономическому росту, но если в былые времена экономический подъем обязательно означал повышенную занятость населения, то теперь, впервые в истории, он будет означать рост безработицы, причем чем выше будет экономическое ускорение, тем ниже будет занятость. “Это логически не противоречиво, просто раньше такого никогда не было”. О рецептах устранения массы вытекающих отсюда проблем Амадей не говорит, но и так ясно, с какими проблемами и бедами может столкнуться человечество.
Тема расслоения общества вообще весьма занимает Амадея - по его словам, в нашем восьмимиллардном мире сегодня существуют примерно 10 млн человек (из которых 7 млн живут в Калифорнии и 3 млн рассеяны в других частях планеты), которых он называет “нулевым миром”, опережающим то, что ранее называли “первым миром” - миром развитых стран. Именно нулевой мир получит максимальную выгоду от внедрения AI (по Амадею, рост мировой экономики на 10% означает, что для нулевого мира выгода составит не меньше 50%) и попытается построить “новый порядок”.
Впрочем, мир не склонен думать о будущем всерьез, и пока наш легкомысленный мир больше обсуждает...
Продолжение этой статьи можно прочитать ЗДЕСЬ, Ссылка приведет вас в блог автора на платформе Boosty, где можно прочесть не только продолжение этой статьи, но и еще больше 400 статей, посвященных истории экономики. Блог в Boosty - платный, но там можно выбрать опцию оплаты по карману.
А смысл оплаты - поддержать работу по теме, которая в школьные учебники никак не попадает. Потому что школьные учебники - это про войны, разрушения, убийства - словом, читая их, кажется, что суть и смысл существования - в ограблении, в стремлении кого-то убить, ограбить, чего-то отнять, и читая их, совершенно непонятно, как так вышло, что, в итоге, человечество становится гуманнее, а мир - удобнее и уютнее.
Ну вот это недоразумение и призвана исправить (или хотя бы скорректировать) работа автора. Если вы "за" такой подход - жду вас в Boosty.
Если кому-то туда переходить лень, то сейчас сказать автору "спасибо" можно, просто отправив донат в Дзене.
Мой благодарность всем услышавшим и правильно понявшим смысл сказанного. И великая благодарность - всем подписчикам, людям, которые, что называются, подставляют плечо.