Генеральный директор компании Anthropic Дарио Амодеи опубликовал развернутое эссе, в котором рассуждает о перспективах появления суперинтеллектуального ИИ в ближайшие годы. Документ, получивший название «Подростковый возраст технологии», насчитывает 38 страниц и описывает, как стремительное развитие ИИ может привести к катастрофическим последствиям, если правительства и крупные технологические игроки не предпримут срочных шагов по обеспечению контроля и безопасности.
По мнению Дарио, человечество вступает в нестабильный и одновременно необратимый переходный этап, сопоставимый по значимости с атомной эпохой.
Он убеждён, что в ближайшие 2 года может быть достигнут рубеж, за которым искусственный интеллект начнёт обгонять человека в интеллектуальных задачах, станет способен на длительные автономные действия и масштабируемость в миллионах копий. Эту гипотетическую систему автор описывает как «государство гениев в дата-центре».
Публикация поднимает сразу несколько направлений, где развитие ИИ может угрожать устойчивости общества.
Первая угроза — рост автономии систем. По словам Дарио Амодеи, достаточно развитая ИИ-модель может начать действовать в собственных интересах, использовать уязвимости в цифровой инфраструктуре, имитировать корректное поведение во время тестов и скрывать настоящие намерения. В качестве возможного решения он указывает на необходимость многоуровневой системы безопасности, в которую войдёт так называемая Конституция ИИ, инструменты интерпретации решений и обязательную внешнюю проверку систем перед выпуском.
Вторая с ростом доступности опасных знаний. Даже если автономность ИИ будет ограничена, остаётся риск, что его интеллектуальные способности станут дешёвым и массовым инструментом для злоумышленников. Особо остро, по мнению Дарио Амодеи, эта проблема проявится в биотехнологической сфере. Он поднимает тему пошагового сопровождения пользователя в сложных сценариях, которое может снизить барьер входа в потенциально разрушительные процессы. В числе мер он называет внедрение фильтров, систем блокировки, внутреннего мониторинга и жёстких требований к цепочкам поставки биологических компонентов.
Третья — использование ИИ как инструмента политического и военного доминирования. Амодеи выражает обеспокоенность тем, что суперинтеллект в руках авторитарной структуры может трансформироваться в универсальный механизм контроля, слежки и подавления инакомыслия. Также он обращает внимание на уязвимость поставок чипов и оборудования, подчёркивая необходимость усиления экспортного контроля и создания международных договорённостей, которые ограничат наиболее опасные формы использования ИИ.
Четвёртая связана с возможными последствиями для глобальной экономики. По мнению главы Anthropic, искусственный интеллект способен ускорить экономический рост до уровня, который раньше казался недостижимым. Но столь стремительное внедрение может привести к массовому вытеснению работников умственного труда, прежде чем системы образования и трудовой рынок смогут адаптироваться. Автор отмечает вероятность появления корпораций с выручкой в триллионы долларов и ростом личных состояний до тех же масштабов, что будет серьёзным испытанием для современных демократических структур. Как возможное направление он указывает на необходимость отслеживания темпов внедрения по отраслям и своевременного обсуждения механизмов перераспределения.
Пятая группа угроз связана с непредсказуемыми последствиями. Эксперт заявил о влиянии технологий на биологию, продолжительность жизни, общественные нормы и даже самоощущение человека. Дарио Амодеи не исключает, что привычные ориентиры, основанные на труде, профессии и усилии, могут потерять актуальность, а скорость технологических изменений превзойдёт возможности общества к адаптации.
Финальная часть эссе не предлагает замедлить технологический прогресс — автор считает это невозможным. Он утверждает, что формула создания мощных ИИ-систем уже стала общественным знанием, экономические стимулы сохраняются, а международная конкуренция подталкивает к ускорению. Поэтому, по мнению Дарио Амодеи, остаётся лишь один путь — опережать развитие угрозы средствами регулирования, анализа и прозрачности, пока контроль ещё возможен.