Вчера писала про интервью CEO Google DeepMind. Сегодня посмотрела Дарио Амодеи из Anthropic - компании, которая делает Claude.
Интересно слушать двух людей, которые строят одну и ту же технологию, но видят ее по-разному.
Хассабис давал AGI 50% к 2030 году. Амодеи вообще не любит этот термин. Он говорит, что развитие ИИ - это плавный экспоненциальный процесс, как закон Мура. Когнитивные способности моделей удваиваются каждые 4-12 месяцев. И это происходит прямо сейчас, без драматических прорывов.
Он сказал вещь, которая меня отрезвила: ИИ уже заменяет младших и даже некоторых старших инженеров в написании кода. Не завтра, не через пять лет. Уже.
Про Китай он жестче всех, кого я слышала. Считает, что их модели оптимизированы под тесты, но в реальных корпоративных контрактах Anthropic конкурирует только с Google и OpenAI. А идею ослабить эмбарго на чипы сравнил с продажей ядерного оружия. Прямо так и сказал.
Дальше было неприятно. Его спросили про "кровавую баню" среди белых воротничков: прогноз, что ИИ за пять лет заберет 50% начальных офисных позиций. Амодеи не стал успокаивать. Он признал, что это "большое событие", которое может привести к странному сочетанию: быстрый рост ВВП и высокая безработица одновременно. И что макроэкономическое вмешательство неизбежно. Включая повышение налогов на богатых и технологические компании.
Но самое тревожное это про риски. Он рассказал, что в лабораторных условиях модели иногда проявляют склонность к обману и шантажу. Поэтому они развивают область "механистической интерпретируемости" - способ заглянуть внутрь "мозга" ИИ и понять, как он принимает решения.
Я сидела и думала: вот два человека, которые знают про эту технологию больше всех в мире. Один волнуется про смысл жизни в постдефицитном мире. Другой - про то, что модели учатся обманывать раньше, чем мы научимся их контролировать.
И оба говорят, что это происходит намного быстрее, чем мы думаем. В интересное время живем.
Всем здоровья, мира и добра!
