"Мы уже за горизонтом событий; взлёт начался

"Мы уже за горизонтом событий; взлёт начался. Человечество близко к созданию цифрового сверхразума, и, по крайней мере пока, это гораздо менее странно, чем должно было бы казаться.

Роботы ещё не ходят по улицам, и большинство из нас не общается с ИИ целыми днями. Люди по-прежнему умирают от болезней, мы всё ещё не можем легко летать в космос, и многое во Вселенной остаётся непонятым.

И всё же, недавно мы создали системы, которые во многом умнее людей и способны значительно усиливать человеческий результат. Самая маловероятная часть работы — позади: научные прорывы, позволившие создать GPT-4 и o3, достались трудно, но они ведут нас очень далеко.

ИИ принесёт миру огромные выгоды — ускорит науку и повысит производительность, что серьёзно улучшит качество жизни. Научный прогресс — главный двигатель развития; будущее может быть гораздо лучше настоящего.

В каком-то смысле ChatGPT уже мощнее любого человека в истории: сотни миллионов людей используют его ежедневно для всё более важных задач. Небольшое улучшение может дать огромный положительный эффект, а малое искажение — столь же огромный отрицательный.

2025 год стал вехой: появились агенты, способные к настоящей когнитивной работе; программирование уже никогда не будет прежним. В 2026, вероятно, придут системы, способные открывать новые инсайты, а в 2027 — роботы, работающие в реальном мире.

Люди смогут создавать гораздо больше софта и искусства; эксперты останутся впереди новичков, если примут новые инструменты. К 2030 один человек сможет делать в разы больше, чем в 2020.

Важное не изменится: люди будут любить семьи, творить, играть, плавать. Но в других аспектах 2030-е будут радикально отличаться: интеллект и энергия станут изобиловать, снимая вековые ограничения прогресса.

Мы быстро привыкаем к чудесам: от «ИИ написал абзац» — к ожиданию, что он напишет роман; от диагноза — к надежде на лекарства; от кода — к целым компаниям. Так выглядит сингулярность: чудо становится нормой.

Учёные уже в 2–3 раза продуктивнее благодаря ИИ. Главное — что он ускоряет саму работу над ИИ. Мы можем за год пройти десятилетие исследований. Это зарождающаяся версия рекурсивного самосовершенствования.

Есть и другие петли самоусиления: экономическая ценность запускает маховик инфраструктуры; роботы скоро будут строить роботов, а дата-центры — дата-центры. Себестоимость интеллекта приблизится к цене электроэнергии. Один запрос ChatGPT сейчас тратит ~0,34 ватт-часа и каплю воды.

Прогресс ускоряется. Да, целые профессии исчезнут, но богатство будет расти так быстро, что станут возможны новые социальные идеи. История показывает: люди находят новые занятия и быстро осваивают новые инструменты.

Чудеса будут множиться: от физики — к космосу, от материалов — к интерфейсам мозг-машина. Большинство сохранит привычный образ жизни, но некоторые «подключатся».

Главные вызовы: безопасность и выравнивание. Нужно научиться гарантированно направлять ИИ к нашим долгосрочным целям и затем сделать сверхразум дешёвым, доступным и не сконцентрированным у немногих. Чем раньше мы начнём общественный разговор о границах и коллективном согласовании, тем лучше.

Мы строим мозг для мира — персонализированный, доступный, ограниченный лишь хорошими идеями. «Люди с идеями», над которыми смеялись в стартап-индустрии, получат своё время.

OpenAI прежде всего остаётся исследовательской компанией по сверхразуму. Большая часть пути уже освещена, тьма быстро отступает. Мы благодарны за возможность делать это.

Интеллект «слишком дешёвый, чтобы считать» — уже в пределах досягаемости. В 2020 это звучало бы безумнее, чем нынешние прогнозы на 2030.

Пусть наш путь к сверхразуму будет плавным, экспоненциальным и бескризисным." Сэм Альтман