Ещё десять лет назад эксперты считали, что сильный искусственный интеллект (AGI), способный мыслить на уровне человека, появится не раньше 2050 года. Однако уже во второй половине 2020-х индустрия живёт в новой реальности. Ведущие ИИ-компании планируют достичь этого уровня уже в 2030 году. Рассказываем, что такое AGI, какие риски он несёт и какое будущее может ждать человечество после разработки такого ИИ.
Законы масштабирования
Резкий скачок в развитии нейросетей произошёл из-за открытия законов масштабирования (Scaling Laws). Чем больше текстов вы загружаете в модель и чем больше вычислительных ресурсов используете для её обучения, тем умнее она становится. Прогресс в этой сфере стал предсказуемым. После этого создание интеллекта превратилось в понятную инженерную задачу, которая упирается только в деньги и ресурсы.
Для обучения новых моделей требуются колоссальные мощности. Компании запускают стройки, не имеющие аналогов в истории. Например, OpenAI вместе с партнёрами планирует потратить до 500 миллиардов долларов на вычислительный проект Stargate. Параллельно Илон Маск через свою компанию xAI построил в Мемфисе гигантский дата-центр Colossus на сотни тысяч графических процессоров.
Такие масштабы требуют огромного количества электричества. Чтобы запитать свои дата-центры, IT-корпорации скупают энергию атомных электростанций. Microsoft заключила контракт на перезапуск закрытого реактора на АЭС Три-Майл-Айленд. Amazon покупает электроэнергию напрямую у атомной станции в Пенсильвании.
Сингулярность
Ещё в 1965 году математик Ирвинг Джон Гуд описал концепцию «интеллектуального взрыва». Он предположил, что ультраразумная машина станет последним изобретением, которое человеку когда-либо придётся сделать. Дальше машина сможет проектировать технологии самостоятельно.
Развитие цифрового разума не ограничено биологией. Как только алгоритм достигнет уровня способного инженера-программиста, он сможет переписать и улучшить собственный код. Машине не нужно спать, её мозг не ограничен размером черепа, а мощности можно просто добавлять, подключая новые серверы.
Процесс самосовершенствования запустит экспоненциальную цепную реакцию. Эксперты называют это «быстрым взлётом». Предполагается, что за считанные часы или недели система может эволюционировать от интеллекта уровня Альберта Эйнштейна до уровня, недостижимого ни для кого из людей.
