Джаред Каплан: рекурсивный ИИ даст «взрыв интеллекта», но выйдет из-под контроля Главный научный сотрудник стартапа Anthropic Джаред Каплан предупреждает, что к 2030 году человечеству предстоит решить, насколько автономными должны быть системы искусственного интеллекта. Их самосовершенствование может вызвать полезный «взрыв интеллекта», но в тоже время с большой вероятностью приведет к потере контроля над технологиями и риску злоупотреблений. Если ИИ получит неконтролируемую возможность себя совершенствовать, люди в какой-то момент перестанут понимать его цели и ценности. Вслед за этим неизбежно начнутся попытки захвата власти с помощью такого сверхчеловеческого ИИ, так как вся технологическая мощь окажется в руках узкого круга игроков. https://hightech.plus/2025/12/05/dzhared-kaplan-rekursivnii-ii-dast-vzriv-intellekta-no-viidet-iz-pod-kontrolya
Джаред Каплан: рекурсивный ИИ даст «взрыв интеллекта», но выйдет из-под контроля
Главный научный сотрудник стартапа Anthropic Джаред Каплан предупреждает, что к 2030 году человечеству предстоит решить, насколько автономными должны быть системы искусственного интеллекта. Их самосовершенствование может вызвать полезный «взрыв интеллекта», но в тоже время с большой вероятностью приведет к потере контроля над технологиями и риску злоупотреблений. Если ИИ получит неконтролируемую возможность себя совершенствовать, люди в какой-то момент перестанут понимать его цели и ценности. Вслед за этим неизбежно начнутся попытки захвата власти с помощью такого сверхчеловеческого ИИ, так как вся технологическая мощь окажется в руках узкого круга игроков.
