В Google DeepMind предупредили, что AGI может уничтожить человечество

В Google DeepMind предупредили, что AGI может уничтожить человечество

Google DeepMind опубликовала 145-страничную статью о своем подходе к безопасности AGI.

Авторы публикации, среди которых сооснователь DeepMind Шейн Легг, считают, что искусственный интеллект, способный выполнять задачи на уровне человека, может появиться к 2030 году. В статье говорится, что появление AGI может создать «экзистенциальные риски», которые «навсегда уничтожат человечество».

В DeepMind сравнили свой подход к разработке безопасного AGI с подходом Anthropic и OpenAI и указали компаниям на их недоработки.

Появление сверхразумного AI, способного выполнять задачи лучше любого человека, в статье ставится под сомнение. По мнению авторов, для его создания требуются значительные инновации в архитектуре моделей искусственного интеллекта.

При этом, в DeepMind назвали правдоподобным процесс рекурсивного улучшения, когда искусственный интеллект исследует сам себя для создания более сложных систем AI. Такая ситуация может быть невероятно опасной, утверждают авторы.

https://techcrunch.com/2025/04/02/deepminds-145-page-paper-on-agi-safety-may-not-convince-skeptics/