Глава SpaceX Илон Маск, соучредитель Apple Стив Возняк, филантроп Эндрю Янг и ещё около тысячи исследователей искусственного интеллекта призвали «немедленно приостановить» обучение систем ИИ мощнее чем GPT-4. Соответствующее письмо 29 марта опубликовала некоммерческая организация Future of Life.
Эксперты по обучению и изучению искусственного интеллекта призывают все мировые лаборатории по созданию ИИ приостановить обучение систем за пределами GPT-4 минимум на полгода.
Специалисты считают, что системы ИИ с интеллектом, конкурирующим с человеческим, могут нести «серьёзные риски для общества и человечества». Это мнение признают и ведущие разработчики.
Открытое письмо подписали уже более тысячи экспертов, среди которых Илон Маск, Стив Возняк, Эндрю Янг, соучредители Pinterest и Ripple, исследователи из DeepMind, Гарварда, Оксфорда и Кембриджа и другие технологические лидеры. В документе описываются потенциальные риски для общества со стороны конкурентоспособных систем искусственного интеллекта в виде экономических и политических потрясений.
«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а их риски будут управляемыми», — подчёркивают авторы.
Напомним, письмо было написано через несколько недель после публичного дебюта GPT-4 от OpenAI, который является большой языковой моделью, поддерживающей ChatGPT. Его признают самой совершенной системой искусственного интеллекта из когда-либо существовавших, которой своими возможностями удалось шокировать и напугать экспертов. Подчеркивается, что даже создатели мощных цифровых умов не могут предсказать или надежно контролировать последствия внедрения ИИ.
