Открытое письмо с предложением отказаться от разработки нейросетей мощнее GPT-4 было опубликовано некоммерческим Институтом будущего жизни. Подписи под открытым письмом поставили более 1000 человек — это специалисты и руководители компаний, связанных с этой отраслью. Среди подписантов — глава компаний Tesla, SpaceX и Twitter Илон Маск, сооснователь Pinterest Эван Шарп и сооснователь Apple Стив Возняк.
Цель обращения к лабораториям, создающим по сути зачатки искусственного интеллекта, — подождать, пока не будут разработаны, внедрены и протестированы надёжные протоколы безопасности для таких систем.
"Мы призываем все лаборатории, исследующие искусственный интеллект, немедленно прекратить хотя бы на шесть месяцев тренировки систем мощнее GPT-4. Эта пауза должна быть публичной и действительной. Если же подобная приостановка не может быть сделана быстро, правительства государств должны вмешаться и ввести мораторий", — говорится в тексте письма.
Параллельно экспертами предлагается создание новых регулирующих органов, главной задачей которых станут вопросы контроля и безопасности в этой сфере.
Иначе, как отметил, один из экспертов, быстроразвивающиеся ИИ-системы могут стать источником целого ряда потенциальных угроз для современного компьютеризированного цифрового общества.