Бесконтрольное обучение нейросетей может нести угрозу будущему человечества. В этой связи необходимо ввести полугодовой мораторий для разработки протоколов безопасности. Об этом говорится в публичном письме, которое появилось на сайте некоммерческой организации «Институт будущего жизни». Документ подписали владелец Twitter Илон Маск, сооснователь Apple Стив Возняк и более тысячи экспертов, занимающихся вопросами искусственного интеллекта.
Авторы письма обратились ко всем мировым лабораториям и независимым экспертам с призывом приостановить на полгода работу над обучением систем искусственного интеллекта, более мощных чем GPT-4.
«Об этом перерыве необходимо объявить публично, его исполнение должно быть проверяемым и охватывать всех ключевых участников отрасли. Если такая пауза не может быть сделана в кратчайшие сроки, то правительства должны вмешаться и ввести мораторий», — заявили авторы письма.
Они подчеркнули, что, помимо разработки протоколов безопасности, необходимо ввести возможность контроля над нейросетями со стороны независимых экспертов. Власти государств также должны объявить о создании регулирующих органов, которые возьмут под контроль новые системы.
Разработавшая ChatGPT американская компания OpenAI неделю назад представила обновленную версию своего алгоритма GPT-4. По словам авторов, новая система надежна и более креативна по сравнению с прошлой версией. В частности, она способна обрабатывать детализированные запросы, а также генерировать, редактировать и повторять за пользователями творческие и технические задачи при написании текста, создавать песни, сценарии и анализировать стиль письма.