Эксперт по развитию искусственного интеллекта не на шутку встревожен успехами в области разработки нейросетей. Его обращение опубликовала Baza.
Речь идет об одном из самых известных исследователей искусственного интеллекта Элиезере Юдковском. Как оказалось, эксперт серьезно обеспокоен семимильными шагами, которыми развиваются нейросети в последние несколько лет, в частности, технологии GPT. Он дал неутешительный прогноз — дальнейшее развитие ИИ может погубить человечество.
«Если кто-то создаст слишком мощный ИИ в нынешних условиях, я ожидаю, что вскоре после этого умрет каждый представитель человеческого рода и вся биологическая жизнь на Земле», — Юдковский.
Специалист внимательно изучил последние достижения в области нейросетей и пришел к выводу, что человечество пока не готово для подобных изобретений. По его мнению, у создателей ИИ не существует «плана Б» на случай, если бездушные машины вдруг выйдут из-под контроля — да, он всерьез рассматривает такой сценарий.
Если процесс развития нейросетей пойдет по непредсказуемому сценарию, он может привести к появлению сверхразумного ИИ, для которого люди будут лишь недоразвитой глупой цивилизацией.
Чтобы избежать катастрофы, Юдковский призвал немедленно остановить обучение нейросетей и сначала создать международные стандарты регулирования этой отрасли. Когда это будет сделано, нужно будет тщательно следить за выполнением нормативов и не стесняться применять жесткие меры к нарушителям.
Ранее мы писали, что группа первых лиц IT-отрасли во главе с Илоном Маском тоже призвала остановить развитие нейросетей.