5033 подписчика
Илон Маск и более 1100 технологических исследователей и руководителей призвали сделать шестимесячную «паузу» в разработке передовых систем искусственного интеллекта, чтобы не допустить их выхода из-под контроля. В открытом письме они призывают «все лаборатории ИИ немедленно приостановить как минимум на шесть месяцев обучение систем ИИ, более мощных, чем GPT-4».
Представленная 14 марта нейросеть GPT-4, согласно ряду данных, содержит порядка 100 триллионов параметров (в GPT-3 их было 175 миллиардов). Подобная система ИИ не в тех руках способна натворить немало бед.
GPT-5, которая должна быть представлена в конце текущего года, вообще обещает революцию в сфере искусственного интеллекта – от программирования квантовых компьютеров до синтеза лекарств. Ожидается, что GPT-5 достигнет AGI. AGI — это концепция «искусственного общего интеллекта», которая относится к способности ИИ понимать и изучать любую задачу или идею, которые люди могут обдумать. Другими словами, ИИ, достигший AGI, может быть неотличим от человека по своим возможностям. GPT-6, выход которой ожидается в 2024-2025 годах, кратно превзойдет человека.
Опасность ИИ такого уровня заключается в том, что нейросеть может выйти из-под контроля человека, начав развиваться самостоятельно, при этом защищая себя от попыток этому помешать.
1 минута
29 марта 2023
165 читали