Крупные ученые и предприниматели считают, что искусственный интеллект может представлять угрозу для всей человеческой цивилизации. По их мнению, необходимо запретить разработку его новых моделей до тех пор, пока не появятся системы регулирования.
Ведущие бизнесмены и ученые выступают против продолжения разработки мощного искусственного интеллекта. Они считают, что такая технология может создавать угрозу не только для отдельных профессий, но и для целой человеческой цивилизации. Среди тех, кто придерживается такого мнения, изобретатель Илон Маск, сооснователь Apple Стив Возняк, сотни профессоров, множество IT-специалистов и даже сами разработчики искусственного интеллекта, в том числе руководители Stability AI и Conjecture. Все они уверены в необходимости немедленно запретить разработку новых моделей искусственного интеллекта – не насовсем, а до тех пор, пока не будут разработаны эффективные системы регулирования.
Авторы письма считают, что полугодовой мораторий позволит подготовить регулирование данной сферы. Властям рекомендовано создать специальные ведомства, которые будут контролировать разработку ИИ. Как полагают подписанты, при должных усилиях может настать своего рода «золотой век» искусственного интеллекта, когда машины будут работать на благо людей. В противном же случае можно очень быстро столкнуться с негативными сторонами появления мощного ИИ.
Как отмечает издание BFM со ссылкой на главного аналитика Центра искусственного интеллекта МФТИ Игоря Пивоварова, большие модели ИИ становятся все масштабнее, а понимания того, что происходит у них внутри, все меньше. Отследить цепочки действий модели довольно непросто. Технологии подобного плана, как заметил специалист, потенциально несут большие возможности, но в то же время и большие риски для всего человечества. Он полагает, что над ИИ нужно работать в «хорошем международном сотрудничестве», а не в условиях «гонки вооружений».