Экс-инженер Google и Microsoft: риск гибели человечества из-за ИИ достигает 95%

ЛОНДОН, 1 августа. /ТАСС/. Вероятность гибели человечества из-за развития искусственного интеллекта (ИИ) составляет "как минимум 95%". С такой оценкой выступил глава некоммерческой организации Machine Intelligence Research Institute, бывший инженер компаний Google и Microsoft Нейт Соарес.

"Вы можете сделать умные компьютеры, не имея ни малейшего представления о том, что они делают. Вы берете огромный объем вычислительных мощностей и бросаете его на воистину гигантский объем данных так, что это каким-то образом изменяет компьютеры. Никто не знает, что происходит внутри этих вещей", - приводит его слова газета The Times.

Соарес, который ставит целью своей НПО создание безопасного ИИ и изучение потенциальных опасностей технологического процесса, сравнил нынешнюю ситуацию с машиной, которая несется навстречу пропасти с огромной скоростью. "Я не говорю, что мы не можем остановить автомобиль, но мы просто на полных парах летим к обрыву", - сказал он.

Издание пишет о том, что ИИ сейчас находится на начальном этапе развития, который можно определить как узкий, или слабый ИИ. Однако, как говорится в статье, некоторые эксперты считают, что он может уже в течение следующих 12 месяцев развиться до общего, или сильного ИИ, что позволит ему мыслить подобно человеку. В определенный момент на смену ему может прийти искусственный суперинтеллект, когда компьютеры смогут решать задачи, о которых человечество может только мечтать, например, вылечить рак или совершать межгалактические перелеты. При таком сценарии не исключен риск, что ИИ начнет воспринимать человечество как помеху самому себе.

The Times уточняет при этом, что сценарий Соареса все же является крайне негативным. Так, исполнительный директор движения PauseAI Холли Элмор оценивает вероятность гибели человечества из-за ИИ, так называемый P(doom), от 15 до 20%, американский миллиардер Илон Маск также говорит о 20%, а генеральный директор корпорации Google Сундар Пичаи - о 10%. Как замечает издание, такие прогнозы оцениваются как оптимистичные.