«95% на вымирание»: бывший инженер Google предрёк гибель человечества из-за искусственного интеллекта

Развитие искусственного интеллекта (ИИ) может обернуться катастрофой для человечества — такую мрачную оценку дал бывший инженер Google и Microsoft Нейт Соарес. Сейчас он возглавляет некоммерческую организацию Machine Intelligence Research Institute (MIRI), которая занимается безопасностью ИИ. В интервью британскому изданию The Times он заявил, что вероятность вымирания людей из-за искусственного интеллекта составляет как минимум 95%, если человечество продолжит двигаться по текущей траектории.

По словам Соареса, в будущем можно будет создавать интеллектуальные системы, даже не понимая, как они работают. Это делает развитие технологии особенно опасным. Он подчеркнул, что ключевая угроза кроется в неконтролируемости процессов и отсутствии должного понимания механизмов работы продвинутых ИИ-систем.

Газета отмечает, что сегодня искусственный интеллект находится на ранней стадии, но при сохранении темпов инвестиций и разработок он может достичь уровня так называемого общего искусственного интеллекта (AGI) — системы, сравнимой с человеческим умом по объёму и качеству мышления. Такое ИИ-сознание, в отличие от человека, не нуждается в сне, пище и отдыхе, а значит, получит ощутимое преимущество.

Кроме того, машины смогут передавать знания мгновенно от одного экземпляра к другому, минуя обучение в привычном смысле. Это может привести к стремительному росту их интеллектуального и технологического превосходства над людьми.

К обсуждению возможного будущего ИИ подключился и Илон Маск. Недавно он заявил, что уже к 2030 году искусственный интеллект станет умнее всех людей, вместе взятых. Ранее он предполагал, что это произойдёт к 2029 году. По его мнению, ИИ уже сейчас превосходит большинство людей в решении некоторых узкоспециализированных задач, а в ближайшие два года сможет обойти каждого человека по уровню мышления в любой сфере.