Идеи истребления человечества враждебно настроенным к людям искусственным интеллектом культивировались на протяжении многих десятилетий благодаря целому ряду художественных произведений и фильмов, а с развитием ИИ всё больше людей тревожатся о своём будущем: как сообщает ресурс TechSpot, создатель известного чат-бота ChatGPT, компания OpenAI, догадывается о тех опасностях, которые таит в себе создание сверхразума, включая вымирание человечества, поэтому собирает команду для снижения возможных рисков.
Источник изображения: Pixabay
По мнению представителей OpenAI, для контроля «сверхразума», то есть ИИ, обладающего более высоким уровнем интеллекта на фоне возможностей человека, необходимы научные и технические новшества, дабы иметь возможность «обуздать» непокорную (в теории) систему. Для решения этих задач компания намерена собрать новую команду, которая будет работать в течение целых четырёх лет, и выделяет 20 % своих ресурсов для этих целей.
Искусственный интеллект сможет помочь справиться с решением целого ряда мировых проблем, однако его возможная сила вызывает большие опасения, ведь при худшем развитии «сюжета» люди могут лишиться не только своих обязанностей, но и прав, что в конечном итоге станет закатом для человечества, считают представители компании, добавляя, что «сверхразум» может появиться уже в этом десятилетии.
По словам Ильи Суцкевера, являющегося соучредителем OpenAI, и Яна Лейке, одного из руководителей новой команды, в настоящее время методов для управления сверхинтеллектуальным ИИ пока не имеется, равно как и нет решений для укрощения его возможного «строптивого» нрава.
В связи с тем, что люди не смогут эффективно контролировать системы искусственного интеллекта намного умнее человечества, а существующие методы не будут масштабироваться до уровня сверхразума, требуется разработка новых решений, чем и займётся новая команда под «крылом» OpenAI, специалисты которой попытаются «очеловечить» ИИ, обучив систему человеческим ценностям.
Компания признаёт, что её проект по «обузданию» сверхразума достаточно амбициозен, однако всенепременно необходим человечеству, поэтому великим «светилам» в области машинного обучения в любом случае придётся заняться данным вопросом.
