18,7 тыс подписчиков
ИИ может угрожать человечеству? Так считают создатели ChatGPT
На днях произошло скандальное увольнение Сэма Альтмана, генерального директора OpenAI, которая подарила миру ChatGPT. После этого более 700 сотрудников компании пригрозили уволиться в знак солидарности с бывшем шефом, которого уже позвали в Майкрософт. В итоге спустя пару дней Альтман триумфально вернулся на пост руководителя OpenAI.
Интересно, что незадолго до ухода Сэма Альтмана несколько исследователей компании написали письмо совету директоров. В нем они предупредили о мощном открытии в области искусственного интеллекта, которое, по их словам, может угрожать человечеству. Об этом пишет агентство Рейтер со ссылкой на источники, знакомые с ситуацией. Они утверждают, что содержание этого письма стало одним из факторов отстранения Альтмана от должности.
Речь в документе шла о проекте под названием Кью-Стар. Некоторые в OpenAI считают, что он может стать прорывом на пути к так называемому общему искусственного интеллекта. Компания определяет его как автономную систему, которая превосходит людей в большинстве экономически ценных задач. Иными словами, это машина, которая может понимать окружающий мир так же, как и человек. Пока Кью-Стар способен решать математические задачи на уровне школьника. Но речь идет о задачах, где есть только один ответ. А для этого у ИИ должны быть способности к рассуждению, по образу человеческого интеллекта.
С одной стороны, у этой технологии огромный потенциал. Например, в научной сфере или медицине. Однако столь быстрое развитие искусственного интеллекта несет в себе и серьезные риски для человечества, о которых нас уже предупреждали авторы фантастических книг и фильмов.
В чем проблема?
1. Главная угроза — это, конечно, утрата контроля над ИИ. Есть вероятность, что искусственный интеллект начнет развиваться быстрее, чем предполагает человек, и машина сможет принимать свои собственные решения. Успехи в математике говорят о том, что сейчас все движется в этом направлении.
2. Следующий риск — потеря рабочих мест. Скорее всего, продвинутый ИИ сможет автоматизировать большинство популярных профессий. Это неминуемо вызовет социальные проблемы, связанные с безработицей и экономическим неравенством. При этом активное применение ИИ в повседневной жизни может привести к высокой зависимости от технологий. В таком случае общество станет более уязвимым перед техническими сбоями или кибератаками.
3. Кроме того, есть и этические проблемы. Например, ИИ уже используют во время боевых действий, что вызывает горячие дискуссии. Многие против того, что машина решает — жить человеку или умереть. Кроме того, искусственный интеллект могут использовать для манипуляции людьми в политике или маркетинге. Это может иметь далеко идущие последствия для свободы и автономии человека.
2 минуты
27 ноября 2023