Опасения, что технология искусственного интеллекта (ИИ) в будущем уничтожит человечество, «сильно преувеличены», считает ряд мировых ученых. Об этом 11 сентября сообщила газета The New York Times (NYT).
Как отмечает издание, среди руководителей технологических компаний и исследователей, разрабатывающих системы ИИ, всегда существовала группа, которая предупреждала о потенциальной способности этой технологии уничтожить человечество.
«Многие ведущие мировые исследователи не разделяют подобных убеждений. Они утверждают, что опасения сильно преувеличены», — говорится в материале.
Авторы статьи отметили, что потенциальные риски, связанные с развитием искусственного интеллекта, действительно могут вызывать опасения. Однако они подчеркнули, что человечество и без этого сталкивается с множеством глобальных угроз, способных повлиять на его существование. Среди них — падение крупных астероидов, новые пандемии, термоядерный конфликт, изменение климата, выбросы солнечной активности, экологические катастрофы и возможное наступление нового ледникового периода.
Портал Axios в тот же день сообщил, что в США стали разрабатывать механизмы экстренной остановки систем нейросетей, которые могут предотвратить опасное поведение технологий без участия человека. Поводом для соответствующей работы, как уточнялось, стали предупреждения, вынесенные миру исследователями организации Anthropic о рисках появления ИИ-систем, способных самостоятельно выполнять задачи без контроля или преследовать цели, не предусмотренные разработчиками.