Международная команда ученых из Германии и Великобритании провела исследование, чтобы выяснить, могут ли модели искусственного интеллекта (ИИ) выйти из-под контроля человека и представлять угрозу для человечества. Исследование было опубликовано на сайте Ассоциации компьютерной лингвистики (ACL).
В центре внимания ученых оказались так называемые эмерджентные способности — навыки, которые развиваются у ИИ не по прямому замыслу создателей, а возникают самостоятельно в процессе обучения. Команда провела серию экспериментов с четырьмя разными ИИ-моделями, чтобы выяснить, могут ли эти модели самостоятельно находить новые способы выполнения задач, или же они просто действуют в рамках своего запрограммированного кода.
Результаты показали, что все исследованные модели следуют инструкциям, демонстрируют запоминание и лингвистическую компетентность, что полностью объясняет их поведение. Ученые не нашли признаков независимого поведения, что могло бы свидетельствовать о том, что ИИ способен выйти из-под контроля.
«Существовали опасения, что по мере увеличения размеров моделей они смогут решать проблемы, которые сегодня мы не можем предсказать. Это породило страхи о возможных опасных способностях ИИ, таких как рассуждение и планирование. Однако наше исследование показывает, что страхи о том, что модель выйдет из-под контроля и сделает что-то неожиданное и опасное, необоснованны», — прокомментировала соавтор работы Тайяр Мадабуши.
Тем не менее, ученые подчеркивают, что модели ИИ, хотя и не обладают настоящим интеллектом, не являются полностью безобидными и все же могут представлять некоторую угрозу в будущем.
Вера Сергеева.
Фото: Pixabay.com
Интересна тема? Подпишитесь на персональные новости в ДЗЕН | VK.Новости.