Найти тему
sputnik.by

Маск подписал письмо с просьбой приостановить разработку систем ИИ

   © AP / Patrick Pleul
© AP / Patrick Pleul

Искусственный интеллект, превосходящий по своим показателям человеческий, может быть угрозой для общества, считают многие деятели в технологической сфере.

Необходимо временно прекратить разработку систем искусственного интеллекта, которые по мощности превосходят существующую GPT-4, представленную 14 марта текущего года. Открытое письмо об этом подписали Владелец Twitter, SpaceX и Tesla Илон Маск, сооснователь Apple Стив Возняк и ряд других деятелей в сфере технологий.

GPT-4 (Generative Pre-trained Transformer 4) представляет из себя большую языковую модель, которая была разработана американской компанией OpenAI. Ее официальный релиз состоялся 14 марта текущего года. Модель способна читать и анализировать тексты, а также генерировать до 25 тысяч слов. Одним из основателей компании-разработчика OpenAI является непосредственно Илон Маск.

"Мы призываем все лаборатории ИИ немедленно приостановить как минимум на шесть месяцев обучение всех ИИ систем, которые по мощности превосходят GPT-4", – отмечено в письме.

Там также сказано, что разработчики должны использовать эти полгода для проведения совместных разработок и введения протоколов безопасности для продвинутых систем. По мнению авторов письма, важно сконцентрироваться над обеспечением безопасности систем ИИ, сделать их более интерпретируемыми и транспарентными.

Также под открытым письмом поставили свои подписи сооснователь Skype Яан Таллинн, сооснователь Pinterest Эван Шарп, ряд профессоров из различных университетов и другие значимые деятели из области технологий.

"Системы ИИ с интеллектом, который может соревноваться с человеческим, могут предоставлять серьезный риск для общества и человечества, это обозначается в обширных исследованиях и признается лучшими ИИ лабораториями", – сказано в обращении.

Авторы письма выражают обеспокоенность тем, что на данном этапе стремительного развития технологий ИИ нет ресурсов, которые позволили бы в полной мере понять, предсказать или надежно контролировать эти системы. Отдельные современные разработки способны соревноваться в базовых задачах с людьми, что может привести к тому, что однажды системы полностью заменят человеческий ресурс.

В связи с этим, по мнению авторов письма, мощные системы искусственного интеллекта можно будет разрабатывать только после того, как общество будет уверено в их пользе и разработает механизм, позволяющий контролировать все риски.

Самые интересные и важные новости ищите в нашем Telegram-канале и Viber. Также следите за нами в Дзен!

Также на Sputnik: