Илон Маск, Стив Возняк и более тысячи других известных имён в сфере искусственного интеллекта и IT выступили с призывом на ввод запрета продолжительностью в полгода на обучение систем искусственного интеллекта. Речь идёт не обо всех системах, а только о тех, возможности которых превосходят недавно представленную GPT-4. Специалисты полагают, что если подобные нейросети станут слишком умными, человечество может пожалеть об этом.
Письмо было опубликовано некоммерческим институтом Future of Life. В нём говорится, что прежде чем делать следующие шаги в обучении ИИ, следует создать стандарты безопасности, за применение которых будут отвечать независимые организации.
По мнению экспертов, продвинутые системы ИИ следует разрабатывать не раньше, чем человечество будет уверенно в пользе этого и возможности справиться с рисками. Если таких возможностей не будет, результатом могут стать потрясения в экономике и политике разных стран и мира в целом.
На днях Европол предупредил об опасностях применения злоумышленниками систем вроде ChatGPT. Преступники могут использовать их для дезинформации, взлома, фишинга и прочих противоправных действий. Принадлежащая Илону Маску компания Tesla применяет ИИ в системах автопилота, но это не мешает ему выражать беспокойство относительно развития подобных технологий.
Подобные опасения усилились после появления чат-бота ChatGPT. Чтобы не отстать от конкурентов, многие гиганты IT занялись созданием аналогов. Есть вероятность, что в погоне за прибылями разработчики могут забыть о безопасности.