По информации газеты, исследователи боролись за то, чтобы работа систем искусственного интеллекта оставалась прозрачной
НЬЮ-ЙОРК, 23 октября. /ТАСС/. Американская компания OpenAI, разработавшая ChatGPT, уволила трех исследователей в области безопасности за ненадлежащее обращение с конфиденциальной информацией. Как сообщает газета The Wall Street Journal, они боролись за то, чтобы работа систем искусственного интеллекта оставалась прозрачной и чтобы сторонние наблюдатели могли ее изучать.
Как отмечает издание, OpenAI вызвала на совещание работавших в компании трех исследователей в области безопасности и попросила их разблокировать свои личные телефоны. Руководство подозревало их в утечке информации внешнему исследователю безопасности ИИ об одном из самых тщательно охраняемых секретов OpenAI - внутренней структуре моделей искусственного интеллекта. Когда сотрудники службы безопасности осмотрели телефоны, они обнаружили, что некоторые из исследователей включили функцию исчезающих сообщений в своих чатах с этим собеседником в приложении Signal. Позже они были уволены.
Компания OpenAI сообщила The Wall Street Journal, что уволила трех исследователей после того, как внутреннее расследование выявило, что они нарушили "четкие правила обращения с конфиденциальной информацией", а не "выражали опасения по поводу безопасности или высказывали свое мнение". Уволенные исследователи заявили, что выражали обеспокоенность внутри OpenAI по поводу потенциальных новых разработок в области ИИ или "архитектур", которые могли бы ускорить развитие возможностей, но при этом сделать системы еще сложнее для понимания или управления.
Ранее газета Financial Times писала, что сотрудники ведущих мировых компаний и учреждений, занимающихся искусственным интеллектом, все чаще страдают от психологического напряжения, связанного с работой над системами, которые, по их мнению, могут нанести серьезный вред обществу. 12 сентября глава Anthropic Дарио Амодеи опубликовал статью с призывом замедлить темпы развития передовых ИИ-моделей. Он считает, что за счет координированного замедления скорости работы над передовыми технологиями ИИ-компании смогут выиграть один-два года дополнительного времени, прежде чем модели достигнут критических уровней развития, и избежать серьезных просчетов. Генеральный директор OpenAI Сэм Альтман позднее допустил возможность создания ИИ, неподконтрольного человеку.