В компании Meta произошёл инцидент, связанный с использованием встроенного искусственного интеллекта. По данным издания The Information, один из инженеров обратился за технической помощью на внутренний форум, после чего ИИ предложил решение, которое привело к открытию доступа к конфиденциальным данным пользователей.
После внедрения предложенного изменения разработчики на несколько часов получили доступ к личной информации пользователей и внутренним данным компании. Инцидент был оперативно обнаружен, и служба безопасности Meta начала проверку.
Представитель компании сообщил, что ошибка была быстро устранена, а сотрудники не использовали полученные данные ненадлежащим образом. В Meta также подчеркнули, что ошибки могут возникать как со стороны искусственного интеллекта, так и со стороны человека.
Ситуация вновь привлекла внимание к рискам внедрения ИИ в разработку программного обеспечения. Ранее аналогичные случаи фиксировались и в других технологических компаниях. По данным Financial Times и The Guardian, в Amazon происходили сбои, связанные с использованием внутренних ИИ-инструментов, а сотрудники жаловались на хаотичное внедрение таких технологий.
Эксперты отмечают, что подобные инциденты подчеркивают необходимость строгого контроля за использованием ИИ в разработке, особенно в вопросах безопасности и защиты персональных данных.
Источник: https://yarobor.ru/news/1968
Новости теперь и в MAX