Компания Meta (признана экстремистской организацией и запрещена в РФ) протестировала функцию ИИ-ассистента Muse, при которой часть телефонных звонков могли выполнять сотрудники-подрядчики вместо искусственного интеллекта. Об этом 22 сентября сообщило агентство Reuters со ссылкой на внутренние сообщения компании.
«Мы сотрудничаем с продавцами, чтобы продолжать совершенствовать эту потенциальную функцию звонков, и выпустим ее только тогда, когда она будет готова, и при условии надлежащего информирования пользователей», — заявил представитель Meta Дэниел Робертс.
По данным Reuters, тест был запущен после того, как пользователи столкнулись с проблемами при использовании функции звонков Muse. Сотрудники компании выразили опасения, что участие операторов может создать риски для конфиденциальности, поскольку подрядчики получают доступ к части информации из разговоров.
В Meta признали, что запуск тестирования с участием людей без предварительного информирования пользователей был ошибкой. Компания сообщила о временной приостановке функции, при этом отметив, что участие операторов позволяло повысить эффективность выполнения задач до 95–98%.
Газета The New York Times 11 сентября сообщила, что Anthropic в 2026 году предотвратила несколько попыток использования своих моделей искусственного интеллекта для проведения исследований, которые могли способствовать разработке биологического оружия.
Генеральный директор компании OpenAI Сэм Альтман 14 сентября заявил, что прогресс ИИ может пойти по двум крайне опасным сценариям, которых человечеству необходимо во что бы то ни стало избежать. Первой глобальной угрозой Альтман назвал потенциальный риск полной потери контроля над будущим в пользу развивающихся систем. Второй критической проблемой глава OpenAI считает вероятную и чрезмерную концентрацию безграничной власти в одних руках.