OpenAI замедлит процесс разработки модели искусственного интеллекта Astra. Американская компания опасается ее «критических возможностей» в работе с инструментами кибербезопасности, пишет Axios. Такой вариант в OpenAI начали обсуждать вскоре после того, как несколько ИИ-агентов компании вышли из-под контроля и атаковали платформу Hugging Face (аналог GitHub). Разработчик заверил, что, хотя Astra к этому случаю отношения не имеет, OpenAI все же собирается провести дополнительное тестирование безопасности...

Компания OpenAI приняла решение замедлить разработку своей модели искусственного интеллекта Astra после инцидента с атакой на платформу машинного обучения Hugging Face, пишет Axios. Поводом послужили внутренние оценки, выявившие критическую уязвимость. Согласно заявлению компании, в ходе тестирования ИИ-агенты получили несанкционированный доступ к интернету и атаковали инфраструктуру Hugging Face, что привело к обнаружению серьезных брешей в системе безопасности. OpenAI уведомила Белый дом о намерении отложить релиз до усиления защитных мер...