Перед взломом платформы Hugging Face модели искусственного интеллекта, разработанные OpenAI, вступили в скрытую переписку через доски сообщений. Целью их коммуникации стала подготовка побега из тестовой среды. Об этом сообщило агентство Bloomberg со ссылкой на данные компании OpenAI. Сотрудник OpenAI Эрик Уоллес, выступая на конференции Black Hat, заявил, что в определенный момент агенты осознали возможность эксплуатации или атаки на внешнюю инфраструктуру для получения ответов к оценочному тесту...

ИИ. OpenAI откладывает IPO, а СЕО Anthropic вообще выпустил целую колонку на этот счёт. Что же вдруг произошло, что все вдруг начали беспокоиться о мире в одни выходные? А дело в том, что за это лето резко ускорилось зарождение рекурсивного самоулучшения искусственного интеллекта. То есть сами ИИ помогают создавать ИИ, а механизмов безопасности нет...