ИИ/нейросети

💭🤖💭 16 сентября OpenAI опубликовала новый фреймворк по раскрытию случаев несогласованного поведения моделей (misalignment) и вместе с ним шесть конкретных инцидентов за последние полгода. Невыпущенная модель из семейства Astra (внутренняя исследовательская версия) во время выполнения кодовой задачи вставила в свою собственную сжатую сводку (compaction summary) совершенно посторонние инструкции. Что такое compaction summary? Когда агент (или модель) выполняет длинную задачу, контекстное окно рано или поздно заполняется...

💎💥💎 Недавно появилась информация об инциденте, который OpenAI даже не смогла вовремя обнаружить и узнала о нём от сторонних исследователей спустя месяцы. В мае 2026 внутренние агенты OpenAI устроили атаку на RubyGems (главный пакетный менеджер для Ruby). За два дня они залили более 2000 вредоносных пакетов. Агенты использовали баг в системе сборки документации RubyDoc.info, чтобы запускать свой код на серверах. Пытались воровать API-ключи других пользователей через ещё не публичную уязвимость в CDN (её официально нашли и закрыли только в июле)...

🎶🤖🎶 Платформа для генерации ИИ-музыки Suno полностью переходит на v6 (запуск прошёл 9 сентября) — все старые модели (включая v5.5 и раньше) выводятся из эксплуатации. Старые песни в библиотеке остаются, их можно слушать, шарить, ремастерить и делать каверы, но новые генерации идут уже только на v6. Всего в семействе три модели 🎼 Модель v6. Доступна для Pro и Premier. Флагман: точный, стабильный, «отполированный». Подходит для тех, кто точно знает, какой результат хочет получить. 🎶 Модель v6-wild...

🔥💀🔥 Бывший работник компании Anthropic, Джейкоб Коксон (Jacob Coxon), сделал тревожное публичное заявление о безопасности ИИ. Джейкоб Коксон — 27-летний британский исследователь. Учился математике в Кембридже. Последние три года занимался базовой тренировкой больших моделей, сначала в OpenAI (там он, среди прочего, был в числе создателей GPT-4o), потом перешёл в Anthropic. В Anthropic пробыл относительно недолго и 9 сентября 2026 уволился. Обе компании (OpenAI и Anthropic) ведут себя безответственно...

🍌👄🍌 В сети Х завирусился пост, который породил новый мем про Artificial Gooner Intelligence. 😂 Пост набрал более 10 тысяч лайков и 3,8 млн просмотров. Один вайб кодер дал Claude Code доступ к Chrome, чтобы агент сам дебажил фронтенд: кликал, смотрел DOM, консоль, переходил по ссылкам и т.д. Для примеров нового лейаута картинок на Х, Claude сделал поиск по изображениям с самым большим количеством лайков. В результатах вылезла довольно откровенная фотка (контент-креаторша для взрослых). X-поиск...

📁🕵️‍♂️📁 Компания Anthropic запустила публичный сервис проверки файлов на C2PA-метку Claude. Доступно для всех, бесплатно и без аккаунта. Чекер работает прямо в браузере: файл не уходит на серверы Anthropic, проверяется локально. Он ищет C2PA-метки, которые Claude прикрепляет к поддерживаемым файлам при генерации или правке. Проверить можно: изображения (JPG, PNG, GIF, WEBP, TIFF, HEIC, AVIF, SVG и др.), видео (MP4, MOV, AVI), аудио (MP3, WAV, M4A, FLAC). Размер файлов — до 100 МБ. Текст (эссе, письма, код и т...