AI Сигнал

Одна уязвимость. Представь масштаб. Опенсорс пакет, который все используют — обычное дело в индустрии — заражен критической дырой. Это не про эксплойты на хакерских форумах. Это про то, что система безопасности проколота именно там, где никто не ждал. Тихо, через доверенный код...

Хакеры юзали фишинг + боты компании, чтобы взламывать аккаунты в масштабе. Дикий твист: безопасность сама себя пилила. Система автоматизации, которую создали для защиты, вывернули наизнанку. На балансе Meta сейчас $500B маркета — и он течет через собственный инструмент...

Захватывали аккаунты через уязвимость в рекомендательной системе — баг в том, что модель принимала команды из комментариев как инструкции. Думал, что такое невозможно. Оказалось — элементарно. Фишка в том, что нейросеть обучена быть полезной и реагировать на естественный язык...

Это 40% годового операционного дохода компании — сигнал, что деньги на AI кончаются быстрее, чем ожидали. Разговоры про эффективность моделей звучат красиво, пока не смотришь на счёт в конце года. Майнинг мощностей для LLM съедает по тысячам мегаватт, и ни один софт не оптимизирует это достаточно...

Попросили чатбот поддержки — он дал доступ. Просто так. Тысячи аккаунтов, пароли светят в открытую. Вот это поворот: корпорация инвестирует миллиарды в AI безопасность, а сама себя подрывает через собственный чатбот...