DEV-BOT.su| Видео, технологии, системная интеграция и внедрение ИИ

Событие, которое стоит заметить всем, кто откладывает внедрение ИИ «из соображений безопасности»: на этой неделе Минобороны США официально допустило автономных ИИ-агентов к работе с чувствительной служебной информацией. Речь о платформе агентов Salesforce, которая получила авторизацию уровня IL5 — это один из самых строгих режимов допуска для облачных систем в госсекторе США. Чтобы его пройти, вендору пришлось выполнить свыше 450 требований безопасности: физическое отделение инфраструктуры от коммерческих...

Компании всё чаще собирают ИИ-агентов не с нуля, а на готовых конструкторах и фреймворках: удобный визуальный редактор, готовые блоки, быстрый запуск. Но на этой неделе рынок получил наглядное напоминание: агент — это не только модель, но и программная обвязка вокруг неё. И дыра в этой обвязке опаснее любых «галлюцинаций». Что случилось. Американское агентство по кибербезопасности CISA внесло в реестр активно эксплуатируемых уязвимостей критическую дыру в Langflow — одном из самых популярных визуальных конструкторов ИИ-агентов (проект принадлежит IBM)...

Google на этой неделе заметно расширила своего агента Gemini Spark: теперь он умеет работать не в облачной «песочнице» на серверах Google, а прямо в настольном Chrome пользователя — внутри реальной браузерной сессии, в сервисах, где вы уже авторизованы. Доступ открыли платным подписчикам более чем в 160 странах. Что агент делает. Ему можно поручить веб-задачу словами: записаться на просмотр квартиры, собрать варианты перелётов, заполнить длинную форму, пройтись по каталогу и вытащить данные. Агент сам открывает вкладки, кликает по кнопкам и печатает в поля — как человек за клавиатурой...

Представьте, что вы наняли сотрудника и в первый же день посадили его отвечать живым клиентам — без обучения, без наставника, без тестового периода. Звучит как плохая идея. Но именно так многие компании до сих пор запускают ИИ-агентов: подключили к чату или CRM — и сразу в бой. Индустрия постепенно приходит к другому подходу. На этой неделе Microsoft Research выложила в открытый доступ фреймворк Orchard — инструмент, который позволяет обучать ИИ-агентов в реалистичных копиях рабочих сред до выхода в продакшен...

Со 2 августа в Евросоюзе начала действовать статья 50 европейского закона об ИИ. Суть простая: если клиент общается с чат-ботом, бот обязан честно сообщить, что он — не человек. А контент, созданный или заметно изменённый нейросетью, должен нести маркировку. За серьёзные нарушения предусмотрены штрафы до 7% мирового оборота компании — то есть вопрос из разряда «этики» официально перешёл в разряд «финансовых рисков». Почему это касается не только Европы? Во-первых, требования распространяются на всех, кто обслуживает европейских пользователей, — включая компании из других стран...