Ваша сессия с ИИ - это файл с паролями, которые может восстановить другая модель! Прекрасная статья и результаты личного эксперимента! 10 августа ELLIS Institute Tübingen и Max Planck Institute опубликовали работу о том, как утекают «мысли» ИИ-моделей. В разделе про раскрытие авторы пишут: провайдеры получили отчёт, после чего те же атаки воспроизвести не удалось. проверил 13 августа. Работает. Из логов, которые разработчики выложили сами, исследователи достали 182 доступа - ключи API и пароли - и 367 фрагментов персональных данных...
Реймер | AI Трансформация бизнеса
Что остаётся, когда агента выключили?
Что остаётся, когда агента выключили? Caltech опубликовали работу, которая отвечает на один вопрос: сколько можно выжать из дешёвой модели, если дать ей проверенный чужой опыт. На тестах получили 86,7% на ARC-AGI-1 там, где сильнейшая альтернатива даёт 70%, и потратили 76 долларов против 234. На SWE-bench Pro, где задачи - реальные баги в репозиториях, 64% против 54% при 208 долларах против 713. Агентов при этом не улучшали: они оставались простыми и заменяемыми. Улучшали общую базу знаний, которой они пользуются...
Агенты вышли на работу. Испытательный срок проходите вы.
Агенты вышли на работу. Должность их руководителя вакантна Спор «умеют ли агенты?» закончился сам собой. Остался вопрос практический: о результатах их работы вы узнаете раньше регулятора - или из его письма? Шесть отчётов - от Anthropic и Стэнфорда до индустрии безопасности, последний вышел в июле - сходятся в одном. 92% компаний планируют инвестировать в генеративный ИИ в ближайшие три года, зрелыми свои вложения считает 1%. Бюджет выделили все. Должность руководителя агентов заняли единицы. Вакансия уже стоит денег...
9 законов сложного
Инструкцию к ИИ-агентам написали в 1994 году За тридцать лет до нынешних ИИ-агентов редактор журнала Wired Кевин Келли закрыл книгу «Out of Control» главой из девяти законов - принципов, по которым из простого само собирается сложное: пчелиный рой, экономика, эволюция, живой организм. Сегодня список читается как язык, которым мы описываем поведение ИИ-агентов. Келли - первый исполнительный редактор Wired, пришёл в журнал ещё до его запуска. «Out of Control» вышла до массового интернета и описывала мир распределённых, самоуправляемых, роевых систем...
Инструменты поиска ИИ-агента
У ИИ-агента по умолчанию поиск слабый. Встроенные средства открывают страницу по известному адресу, но искать в открытом интернете, обходить защиты сайтов от ботов, отбирать по смыслу и приносить проверяемый факт толком не умеют. Для этого есть отдельные инструменты, и их много - именно они делают поиск агента по-настоящему качественным. Сам я пользуюсь четырьмя в разных комбинациях в зависимости от задач: • Tavily - быстрый поиск, результат сразу готов для модели. • Exa - семантический поиск: находит по смыслу, а не по ключевым словам...
