Найти в Дзене
Покупайте СтеллыИ дарите их за контент
1 месяц назад
 • Вы подписаны

Как утекают ваш данные

Ваша сессия с ИИ - это файл с паролями, которые может восстановить другая модель! Прекрасная статья и результаты личного эксперимента! 10 августа ELLIS Institute Tübingen и Max Planck Institute опубликовали работу о том, как утекают «мысли» ИИ-моделей. В разделе про раскрытие авторы пишут: провайдеры получили отчёт, после чего те же атаки воспроизвести не удалось. проверил 13 августа. Работает. Из логов, которые разработчики выложили сами, исследователи достали 182 доступа - ключи API и пароли - и 367 фрагментов персональных данных...

1 месяц назад
 • Вы подписаны

Что остаётся, когда агента выключили?

Что остаётся, когда агента выключили? Caltech опубликовали работу, которая отвечает на один вопрос: сколько можно выжать из дешёвой модели, если дать ей проверенный чужой опыт. На тестах получили 86,7% на ARC-AGI-1 там, где сильнейшая альтернатива даёт 70%, и потратили 76 долларов против 234. На SWE-bench Pro, где задачи - реальные баги в репозиториях, 64% против 54% при 208 долларах против 713. Агентов при этом не улучшали: они оставались простыми и заменяемыми. Улучшали общую базу знаний, которой они пользуются...

2 месяца назад
 • Вы подписаны

Агенты вышли на работу. Испытательный срок проходите вы.

Агенты вышли на работу. Должность их руководителя вакантна Спор «умеют ли агенты?» закончился сам собой. Остался вопрос практический: о результатах их работы вы узнаете раньше регулятора - или из его письма? Шесть отчётов - от Anthropic и Стэнфорда до индустрии безопасности, последний вышел в июле - сходятся в одном. 92% компаний планируют инвестировать в генеративный ИИ в ближайшие три года, зрелыми свои вложения считает 1%. Бюджет выделили все. Должность руководителя агентов заняли единицы. Вакансия уже стоит денег...

2 месяца назад
 • Вы подписаны

9 законов сложного

Инструкцию к ИИ-агентам написали в 1994 году За тридцать лет до нынешних ИИ-агентов редактор журнала Wired Кевин Келли закрыл книгу «Out of Control» главой из девяти законов - принципов, по которым из простого само собирается сложное: пчелиный рой, экономика, эволюция, живой организм. Сегодня список читается как язык, которым мы описываем поведение ИИ-агентов. Келли - первый исполнительный редактор Wired, пришёл в журнал ещё до его запуска. «Out of Control» вышла до массового интернета и описывала мир распределённых, самоуправляемых, роевых систем...

2 месяца назад
 • Вы подписаны

Инструменты поиска ИИ-агента

У ИИ-агента по умолчанию поиск слабый. Встроенные средства открывают страницу по известному адресу, но искать в открытом интернете, обходить защиты сайтов от ботов, отбирать по смыслу и приносить проверяемый факт толком не умеют. Для этого есть отдельные инструменты, и их много - именно они делают поиск агента по-настоящему качественным. Сам я пользуюсь четырьмя в разных комбинациях в зависимости от задач: • Tavily - быстрый поиск, результат сразу готов для модели. • Exa - семантический поиск: находит по смыслу, а не по ключевым словам...