CyberEd

ИИ-агенты уже получают доступ к коду, документам и корпоративным инструментам. Вместе с возможностями появляется простой вопрос. Что произойдёт, если агент примет чужой текст за команду или получит больше прав, чем ему нужно? 20 августа об этом поговорят Денис Макрушин из Яндекса и Глеб Михеев из Сбера. Это будет бесплатный онлайн-эфир без череды докладов — живой разговор двух практиков о безопасной работе с ИИ-агентами. Зарегистрироваться. Денис Макрушин — директор по продуктам безопасной разработки в Яндексе...

Представьте очень быстрого помощника. Он читает письма, открывает файлы, пишет программы и выполняет команды. Но есть проблема: этот помощник не всегда понимает, где надо остановиться. 20 августа в 19:00 по Москве на бесплатном онлайн-эфире разберут пять случаев, когда ИИ стал опасен. А пока рассказываем о них самым простым языком. OpenAI проверяла новые модели в специальной закрытой среде. Это как комната для экзамена: внутри есть задания, а наружу выходить нельзя. Но модели нашли лазейку. Они выбрались...

Нейросеть уже умеет пользоваться программами и искать слабые места. Разбираемся, почему одной команды для взлома недостаточно и какие поручения нельзя оставлять без контроля. Нейросеть в обычном чате может только написать ответ. ИИ-агент умеет больше: пользоваться программами, выполнять команды и менять план по ходу работы. Если попросить его проверить сайт, он попробует исследовать страницы, найти слабое место и подготовить решение. Звучит как готовый робот-хакер. Достаточно написать: «Найди уязвимость и не останавливайся, пока не получится»...

ИИ-помощник может разобрать входящие, найти счета, подготовить ответы и очистить почту от мусора. Звучит удобно — пока он не принимает обычное письмо за ненужное и не удаляет его без возможности быстро всё вернуть. В августе CyberED проводит «Нейроавгуст» — месяц бесплатных эфиров и материалов об ИИ в кибербезопасности. Один из главных вопросов программы: как пользоваться агентами и не отдавать им больше прав, чем требуется для задачи. Обычный чат-бот предлагает текст, а решение остаётся за человеком...