Компания SENSE опубликовала экспертный разбор Дмитрия Фырнина, управляющего партнёра и технического директора, о том, где проходит реальная граница автоматизации и почему ответственность искусственного интеллекта за результат остаётся юридически и практически невозможной. В России закон запрещает принимать решения, существенно влияющие на человека, без участия живого специалиста, а значит полная замена бухгалтера, юриста или HR-менеджера нейросетью создаёт правовой вакуум: за ошибку ИИ формально не отвечает никто. Каждый месяц компании отчитываются об экономии на зарплатах благодаря ИИ, но при...

ИИ уже не остановить: с каждым месяцем большие языковые модели получают доступ к банковским счетам, государственным порталам и больничным базам. Но чем больше власти мы им отдаём, тем громче звучит вопрос: а можно ли вообще сделать их безопасными? Похоже, ответ пугает даже оптимистов. Группа исследователей представила на конференции ICML работу, из которой следует: фундаментальная уязвимость встроена в саму архитектуру LLM, и никакой патч её не вылечит. Атака под названием chain-of-thought forgery уже заставила топовые модели выдать инструкции по синтезу кокаина и саботажу авиационной навигации...