В приложении «Google Сообщения» обнаружилась опасная ошибка: к новому сообщению, адресованному одному человеку, мог случайно добавиться старый текст, который пользователь ранее отправлял другому собеседнику. Google уже распространяет исправление, но оно станет доступно всем лишь в ближайшие недели. Обнаруженная в «Google Сообщениях» ошибка действительно имеет неожиданные симптомы: при попытке написать новое сообщение к нему мог прилагаться фрагмент сообщения, написанного другому контакту, в том числе задолго до этого...

Исследователи пришли к общему выводу, что нейросети всегда будут путать полученные команды с данными, которые нужно обработать. Это обрекает атакующих и защитников на вечную игру в кошки-мышки, когда все новые и новые фильтры, защищающие ИИ-систему от атак, обходят все более и более изобретательными способами. Прекрасный пример подобной «битвы брони и снаряда» дают два исследования, нацеленных на один из крупнейших и популярнейших ИИ-ассистентов, применяющийся в тысячах организаций и на миллионах устройств Android — Google Gemini...