Google DeepMind будет обучать ИИ в космической песочнице EVE Online
Google DeepMind, исследовательская лаборатория в области искусственного интеллекта (входит в холдинг Alphabet), приобрела миноритарную долю в разработчике популярного научно-фантастического симулятора EVE Online, планируя использовать игру для изучения «искусственного интеллекта в сложных, динамичных, управляемых игроками системах».
Как сообщает Ars Technica, соглашение о партнёрстве в области исследований было заключено после того, как разработчик EVE Online, компания CCP Games выкупила свою долю у бывших владельцев из южнокорейского издательства Pearl Abyss (Crimson Desert), чтобы далее работать в качестве независимой компании под новым брендом Fenris Creations. DeepMind и Fenris Creations указали в совместном заявлении, что EVE Online представляет собой «уникально богатую среду для исследований», особенно, когда речь идёт о разработке систем ИИ, использующих «долгосрочное планирование, память и непрерывное обучение». DeepMind сообщила, что проведёт контролируемые эксперименты со своими моделями в специально разработанной офлайн-версии игры, работающей на локальном сервере, без прямого влияния на игровой процесс для онлайн-игроков. Обе компании «также изучат новые игровые возможности, которые станут доступны благодаря этим технологиям».
Google DeepMind и ранее использовала игры для проверки моделей машинного обучения, такие, как Го, Atari VCS и StarCraft. В последнее время компания использует модели «виртуального мира» для обучения ИИ-систем работе в физической реальности.
Изучение EVE позволит моделям Google DeepMind исследовать «сложные проблемы, длительные временные рамки и новые возможности». И в поиске Google теперь читает Reddit — и цитирует оттуда экспертные мнения
Бороться со своими дипфейками на YouTube теперь может любой желающий
YouTube расширила свою программу обнаружения сходства в созданных искусственным интеллектом материалах на почти неограниченный круг пользователей платформы — запустить систему поиска вероятных дипфейков с использованием своего лица теперь может любой желающий старше 18 лет. Чтобы начать работу с новой функцией, пользователю требуется сделать селфи — система YouTube сканирует лицо человека и ищет совпадения в видеоматериалах на платформе. Обнаружив совпадение, она оповещает соответствующего пользователя, и тот может запросить удаление контента — число таких запросов «очень невелико», сообщили ранее в администрации YouTube.
Первоначально поиск дипфейков был доступен только видеоблогерам; далее программу расширили на чиновников, политиков, журналистов и представителей индустрии развлечений. Теперь она открыта для всех лиц старше 18 лет. Запросы на удаление контента обрабатываются в соответствии с политикой конфиденциальности YouTube: учитываются такие аспекты как реалистичность материала, маркировка контента как созданного ИИ, а также возможность однозначно идентифицировать человека. Система срабатывает только на сходство по лицу, а не по любым иным признакам, включая голос; в качестве исключений выступают сатирические и пародийные проекты. Пользователь может выйти из программы, и YouTube удалит его данные.
С этим расширением программы становится ясно, что независимо от того, загружают ли блогеры контент на YouTube уже десять лет или только начинают, у них есть доступ к одинаковому уровню защиты.
ИИ в поиске Google теперь читает Reddit — и цитирует оттуда экспертные мнени
Компания Google анонсировала масштабное обновление поисковой системы, которое изменит формат ИИ-обзоров (AI Overviews). Теперь в ответах нейросети будут появляться прямые цитаты из публичных обсуждений на форумах, в соцсетях и блогах, включая Reddit, а также ссылки на материалы из платных новостных подписок пользователя. Ответы искусственного интеллекта будут включать превью мнений из публичных онлайн-дискуссий и первоисточников, сопровождая их именами авторов или названиями сообществ и направлены на помощь пользователям в поиске советов и личных мнений, которые часто ищут, добавляя слово «Reddit» к своим запросам.
Когда Google впервые дополнила свой поиск ответами нейросести, то пользователи восприняли это неоднозначно, быстро обнаружив, что ИИ не распознаёт сарказм и ссылается на сомнительные источники. Например, в одном из случаев ИИ посоветовал съедать «один маленький камень в день», опираясь на публикацию сатирического издания The Onion, а в другом — предложил добавить в пищу клей, используя пост с Reddit.
Несмотря на значительные улучшения ИИ-алгоритмов, проблема галлюцинаций остаётся актуальной для технологий, основанных на больших языковых моделях (LLM). Недавно газета The New York Times выявила, что ИИ-обзоры дают верные ответы в девяти случаях из десяти. Однако для поисковой системы, обрабатывающей триллионы запросов ежегодно, даже небольшой процент ошибок означает сотни тысяч неточных результатов каждую минуту, создавая по факту риски для пользователей, ищущих объективную информацию, особенно в чувствительных темах, где цена ошибки может быть высока.
Найден новый способ обхода шифрования Google Chrome для кражи паролей
Создатели трояна VoidStealer обнаружили способ обходить шифрование Google App-Bound Encryption (ABE) для кражи учётных данных из браузера Chrome и его производных под Windows, обратили внимание эксперты «Лаборатории Квсперского».
В июле 2024 года Google представила технологию ABE для защиты данных в Chrome и других браузерах на той же платформе, в том числе Microsoft Edge, Opera, Vivaldi и Brave. При работе Chrome в Apple macOS за защиту данных отвечает системная служба Keychain, в Linux также есть аналогичные средства, а вот в Windows инструменты Data Protection API (DPAPI) не обеспечивают достаточной защиты файлов cookie и паролей от доступа вредоносных приложений, маскирующихся под запросы легитимных пользователей. Технология ABE была призвана решить эту проблему — она позволяет производить расшифровку только самому приложению Chrome, а не любому другому процессу, даже если он запущен от имени пользователя. В действительности эту защиту взломали довольно быстро — так появились трояны Meduza Stealer, Whitesnake, Lumma Stealer и Lumar, которые успешно собирали файлы cookie и другие данные из Chrome. Собственные способы делать это выработали и исследователи в области кибербезопасности. Алекс Хагена (Alex Hagenah), например, предложил схему, в которой сочетаются бесфайловое выполнение кода напрямую в памяти, внедрение процессов, прямые системные вызовы и другие скрытые способы; в минувшем году была разработана техника атаки C4, позволяющая добиться того же результата даже пользователю с низкими привилегиями.
Разработчики трояна VoidStealer предложили новую схему. Ключевым этапом является момент, в который Chrome для расшифровки данных извлекает ключ шифрования в открытом виде в памяти браузера. Вредоносная программа подключается к нему под видом отладчика — легитимного механизма для устранения неполадок — определяет момент, когда начинает производиться расшифровка, и приостанавливает процесс. В результате злоумышленник извлекает ключ шифрования непосредственно из памяти, обходя тем самым средства защиты. Возникновение этой схемы подтверждает, что браузеры становятся популярной целью атак у киберпреступников. Предприятия всё чаще переносят свои рабочие процессы в веб-приложения, и взлом браузеров открывает доступ к токенам аутентификации, учётным данным, финансовой информации и другим сведениям конфиденциального характера.
Искусственный интеллект от OpenAI сокрушил 80-летнюю математическую гипотезу Пауля Эрдёша
Нейросеть нашла неожиданное решение сложнейшей геометрической задачи, с которой 40 лет не могли справиться лучшие умы человечества. Модель от OpenAI опровергла знаменитую 80-летнюю математическую гипотезу, которая долгое время оставалась недосягаемой для величайших учёных мира. Результат работы авторского коллектива под руководством Нога Алона буквально потряс научное сообщество. Профессор Тим Гауэрс из Кембриджского университета назвал это событие вехой в истории компьютерной математики, добавив, что если бы авторами статьи были люди, то работу без колебаний приняли бы в престижнейший журнал Annals of Mathematics.
Речь идёт о задаче единичных расстояний на плоскости (planar unit distance problem). Выдающийся математик XX века Пауль Эрдёш считал её своим самым ярким вкладом в геометрию именно из-за обманчивой простоты формулировки при колоссальной сложности ответа. Задача звучит так: если взять бесконечный лист бумаги и нанести на него любое количество точек в произвольном порядке, то какое максимальное количество отрезков одинаковой длины можно провести между этими точками?
Сам Эрдёш предполагал, что наиболее выгодным расположением точек является строгая квадратная решётка (сетка), а значит, максимальное число связей-отрезков будет лишь немногим превышать количество самих точек. Последний раз учёным удавалось незначительно продвинуться в уточнении этого верхнего предела более 40 лет назад. Однако нейросеть от OpenAI доказала, что великий математик кардинально ошибался: точки можно расположить в гораздо менее симметричных паттернах, что даёт в разы большее количество одинаковых связей.
Разработчики из OpenAI пока что не раскрывают архитектуру модели и методы её обучения, но подчёркивают, что это ИИ общего назначения, который не создавался специально для академических математических исследований. Для решения задачи алгоритм применил метод из алгебраической теории чисел — раздела математики, изучающего свойства целых чисел с помощью алгебраических структур. ИИ построил гигантские решётки в пространствах гораздо более высоких измерений, чем обычная двумерная плоскость, а затем «схлопнул» эти многомерные фигуры обратно в два измерения, получив их плоскую проекцию.
Найденный моделью контрпример чрезвычайно сложен. Хотя отдельные идеи для его создания уже встречались в профильной литературе, потребовалась истинная изобретательность, чтобы объединить их в работающее доказательство. Самуэль Мэнсфилд (Samuel Mansfield) из Манчестерского университета добавляет, что люди не могли прийти к этому, поскольку геометры редко обладают глубокими познаниями в продвинутой теории чисел одновременно. Для решения требовался междисциплинарный синтез, в чём искусственный интеллект оказался силён.
Учёные признаются, что масштаб открытия сначала вызвал у них шок и недоверие. Профессор Миша Руднев (Misha Rudnev) из Бристольского университета лаконично назвал это решение «абсолютной бомбой, которую он не рассчитывал увидеть при своей жизни». Примечательно, что человечеству не потребовалось много времени, чтобы полностью осмыслить и перенять логику модели. Практически сразу после публикации Уилл Савин (Will Sawin) из Принстонского университета использовал открытый нейросетью метод, чтобы ещё сильнее улучшить показатель максимального количества соединяемых точек.
Хотя сама геометрическая задача Эрдёша представляет собой скорее фундаментальный «чистый интеллектуальный вызов» и вряд ли мгновенно изменит другие смежные дисциплины, её решение создало прецедент. Главная ценность работы — это демонстрация способности искусственного интеллекта гибко связывать абстрактные концепции из далёких друг от друга областей науки. Доказанный метод трёхмерного проецирования многомерных математических объектов открывает перед исследователями новые инструменты для работы с Big Data, кристаллографией и сложными сетевыми структурами.