ChatGPT o3 превращается в карманного детектива.
OpenAI представила новые модели ChatGPT с улучшенной способностью рассуждать на основе изображений, и пользователи быстро нашли для них неожиданное применение — определение геолокации по случайным фотографиям.
В соцсетях набирает обороты своеобразный челлендж: люди загружают снимки фасадов зданий, ресторанных меню, уличных сцен и даже селфи, а модель о3 отгадывает, где они были сделаны — иногда по мельчайшим деталям. При этом, как подчёркивают исследователи, ChatGPT не использует EXIF-метаданные, то есть скрытую информацию, которая обычно хранится в файлах фото и может напрямую указывать на местоположение.
Особенно активно о3 сравнивают с игрой GeoGuessr — там участникам нужно по кадрам из Google Street View угадать, где они находятся. Теперь ту же задачу решает нейросеть, и нередко с поразительной точностью. Так, один из пользователей показал, как ChatGPT определил библиотеку по фото за 20 секунд, а другой — как модель узнала бар по фиолетовой голове носорога на стене, несмотря на слабое освещение.
Однако не всё работает идеально. Иногда модель выдаёт совершенно неверные ответы или «зависает» в попытках проанализировать слишком неинформативное изображение. Тем не менее, даже с огрехами в работе, возможности вызывают тревогу — ведь теперь определить местоположение человека по фото стало гораздо проще, и это может использоваться во вред.
Тревогу вызывает и то, что ни в одном из официальных документов по безопасности новых моделей OpenAI прямо не затрагивает потенциальные риски подобного использования. Возможность «обратного поиска локации» по фото не ограничена — нейросеть пока не отказывается от таких запросов по умолчанию. Это открывает дорогу для злоупотреблений: злоумышленники могут, например, сохранить сторис из Instagram* и попытаться вычислить, где был человек.
Компания OpenAI, комментируя ситуацию спустя несколько часов после выхода первых публикаций, заявила, что о3 и o4-mini действительно обладают возможностями визуального анализа и могут быть полезны при решении задач в сфере доступности, научных исследованиях и при работе экстренных служб. Представители компании также утверждают, что были внедрены ограничения , запрещающие распознавание частных лиц и защиту личной информации. Однако, судя по примерам, приведённым пользователями, пока что ограничения легко обходятся — и это вызывает вопросы к реальной эффективности встроенных механизмов защиты.
Развитие таких возможностей у ИИ-моделей ставит на повестку новые вызовы в области цифровой приватности. Возможности алгоритмов, ещё недавно казавшиеся фантастикой, уже в руках широкой аудитории. Вопрос теперь в том, как быстро разработчики и регуляторы смогут отреагировать на возникающие риски — и будут ли меры достаточно жёсткими, чтобы остановить потенциальное вторжение в частную жизнь.
* Компания Meta и её продукты (включая Instagram, Facebook, Threads) признаны экстремистскими, их деятельность запрещена на территории РФ.