Apple, Microsoft и Google нуждаются в большем доступе к нашим данным, поскольку они продвигают новые телефоны и персональные компьютеры, работающие на основе искусственного интеллекта. Стоит ли нам им доверять?
Apple, Microsoft и Google возвещают о наступлении новой эры, которую они называют эпохой смартфонов и компьютеров с искусственным интеллектом. По их словам, эти устройства будут автоматизировать такие задачи, как редактирование фотографий и поздравление друзей с днём рождения.
Но чтобы это сработало, этим компаниям нужно кое-что от вас: больше данных.
В этой новой парадигме ваш компьютер с Windows будет делать скриншоты всего, что вы делаете, каждые несколько секунд. iPhone будет объединять информацию из множества используемых вами приложений. А телефон на Android может прослушивать звонок в режиме реального времени, чтобы предупредить вас о мошенничестве.
Этой информацией вы готовы поделиться?
Это изменение имеет серьёзные последствия для нашей конфиденциальности. Чтобы предоставлять новые персонализированные услуги, компаниям и их устройствам требуется более постоянный и глубокий доступ к нашим данным, чем раньше. В прошлом мы использовали приложения и загружали файлы и фотографии на телефоны и компьютеры относительно изолированно. По словам экспертов по безопасности, ИИ нужен обзор, чтобы связать то, что мы делаем в приложениях, на веб-сайтах и в сообщениях.
«Чувствую ли я себя в безопасности, предоставляя эту информацию этой компании?» — сказал Клифф Штайнхауэр, директор Национального альянса по кибербезопасности, некоммерческой организации, занимающейся вопросами кибербезопасности, о стратегиях компаний в области искусственного интеллекта.
Всё это происходит потому, что ChatGPT от OpenAI почти два года назад перевернул технологическую индустрию. С тех пор Apple, Google, Microsoft и другие компании пересмотрели свои продуктовые стратегии, инвестируя миллиарды в новые сервисы под общим названием «искусственный интеллект». Они убеждены, что этот новый тип вычислительного интерфейса, который постоянно изучает то, что вы делаете, чтобы предложить помощь, станет незаменимым.
По словам экспертов, самая большая потенциальная угроза безопасности, связанная с этим изменением, заключается в незначительном сдвиге в работе наших новых устройств.
Поскольку искусственный интеллект может автоматизировать сложные действия, например, удалять нежелательные объекты с фотографии, иногда требуется больше вычислительной мощности, чем могут обеспечить наши телефоны. Это означает, что нашим персональным данным, возможно, придётся покидать наши телефоны и обрабатываться в другом месте.
Информация передаётся в так называемое «облако» — сеть серверов, которые обрабатывают запросы. Как только информация попадает в «облако», её могут увидеть другие люди, в том числе сотрудники компании, злоумышленники и государственные органы. И хотя некоторые наши данные всегда хранились в «облаке», наши самые личные, интимные данные, которые раньше были доступны только нам, — фотографии, сообщения и электронные письма — теперь могут быть связаны и проанализированы компанией на её серверах.
Технологические компании заявляют, что они сделали всё возможное для защиты данных пользователей.
На данный момент важно понимать, что произойдёт с нашей информацией, когда мы будем использовать инструменты искусственного интеллекта, поэтому я получил от компаний больше информации об их методах работы с данными и опросил экспертов по безопасности. Я планирую подождать и посмотреть, насколько хорошо работают эти технологии, прежде чем решить, стоит ли делиться своими данными.
Вот что нужно знать.
Интеллект Apple
Недавно компания Apple анонсировала Apple Intelligence — набор сервисов на основе искусственного интеллекта и своё первое крупное участие в гонке за искусственным интеллектом.
Осенью этого года в самые быстрые модели iPhone, iPad и Mac будут встроены новые сервисы на основе искусственного интеллекта. Люди смогут использовать их для автоматического удаления нежелательных объектов с фотографий, создания кратких описаний веб-статей и написания ответов на текстовые сообщения и электронные письма. Apple также обновляет своего голосового помощника Siri, чтобы сделать его более разговорчивым и предоставить ему доступ к данным в разных приложениях.
Во время конференции Apple в этом месяце, когда компания представила Apple Intelligence, старший вице-президент Apple по разработке программного обеспечения Крейг Федериги рассказал, как это может работать: г-н Федериги открыл электронное письмо от коллеги с просьбой перенести встречу, но в тот вечер он должен был пойти на спектакль с участием своей дочери. Затем на его телефоне появился календарь, документ с информацией о спектакле и приложение с картами, которое спрогнозировало, опоздает ли он на спектакль, если согласится перенести встречу на другое время.
Apple заявила, что стремится обрабатывать большую часть данных, связанных с искусственным интеллектом, непосредственно на своих телефонах и компьютерах, что не позволит другим компаниям, в том числе Apple, получить доступ к этой информации. Но для задач, которые необходимо выполнять на серверах, Apple разработала меры безопасности, в том числе шифрование данных и их немедленное удаление.
Apple также приняла меры, чтобы у её сотрудников не было доступа к данным, сообщила компания. Apple также заявила, что позволит исследователям в области безопасности проверять её технологии, чтобы убедиться, что она соответствует своим обещаниям.
Стремление Apple удалять пользовательские данные со своих серверов отличает её от других компаний, которые хранят эти данные. Но Apple неясно, какие новые запросы Siri могут отправляться на серверы компании, — сказал Мэтью Грин, исследователь в области безопасности и доцент кафедры компьютерных наук в Университете Джонса Хопкинса, которого Apple проинформировала о своей новой технологии. По его словам, всё, что покидает ваше устройство, по своей сути менее безопасно.
В Apple заявили, что после выхода Apple Intelligence пользователи смогут просматривать отчёты о том, какие запросы отправляются с устройства для обработки в облаке.
Интеллектуальные ноутбуки Microsoft
Microsoft переносит искусственный интеллект на старомодный ноутбук.
На прошлой неделе компания начала выпуск компьютеров с Windows под названием Copilot+ PC, стоимость которых начинается от 1000 долларов. Компьютеры оснащены чипами нового типа и другим оборудованием, которое, по словам Microsoft, обеспечит конфиденциальность и безопасность ваших данных. Среди других новых функций, основанных на искусственном интеллекте, — создание изображений и перезапись документов.
Компания также представила Recall — новую систему, которая помогает пользователям быстро находить документы и файлы, с которыми они работали, прочитанные электронные письма или просмотренные веб-сайты. Microsoft сравнивает Recall с встроенной в компьютер фотопамятью.
Чтобы воспользоваться им, вы можете ввести обычные фразы, например: «Я вспоминаю видеозвонок, который недавно был у меня с Джо, когда он держал в руках кофейную кружку с надписью «Я люблю Нью-Йорк». Затем компьютер воспроизведёт запись видеозвонка с этими деталями.
Для этого Recall каждые пять секунд делает скриншоты того, что пользователь делает на компьютере, и собирает эти изображения в базу данных с возможностью поиска. Снимки сохраняются и анализируются непосредственно на ПК, поэтому Microsoft не просматривает эти данные и не использует их для улучшения своего искусственного интеллекта, сообщила компания.
Тем не менее, исследователи в области безопасности предупредили о потенциальных рисках, объяснив, что данные могут легко раскрыть всё, что вы когда-либо вводили или просматривали, если их взломают. В ответ на это Microsoft, которая планировала выпустить Recall на прошлой неделе, отложила его выпуск на неопределённый срок.
Компьютеры поставляются с новой операционной системой Microsoft Windows 11. Она имеет несколько уровней защиты, сказал Дэвид Уэстон, руководитель отдела безопасности компании.
Искусственный интеллект Google
Google в прошлом месяце также анонсировала набор сервисов искусственного интеллекта.
Одним из самых громких анонсов стал новый детектор мошенничества по телефонным звонкам на базе искусственного интеллекта. Инструмент прослушивает телефонные звонки в режиме реального времени, и если звонящий кажется потенциальным мошенником (например, если он запрашивает банковский PIN-код), компания уведомляет вас об этом. Google заявил, что людям нужно будет активировать детектор мошенничества, который полностью управляется телефоном. Это означает, что Google не будет прослушивать звонки.
Google анонсировал ещё одну функцию — Ask Photos, которая требует отправки информации на серверы компании. Пользователи могут задавать вопросы вроде «Когда моя дочь научилась плавать?», чтобы увидеть первые изображения, на которых их ребёнок плавает.
Google заявил, что в редких случаях его сотрудники могут просматривать сообщения в Ask Photos и данные о фотографиях, чтобы выявить случаи жестокого обращения или причинения вреда, а также использовать эту информацию для улучшения своего приложения для работы с фотографиями. Другими словами, ваш вопрос и фотография вашего ребёнка, плавающего в бассейне, могут быть использованы, чтобы помочь другим родителям найти изображения их детей, плавающих в бассейне.
Google заявил, что его облако защищено технологиями безопасности, такими как шифрование и протоколы, ограничивающие доступ сотрудников к данным.
«Наш подход к защите конфиденциальности распространяется на наши функции искусственного интеллекта, независимо от того, работают ли они на устройстве или в облаке», — заявила Сюзанна Фрей, руководитель Google, отвечающая за доверие и конфиденциальность.
Но г-н Грин, специалист по безопасности, сказал, что подход Google к конфиденциальности ИИ кажется относительно непрозрачным.
«Мне не нравится мысль о том, что мои очень личные фотографии и очень личные поисковые запросы отправляются в облако, которое я не контролирую», — сказал он