Искусственный интеллект Copilot от Microsoft вскоре может работать локально на ПК, а не полагаться на облако.
В Intel сообщили Tom's Hardware, что чат-бот может работать на будущих ПК с поддержкой искусственного интеллекта, которые должны будут включать в себя нейронные процессоры (NPU), способные превышать 40 триллионов операций в секунду (TOPS) — уровень производительности, с которым пока не может сравниться ни один потребительский процессор, доступный в настоящее время.
Intel отметила, что эти ПК с искусственным интеллектом будут оснащены для обработки «большего количества элементов Copilot» непосредственно на машине. В настоящее время Copilot полагается преимущественно на облачную обработку для большинства задач, что приводит к заметным задержкам, особенно по незначительным запросам. Ожидается, что увеличение локальной вычислительной мощности уменьшит такие задержки, потенциально повышая производительность и конфиденциальность.
Intel не сразу ответила на запрос Computerworld о комментарии.
Copilot на ПК
Как сообщалось ранее, использование Copilot в Windows 11, ChatGPT, Adobe Firefly или аналогичных инструментах genAI на самом деле обрабатывает задачи не на вашем компьютере, а в удаленных центрах обработки данных, используя значительные ресурсы и электроэнергию. Несмотря на то, что можно локально запускать такие приложения, как модель преобразования текста в изображение Stable Diffusion или языковая модель Lama, для достижения высококачественных результатов обычно требуется ПК со значительными вычислительными возможностями, особенно высокоскоростной графический процессор, который ранее требовался для майнинга криптовалюты.
Недавние достижения в области аппаратного обеспечения, в частности, включение нейронных процессоров в новейшие чипы Intel Meteor Lake и предложения AMD, вызвали дискуссии о ПК с искусственным интеллектом. Эти NPU, разработанные как специализированные компоненты с низким энергопотреблением, предназначены для облегчения локального выполнения моделей генеративного ИИ, повышая эффективность обработки данных ИИ. Ожидается, что NPU станут стандартной функцией будущих ПК, позволяя задачам genAI беспрепятственно работать в фоновом режиме, даже при питании от батареи.
Например, новейший искусственный интеллект MSI распознает действия вашего ноутбука и автоматически настраивает профиль батареи, скорость вращения вентилятора и настройки экрана в соответствии с вашими задачами. Когда вы играете, это повышает производительность до максимума; переключитесь на работу с документами Word, и все вернется обратно.
Искусственный интеллект на ходу
Локальная тенденция ИИ не ограничивается ПК. Например, смартфоны Google Pixel 8 и Pixel 8 Pro оснащены чипом Tensor G3, который, как утверждает Google, закладывает основу для генеративного искусственного интеллекта на устройстве. Эта технология уже поддерживает функции на основе искусственного интеллекта, такие как суммирование звука в приложении Recorder и интеллектуальная генерация ответов на клавиатуре Gboard. Однако, несмотря на эти достижения, такое оборудование в настоящее время не способно локально запускать обширные модели искусственного интеллекта, такие как Google Bard AI, Copilot или ChatGPT. Вместо этого эти устройства работают на более компактных моделях.
Одно из преимуществ локальной обработки ИИ заключается в том, что она может повысить кибербезопасность. Консультант по кибербезопасности Джон Бамбенек отметил, что существенным риском, с которым сталкиваются компании при интеграции ИИ в задачи интеллектуальной собственности, является управление потоками данных и доступом к ним.
«Мы видели достаточно случаев взлома облачных сервисов третьими лицами, чтобы знать, что даже при наличии обещаний данные могут быть потеряны», — добавил он. «Если организации смогут использовать искусственный интеллект Copilot от Microsoft локально, директора по информационной безопасности по-прежнему будут чувствовать, что они контролируют свои данные, и это устранит то, что, вероятно, является самым большим препятствием для внедрения, которое существует».