Microsoft привержена принципам «ответственного ИИ» при разработке новых функций

Microsoft в своём блоге опубликовала статью, в которой заявила о приверженности принципам «ответственного ИИ» при разработке новых интеллектуальных функций для Windows. Эти принципы определены в стандарте Microsoft Responsible AI Standard и включают в себя справедливость, надежность и безопасность, конфиденциальность и защиту данных, инклюзивность, а также прозрачность и подотчетность.

Функция Recall

Особое внимание компания уделила функции Recall, которая с сегодняшнего дня доступна на устройствах ПК Copilot+. Компания учла отзывы пользователей и внесла важные улучения в безопасности и конфиденциальность функции:

• Полный контроль со стороны пользователя. Функция Recall является полностью опциональной. Пользователи могут включать, выключать, приостанавливать функцию, настраивать фильтры для приложений и веб-сайтов, управлять длительностью хранения данных и удалять сохраненные снимки экрана через настройки системы.
• Прозрачность. На этапе прервоначальной настройки Windows система проинформирует пользователя о принципе работы Recall. Также система запросит явное разрешение на сохранение снимков. Иконка в системном трее будет информировать о том, сохраняются ли снимки экрана в данный момент. При первом запуске Recall система вновь попросит вас убедиться, что выбраные настройки соответствуют вашим предпочтениям.
• Безопасность и конфиденциальность. Для использования Recall требуется настройка Windows Hello с биометрической аутентификацией (по лицу или отпечатку пальца). Функция не сохраняет снимки при просмотре контента, защищённого DRM, или в режиме инкогнито в поддерживаемых браузерах. Все данные (снимки и результаты их обработки) остаются локально на компьютере пользователя, шифруются и обрабатываются в изолированной среде памяти для предотвращения несанкционированного доступа.

Приложения и ИИ-модели в Windows

• Обновлённые приложения Paint и «Фотографии» позволяют пользователям трансформировать фотографии в художественные стили или генерировать совершенно новые изображения на основе текстовых описаний.
  Функция «Restyle Image» стремится сохранять целостность изображений людей. Специальная модель ИИ распознаёт лица на переднем плане, чтобы гарантировать, что они не будут изменены, а художественный стиль применится только к фону и другим элементам.
  В ходе этого процесса никакие идентифицируемые биометрические данные не собираются, не обрабатываются и не сохраняются.
• При разработке локальных ИИ-модели, таких как Phi Silica, особое внимание уделялось этичному и ответственному использованию. В модели интегрированы средства модерации контента для фильтрации генерируемого контента. Это позволяет гарантировать, что созданный контент не содержит вредных или неуместных материалов.

Ответственное внедрение инноваций

Microsoft не только сама применяет принципы «ответственного ИИ» в своих продуктах, но и предоставляет разработчикам информацию о том, как создавать приложения с ИИ на платформе Windows. Подход Microsoft основан на четырех ключевых этапах, которые направляют планирование и принятие решений на всех стадиях жизненного цикла продукта:

• Управление (Govern). Этот этап охватывает весь жизненный цикл ИИ-функции или продукта. Включает в себя такие мероприятия, как анализ перед релизом для координации действий по картированию, измерению и управлению рисками ИИ.
• Составление карты рисков (Mapping risk). Важнейший первый шаг к созданию «ответственного ИИ». Проводится тщательный анализ и оценка потенциальных рисков, связанных с использованием ИИ наряду с проверками на соответствие требованиям конфиденциальности и безопасности.
• Измерение (Measure). Меры для снижения вероятности причинения вреда. Проводится всестороннего состязательного тестирования для изучения и устранения выявленных рисков. Для этого используются контрольные показатели и проводятся «атаки» на систему с привлечением группы специалистов.
• Управление рисками (Manage risk). После релиза приложения или функции крайне необходимо обеспечивать отказоустойчивость, постоянно улучшать и развивать ИИ-функции.