На прошлой неделе стало известно о том, что в одной из школ города Перми протестировали систему видеонаблюдения с функцией распознавания лиц и эмоций детей. Сообщается, что в сентябре 2019 года эту систему начнут эксплуатировать в четырех пермских школах.
Эту систему, под названием "Умная и безопасная школа" разработала пермская IT-компания "New vision". Разработчики уверяют, что их решение "поможет психологам эффективнее выявлять детей из групп риска.. которые склонны к проявлению агрессии, насилия".
С этой целью "с утра и до вечера" все дети (не только из т.н. "группы риска") будут находится под наблюдением видеокамер, которые в непрерывном режиме, три раза в секунду, будут фиксировать "эмоциональное состояние" каждого ученика. Программное обеспечение позволит видеокамерам кадрировать класс, идентифицировать каждого ученика в кадре и производить свою оценку. По утверждению разработчиков, система способна распознавать семь эмоциональных состояний: нейтральное, радость, удивление, страх, печаль, агрессия, отвращение.
Сформированный к концу дня массив данных персонализируется на локальных серверах школы, а в сеть (для анализа нейронной сетью в облаке) поступают только наборы цифровых показателей. Результаты анализа впоследствии передаются психологу.
"В школе Нижнего Новгорода развернули систему распознавания лиц". Читать
"Страсть к распознаванию": что объединяет Россию и Китай?". Читать
Такое решение не ново. Оно повторяет широко обсуждавшуюся еще год назад аналогичную систему, реализованную в некоторых школах Китая.
Китайская система, носящая название "Умная система управления поведением в классе" ("Умный глаз"), также определяет семь эмоций школьников: нейтральную, радость, печаль, разочарование, гнев, испуг, удивление. Отличие в том, что китайская система в режиме реального времени еще и уведомит преподавателя о том, что конкретный ученик отвлекся от занятия сообщением в мобильном приложении .
Несмотря на то, что многие китайцы уже привыкли к тому, что их конфиденциальность ограничена правительством и корпорациями, но многие люди всё равно люди выражают страх в отношении такой системы в китайских школах. "Если бы я еще учился в школе, я не смог бы сосредоточиться ни на чем, кроме этого наблюдающего глаза!", - сказал один из комментаторов на "Sina Weibo" (китайская версия "Twitter").
Если и в Китае есть сомневающиеся в целесообразности использования постоянного видеонаблюдения в школах, то на Западе подобные технологии вообще вызывают бурную реакцию в связи с явным вторжением в частную жизнь.
Так, реакцией на первое в США развертывание системы видеонаблюдения с технологией распознавания лиц и объектов под названием "Aegis" в школе округа Локпорт-Сити в июне 2019 г., стало внесение законопроекта о годовом моратории на развертывание подобных систем в школах, как ограничивающих личные права.
Общественная дискуссия ширится. По мнению американских правозащитников, государственные школы не должны становиться испытательными полигонами для "обкатки" новых непроверенных технологии, в первую очередь, технологии распознавания лиц. Даже ради обеспечения безопасности такие системы должны обеспечивать возможность учащимся и преподавателям сохранять свою конфиденциальность и обеспечивать гражданские права на частную жизнь.
Защитники гражданских прав и свобод утверждают, что следует ограничить использование непроверенных новых технологий. В настоящее время идет много споров о том, перевешивают ли негативные аспекты распознавания лиц положительные, но нужно понимать, что слишком быстрое движение может иметь необратимые и непреднамеренные последствия.
Помимо технологии распознавания лиц, большое беспокойство вызывают и попытки развертывания в школах и "испытания" на детях других непроверенных инвазивных технологий (типа скрытых микрофонов, которые определяют крики и ругань, т.н. "детекторы агрессии").
Понравился пост? Поставьте 👍 или поделитесь им в социальной сети, чтобы мы могли рассказать ещё больше о новых технологиях.
Подпишитесь на наш канал "Умная безопасность" ( @smartsafecity ) в Телеграм , чтобы узнать больше новостей о новых технологиях.