Развитие технологий машинного обучения сейчас является темой номер один, однако обсуждение этой темы за пределами довольно узкой профессиональной среды сводится к повторению одних и тех же тезисов. По мере того, как так будет затрагиваться та или иная индустрия, нас будет накрывать очередная волна однотипных откровений, философствований и фобий.
Однако развитие других технологических трендов никто не останавливал. Продолжается разработка интернета вещей, технологий умных домов и городов. Но, как мы и обращали на это внимание раньше, наибольшие сложности возникают именно в гуманитарной сфере, а не с технологиями как таковыми. Вообще, это давно замеченный и весьма характерный для так называемых «технократов» дефект мышления. Человек считается чем-то настолько простым и примитивным, что на него не обращают практически никакого внимания. В отличие от подлинной вершины творения коей считается какая-нибудь примитивная база данных и регламент из десятка пунктов.
Разбираться с причинами такого мировосприятия мы оставим психологам и психиатрам. Потому что такой избирательный взгляд на мир очень смахивает на патологию, даже если исходить из крайне циничной, на грани людоедства модели управления.
В MIT Technology Review появился интересный материал описывающий то, как проводится эксперимент по внедрению умных датчиков в одном из зданий университета Карнеги-Меллона. Проект называется Mites, то есть, в переводе на русский «клещи». Это своего рода сеть из специальных устройств, которые высасывают из здания максимум информации.
Отличительной чертой этой системы является то, что каждый «клещ» оснащён вычислительным модулем, который обрабатывает данные сразу по мере их поступления, и далее передаёт их на сервер в агрегированной и обезличенной форме. Регистрируется практически все — звук, вибрация, колебания магнитного поля, влажность, температура, освещённость и так далее.
Цель эксперимента изучить возможность использования такой системы для повышения эффективности эксплуатации здания, при этом, как утверждается, с сохранением конфиденциальности. Ведь камер в этих устройствах нет, а звук не записывается и не транслируется за пределы устройства, передаются только некоторые извлечённые из звуковой картины события. Тут практически любой человек может очень легко представить, что может пойти не так.
Что уж говорить об учёных? Поэтому когда кандидат наук в сфере разработки программного обеспечения Дэвид Виддер увидел такие датчики в своём кабинете, он внимательно осмотрел их. Не обнаружив на них кнопки отключения питания, взял в руки отвёртку, демонтировал всех «клещей», аккуратно сложил их в контейнер и предложил экспериментаторам забрать свои сокровища назад.
Детали противостояния с исследовательской группой и аргументацию, наверное, нет смысла приводить детально. Одни говорят что это все во благо человечества, эффективность, углеродный след и вот это все. Другие рассказывают о множестве способов восстановления данных, о риске взлома и так далее. И хотя сам по себе конфликт довольно простой, тот факт, что он возник в стенах университета, привёл к более-менее содержательному обсуждению проблемы.
Материал завершается словами Виддера, мол, технологии вроде шифрования и обезличивания данных не могут заменять явное и информированное согласие человека на сбор данных.
Но это не единственная сторона вопроса. В очередной никто раз даже не пытается как-то оценить требования и риски для администраторов таких систем. По умолчанию они воспринимаются некими творцами глядящими на своё творение откуда-то сверху. Считается, что объектом манипуляции в такой системе может быть только наблюдаемый, но никак не наблюдатель.
Весьма вероятно, что рано или поздно произойдёт массовое развёртывание подобных систем. С неизбежным переходом из количества в качество. После чего мы увидим массу неожиданных побочных эффектов и удивительных откровений. И тут можно только порадоваться тому, что как говорил классик, «будущее уже наступило, просто оно ещё неравномерно распределено».
Каждый ваш лайк и подписка помогают нам увеличить аудиторию и создавать еще больше достоверного и интересного контента.