Технологии машинного обучения и нейросетей на сегодня достигли небывалых высот, оказывая нам помощь во всех аспектах нашей жизни. Однако они несут и ряд угроз и неожиданных последствий. Речь идет об упразднении множества профессий, массовой слежке за гражданами (система распознавания лиц) и пресловутом "восстании машин".
Однако угроза для нашей привычной жизни может подступить с неожиданной стороны - ложь в будущем будет упразднена!
Посудите сами. Самообучающиеся технологии обрабатывают огромный массив данных из соцсетей, видеоматериала, наблюдая за тем, как ведут себя люди, когда врут или говорят правду. Они учитывают все: тембр голоса, конструкцию предложений, мимику и жесты говорящих, историю их переписок и их жизненный бэкграунд. В общем, эти технологии могут быть гораздо эффективнее современных полиграфов.
Но почему же технологические гиганты не разрабатывают подобные технологии, имея для этого все возможности? Из соображений политкорректности? Этические вопросы на сегодня являются краеугольным камнем в развитии этого направления.
В большинстве штатов США искусственный интеллект используется для расчета вероятности преступления. Это помогает судьям принимать решение, отпускать подсудимого под залог или нет. Но решения ИИ часто предвзяты. Выяснилось, что программа, используемая судьями для предсказания случаев рецидивизма, была настроена совершенно расистски: в два раза чаще, чем белых «коллег по нарам», она помечала чернокожих обвиняемых как неисправимых преступников.
Может, современное общество действительно еще не готово к этому, ведь часто ученым и публичным людям в своих речах приходится делать выбор между правдой и корректностью высказываний. Но значит ли это, что подобных технологий еще нет? Сомневаюсь... Их использование предоставляет технологическим гигантам огромную власть, позволяя более продуктивно вести деловые переговоры, считывать истинные намерения политиков, конкурентов и бизнес-партнеров. Но мне представляется, что в будущем они утратят "монополию на правду" и технологиями смогут воспользоваться все, у кого будет смартфон или будущий аналог Google-очков.
Но как же это повлияет на нашу жизнь?
Друзья. Будет ли нам столь же весело встречаться с друзьями? Признаем, если лишить нас возможности рассказывать истории из жизни без доли преувеличения, встречи с друзьями станут довольно унылым времяпрепровождением. Не говоря уже о том, что и сам круг друзей значительно сузится, ведь дружба со лжецами - это не самое большое удовольствие, а многие из окружения неизбежно окажутся таковыми.
Работа. С этим пунктом все проще - у вас ее не будет! Ведь кто возьмет вас на работу, если на собеседовании вы расскажете всю правду о себе) А если серьезно, то это может пойти на пользу рабочим отношениям. Это неизбежно приведет к большему равенству в карьерных возможностях, ведь система поощрения будет основываться на действительных заслугах работников, а не предпочтениях начальства или интригах коллег. С другой стороны, тяжело представить себе рабочий коллектив, где все абсолютно честны между собой...
Общество. Еще тяжелее представить себе политиков, говорящих исключительно правду. Это может поколебать основы государственности. Лично я в этом сомневаюсь, но ребята вроде Германа Грефа могли бы поспорить. Выслушаем их:
Любое массовое управление подразумевает элемент манипуляции. Как жить, как управлять таким обществом, где все имеют возможность получать напрямую не препарированную информацию через обученных правительством аналитиков, политологов и огромные машины, которые спущены на головы, средства массовой информации, которые как бы независимы, а на самом деле мы понимаем, что все СМИ всё равно заняты построением, сохранением страт? Так как в таком обществе жить? Мне от ваших рассуждений становится страшновато, честно говоря.
Станут ли технологии решением проблемы недоверия к власти? Или же проблема усугубится? Способствуют ли они вовлечению честных людей в политику? Или же это ознаменует приход во власть отъявленных лжецов и социопатов, для которых ложь - это принцип их бытия? Утопия или антиутопия?