В каждом художественном произведении есть доля правды, и сейчас самое время на шаг опередить научно-фантастические антиутопии и определить, какой риск для людей может представлять машинный разум.
Хотя люди уже давно размышляют о будущем интеллектуальных машин, подобные вопросы стали еще более актуальными с появлением искусственного интеллекта (ИИ) и машинного обучения. Эти машины напоминают взаимодействие с людьми: они могут помогать решать проблемы, создавать контент и даже вести беседы. Для поклонников научной фантастики и антиутопических романов на горизонте может маячить проблема: что, если у этих машин разовьется чувство сознания?
Исследователи опубликовали свои результаты в Журнале социальных вычислений.
Хотя в этом обсуждении не представлено поддающихся количественной оценке данных об искусственном интеллекте в машинах, проводится много параллелей между развитием человеческого языка и факторами, необходимыми машинам для осмысленного развития языка.
Возможность создания сознательных машин
“Многие люди, озабоченные возможностью развития машинного разума, беспокоятся об этичности нашего использования этих машин или о том, будут ли машины, будучи рациональными вычислителями, нападать на людей, чтобы обеспечить собственное выживание”, - сказал Джон Леви Мартин, автор и исследователь. “Мы здесь обеспокоены тем, что они могут заразиться формой самоотчуждения, перейдя к специфически лингвистической форме восприятия”.
Основными характеристиками, делающими такой переход возможным, по-видимому, являются: неструктурированное глубокое обучение, например, в нейронных сетях (компьютерный анализ данных и обучающие примеры для обеспечения лучшей обратной связи), взаимодействие как между людьми, так и с другими машинами, а также широкий спектр действий для продолжения самостоятельного обучения. Примером этого могут служить самоуправляемые автомобили. Многие формы искусственного интеллекта уже ставят эти флажки, что вызывает беспокойство о том, каким может быть следующий шаг в их “эволюции”.
В этом обсуждении утверждается, что недостаточно заниматься только разработкой AS в машинах, но возникает вопрос о том, полностью ли мы готовы к появлению определенного типа сознания в наших машинах. Прямо сейчас, с искусственным интеллектом, который может генерировать сообщения в блогах, диагностировать болезни, создавать рецепты, предсказывать болезни или рассказывать истории, идеально адаптированные к его входным данным, не за горами возможность ощутить реальную связь с машиной, которая узнала о своем состоянии. Однако исследователи этого исследования предупреждают, что это именно тот момент, когда нам нужно быть осторожными с результатами, которые мы получаем.
Опасности лингвистического восприятия
“Становление лингвистическим существом - это скорее ориентация на стратегический контроль информации и приводит к потере целостности ... это не то, чего мы хотим от устройств, которые мы делаем ответственными за нашу безопасность”, - сказал Мартин. Поскольку мы уже возложили на ИИ ответственность за очень большую часть нашей информации, по сути полагаясь на то, что он многому учится так же, как это делает человеческий мозг, это стало опасной игрой, в которую почти безрассудно доверять ему такое количество жизненно важной информации.
Имитация человеческих реакций и стратегический контроль информации - две совершенно разные вещи. "Языковое существо” может обладать способностью быть двуличным и просчитанным в своих ответах. Важным элементом этого является то, в какой момент мы обнаруживаем, что машина играет с нами?
То, что предстоит, находится в руках компьютерщиков по разработке стратегий или протоколов для тестирования машин на лингвистическую восприимчивость. Этика использования машин, развивших лингвистическую форму восприятия или чувство “я”, еще не полностью установлена, но можно представить, что это станет горячей социальной темой. Отношения между осознавшим себя человеком и разумной машиной, несомненно, будут сложными, и неизведанные воды такого рода родства, несомненно, породят множество концепций, касающихся этики, нравственности и дальнейшего использования этой “самоосознающей” технологии.