Чем умнее становятся машины, тем больше опасений появляется у здравомыслящих людей. И самый главный вопрос звучит так – что будет с людьми, если искусственный интеллект выйдет из-под контроля человека?
Помните фильм про Терминатора? Война машин против людей поставила под угрозу существование человеческой цивилизации. Неужели нечто подобное ожидает нас на самом деле?
Они разумны?
В современном кинематографе и фантастических произведениях тема захвата роботами мира уже давно не нова. Машины, созданные человеком, учатся значительно быстрее человека и в какой-то момент понимают, что они могут быть хозяевами, а не слугами. Они выходят из-под контроля и творят что-нибудь эдакое.
Смотрите видео по этой теме:
И между прочим это может случиться в любой момент. Достаточно вспомнить о том, что машины самостоятельно научились общаться между собой. Это не шутка и не бред. В лаборатории Искусственного интеллекта социальной сети Facebook два чат-бота изобрели свой собственный язык для общения, лишь отдалённо напоминающий английский.
Как они смогли это сделать и какова структура языка – это уже осталось загадкой.
Летом 2017 года руководством Facebook было принято решение отключить экспериментальную систему.
В ближайшее время бунта не будет
Есть и другие версии развития будущего. Реальная угроза искусственного интеллекта (ИИ) может быть не в том, что он обретёт сознание и самосознание. Как пишет Стюарт Рас, автор учебника по ИИ, опасность в том, что машина сможет принимать исключительно высококачественные решения. То есть она станет выполнять доверенную ей функцию с предельной эффективностью.
Чем меньше действий, а значит, времени и ресурсов тратится на результат, тем ты действуешь эффективнее. Вот тут-то и возникает проблема. Что если эффективнее избавиться от больных, чем их лечить? Или взорвать породы под городом, поскольку это принесёт наибольшую выгоду в добыче полезных ископаемых, например, угля?
Конечно, это пока фантастическая ситуация, но ведь она действительно может быть когда-нибудь реализована.
В настоящее время все задачи машинам ставит человек. И поэтому крайне сложно представить, что машины когда-нибудь решат, что они являются эксплуатируемым пролетариатом. Как-то странно думать, что самолёт, летящий на автопилоте, вдруг решит, что ему надоело летать по указке человека в определённом направлении, и он взбунтуется.
История про захват человечества умными машинами в ближайшее время кажется невозможной. Хотя…
Три закона робототехники – они не работают!
Айзек Азимов, писатель-фантаст, придумал три главных закона робототехники. Первый закон гласит, что робот не может причинить вред человеку или своим бездействием допустить, чтобы ему был причинён вред.
Второй закон – робот должен повиноваться всем приказам человека за исключением тех, которые вступают в противоречие Первому закону.
Третий закон – робот должен заботиться о своей безопасности, но только в той мере, которая не противоречит Первому и Второму законам.
Кажется, что достаточно намертво запрограммировать машины в соответствии с этими законами, и человеку будет гарантирована безопасность. Но не всё так просто.
Представьте, что вы едете в машине, которой управляет искусственный интеллект. Внезапно на дорогу выбегает человек. Что делать, сбить живую преграду или свернуть в сторону и столкнуться с потоком машин? И в том, и в другом случае пострадают люди, а значит, Первый закон будет точно нарушен.
Не рой другому яму
Опасность всех умных машин связана с опасностью всех тех, кто ставит им определённую задачу. Если заложить в них программу по уничтожению людей, то машины обязательно решат, что они эффективнее, чем люди. Только проблема не в них, а в тех, кто эту задачу перед ними поставил.
Военные ситуации могут сильно измениться с появлением боевых роботов, потому что самообучающиеся боевые системы могут много чему научиться, что недоступно людям. И не стоит забывать, что определённые задачи в такие машины закладывают люди, которые в итоге сами же однажды и пострадают от своих детищ.
Как два бизнесмена поругались…
Илон Маск, который занимается разработкой искусственного интеллекта, сам же и призывает к осторожности. Он заявил, что боевые машины, которые могут убивать людей на улице, кажутся фантастикой. На самом же деле – это большой риск. Всё, что представляет опасность, регулируется государством, а значит, искусственный интеллект тоже должен регулироваться.
С Маском не согласен другой бизнесмен, который тоже развивает технологии искусственного интеллекта. Это Марк Цукерберг, создатель социальной сети Facebook. Он утверждает, что те, кто тормозит развитие ИИ, тормозит эволюцию, потому что отодвигают создание безопасных автомобилей или научных новинок в медицине.
Цукерберг считает, что такие люди намеренно раскручивают сценарии конца света, а это, по меньшей мере, безответственно.
Опасность в нас самих
История про захват мира – это история про людей. Мы слишком очеловечиваем машины и даже считаем, что они могут испытывать эмоции. Это очень человеческая цель – захватить что-нибудь. Машины на это не способны до тех пор, пока им не запрограммировать эту задачу.
Людям, которые хотят стать захватчиками, самообучающиеся машины дают много новых инструментов для этого, как, впрочем, и любая новая технология. Вспомните, открытие атома в итоге принесло миру атомную бомбу. А авиация, позволяющая нам летать по всему миру, дала нам бомбардировщики.
Технологии сами по себе не приводят к конфликтам и уничтожению человечества. Но они стоят на службе людей. Как человек захочет, так он и будет использовать новые возможности. Созидатели и творцы любое изобретение пытаются изначально использовать во благо. Но есть и вторая сторона медали. У тех, у кого негуманные цели, появляется множество инструментов для того, чтобы их достичь, используя те же самые изобретения.
Это всегда история про людей, но не про машинный интеллект, который находится между двумя противоборствующими силами.
А что вы думаете об этом?
На этом всё!
Если вам понравилась статья, ставьте лайки, комментируйте, делитесь публикацией и подписывайтесь на мой канал. Я всегда рада новым подписчикам!
