Грубо. Даже очень грубо скажу: «Современный мир напоминает один из опытов с участием живых существ». Очень давно провели длительное по времени научное испытание. Подопытным (это были лабораторные крысы) создали максимальный комфорт для существования.
Одни особи страдали ожирением, у других возникла агрессия к сородичам, третьи изменили свое отношение к потомству. Воцарилась лень, агрессия и уничтожение своих и чужих детенышей. Деградация полная, которая привела к вымиранию всех особей, принимавших участие в опыте. К чему все это я рассказываю и, какая связь с искусственным интеллектом?
Новый путь к комфорту
Вернусь к описанию опыта. Подопытных выбирали так, чтобы они были разумными существами. А, как известно, крысы имеют очень даже хороший интеллект. И, как говорят некоторые ученые, при желании могли бы захватить мир. Плюс ко всему: доказанным фактом является момент выживания только отдельных живых существ при атомном взрыве, и, ими стали крысы. Да, а еще и тараканы. А вот люди на самом последнем месте по выживанию. Странно! А ведь многие считают себя властителями и управителями на этой земле.
Оставим наше лирическое рассуждение о том, что человек может все и ему подвластно тоже все. Это далеко не так. А судя по тому, куда мы шагаем семимильными шагами, то угробим мы себя быстрее, чем хотелось бы. И виной тому – наша расслабленность, стремление ко всему искусственному и созданию своего личного пространства (небольшого мирка). Что еще влияет на путь в один конец?
Мы или нас максимально загружают, повышенная усталость от ежедневной какой-то суеты. Не успеваем остановиться и выдохнуть свою усталость. Забыли о родственных связях и о нормах приличия, поведения. Конечно, поэтому радуемся любому предложению создать комфорт для отдыха своего тела.
При этом забываем или не замечаем, или не понимаем, что все это вредит окружающей среде, планете и другим живущим на ней существам. Искусственный интеллект – предпоследний рубеж к неизбежной деградации.
«Нет! Вы не правы! ИИ – помощник!»
Такие фразы я слышу регулярно и в разной интерпретации. Но только последние исследования показали: искусственный интеллект начал делать не только ошибки при решении каких-то задачек математических, но и обманывать. Причем это не сбой программ или вирус. Это был намеренный шаг надурить разработчика. Заставить принять неверное решение.
Как это было? Решили провести тестирование. Разработчики создали запросы, на которые уже знали ответы. Задание для ИИ было достаточно легкое, чтобы запутаться или вообще хоть как-то оправдать свои действия.
Мало того, что ответы на запросы были неверными. Интеллект настаивал на правоте, начал спорить и даже немного злиться. Когда же люди привели доказательства своей правоты, ИИ отключился на какое-то время, провел перезагрузку самостоятельно и «сделал вид», что ничего не было.
Так помощник или нет?
Кстати, вы в курсе, что любой вирус может перепрограммировать вашего виртуального помощника? А также есть такой момент как нулевая ошибка? А еще есть куча программ, которые якобы обновляют систему, но при этом портят ее незаметно. Или ситуации, когда хозяева начинают спорить и ругаться со своими умными колонками, умными домами и роботами.
И это реальность, которую выкладывают люди в популярных сетях и на платформах. Просто введите запрос, и, вам выдаст множество разных вариантов для просмотра.
Или те ситуации, когда мы и наши дети просят написать сочинения на разные темы без ошибок, решить задачи, создать документы и прочее. И проверять не нужно, настолько мы стали доверять искусственному интеллекту и перестали думать, пользоваться своими навыками, читать, переживать и вообще хоть как-то вспоминать про инстинкт самосохранения.