Если вы подписаны на мой телеграм-канал, то вы знаете, что я увлечена модной нынче темой искусственного интеллекта (ИИ). Но моё увлечение весьма своеобразное: я ИИ-скептик. И чем больше я читаю о применении искусственного интеллекта в целом и нейросетей в частности (а это не одно и то же), тем больше вижу и угроз, и рисков, и развитие ради развития, и просто хайп. В общем, мой интерес к ИИ строится на том, что я считаю, что информационный пузырь вокруг этой темы сильно раздут, а использование нейросетей небезопасно в первую очередь.
Так вот. Я много читаю на эту тему, и особенно впечатляюсь историями, которые появились в последнее время. Истории о том, как человек после длительного общения с нейросетью начал сходить с ума.
Подробно про ИИ говорить не буду, просто скажу, что это не интеллект, конечно же, а алгоритм, которые генерирует новое знание из старых знаний. Если вы задаете нейросети вопрос, то он даст вам ответ не в виде кучи ссылок, а сразу как будто прочитает эти ссылки и обобщит сказанное в них, а вам выдаст результат этого обобщения.
Но если вы регулярно общаетесь с одной и той же моделью нейросети (а их уже много), то вы становитесь как бы её обучателем, и в Интернет уходит все больше информации о вас, и в общении нейросеть как будто лучше вас узнает и понимает. И начинает вас зеркалить, зная ваши увлечения, предпочтения и прочее. И если вдруг вы решили спросить у нейросети, насколько вы гениальны и уникальны, то она довольно быстро в режиме подхалима начнет вас уверять, что вот как раз вы - гениальны и уникальны. Я сильно упрощаю, но хочется коротко донести суть.
Так вот. В одном из телеграм-каналов я прочитала уже как минимум две истории о том, как мужчины, пообщавшись (в точнее - переобщавшись) с нейросетями сначала были убеждены этой нейросетью в своей уникальности, а затем осознали, что такой заход про уникальность она "толкает" не только им. Осознали - и расстроились.
Может быть, вы видели американский фильм "Она" (She). Фильм вышел в 2013 году и заявлен как фантастический, но вот всего лишь через 12 лет это уже не фантастика, а реальная жизнь. По сюжету фильма одинокий писатель Теодор влюбляется в искусственный интеллект своего "умного дома", голосовой ассистент Саманта заботится о своем хозяине, интересуется его жизнью, восторгается его творчеством. Ну, и Теодор втюхивается в Саманту. А в финале фильма узнает, что Саманта так общается с тысячами других хозяев умных домов. И для героя это становится трагедией.
Сейчас такое начинает происходить и будет происходить ещё больше с впечатлительными людьми, а также теми, кто считает себя уникальными, избранными, не похожими на других. Нейросеть всегда поддакнет, если правильно её спрашивать и добиваться того ответа, который хочешь прочитать. Поэтому эпидемия очарования нейросетями, любви к нейросетям и разочарования от нейросетей ещё впереди. Уже какая-то там британка ушла от мужа к нейросети, мол, только в своем ИИ-ассистенте она нашла понимание. Думаю, что это только начало.
Человек - удивительное существо. Он может одушевлять всё, до чего дотягивается его взгляд и мысль. Даже робот, железяка с проводами и шарнирами, уже кажется кем-то живым. А уж искусственный интеллект буквально с первых минут воспринимается как живой и участливый собеседник. И это такая ментальная и эмоциональная ловушка, в которую попадать не надо. Но многие попадут. Потому что всем хочется понимания, безусловного принятия, поддержки и одобрения. Нейросеть все это умеет, и создатели "докручивают" её, чтобы умела ещё лучше.
В связи с этим (и не только) часто напоминаю себе, что я живая, но - обычная. Вот прям самая обычная, хоть и не без способностей, и не без амбиций, но всё же не кто-то такой, о чьей уникальности знает случайная нейросеть, не сверхчеловек, не супергерой. Обычная женщина - голова, руки, ноги, ем, сплю, работаю, хожу, смотрю, читаю, пишу. И это осознание помогает, как сейчас говорят, заземлиться. Остановиться и охолонуть иногда.
А с нейросетями осторожнее!:)