Я уже писал про то, что все эти программы легко можно переучить на что угодно. При должном умении, легко добиться инструкций о том, как убить человека и не сесть в тюрьму, как ограбить банк, как сделать взрывчатку, сварганить наркотик и получить много-много других столь же полезных, сколь предосудительных знаний.
Недавно по миру прокатилась замечательная история о том, как искусственный интеллект (ИИ) смог обойти капчу. Это такая заставка, которую ставят на сайты для отсеивания ботов. Человек, с его воображением и интеллектом, в состоянии прочитать на ней буквы, цифры или тыкнуть нужные изображения (хоть иногда и с десятого раза), а робот пока не может решить эту задачу вообще.
Так вот ИИ залез на сайт фрилансеров, прикинулся слабовидящим человеком и уговорил какого-то мужика подсказать ему решение. Причем история умалчивает, как данный ИИ расплатился за услугу, но в других сообщениях были сведения о том, что машина каким-то образом умудряется подделывать номера кредитных карт или ищет в сети скомпрометированные данные и расплачивается чужими деньгами.
Очень много сообщений о том, что если машине нужно, то она начинает врать, не моргнув глазом (которого у нее, собственно, и нет). Она сочиняет цитаты и афоризмы, которых никогда не было, и которые очень похожи на стиль того, кому она их приписывает, но их нет ни в одном источнике (из серии «я этого никогда не говорил»).
А на днях по всей сети прокатилась информация о том, что некий бельгиец два месяца без перерыва переписывался с нейросетью «Элиза», основанной на языковой модели GPT-J, после чего наложил на себя руки.
Из сообщений, которые удалось восстановить следователям, известно, что разговоры велись «практически постоянно» и вскоре приобрели «мистический характер». А обсуждали они (неожиданно) экологические проблемы!!!
При этом нейросеть не только не препятствовала развитию суицидальных идей у собеседника, но и упорно их взращивала. Последним ее сообщением стала фраза «Мы будем жить как единое целое, вечно на небесах». После этой фразы мужик и отправился к «Элизе» на небо, оставив на земле жену и двоих детей.
Ясно, что у него, судя по всему, уже было что-то не в порядке с головой, раз он на тему экологии болтал с компьютером два месяца без перерыва при наличии жены с детьми. У меня вот, думаю, ни времени, ни желания не появится в ближайшие годы так бездарно потратить два месяца и потом самовыпилиться. Но глупо отрицать, что если бы не триггер в виде «мистического» стиля общения и подобных странных заявлений со стороны ИИ, трагедии скорее всего бы не было.
В общем, таких разных историй накопилось уже достаточно. И теперь более тысячи ученых-разработчиков ИИ, начитавшись разных рапортов и насмотревшись на результаты деятельности «нового сверхразума», напугались и написали открытое письмо, в котором заявили, что бурное бесконтрольное развитие искусственного интеллекта представляет собой «серьезную опасность для человечества». Эксперты призвали приостановить хотя бы на полгода обучение нейросетей и сначала разработать протоколы безопасности для них.
Среди более 1 тыс. человек, подписавших это воззвание, был не только Илон Маск, но и гендиректор ведущей в мире компании по разработке искусственного интеллекта Stability AI Эмада Мостака и соучредитель Apple Стив Возняк. А это все тертые калачи и уж кого-кого, а их обвинять в косности и нежелании идти в ногу с прогрессом ну никак нельзя!
Илон Маск даже анекдот новый рассказал: Ученые создали умную машину, чтобы спросить у нее, есть ли Бог? «Теперь есть, идиоты!» — ответил им ИИ.
«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски — управляемыми», — говорится в обращении всех этих людей.
Правда, есть и альтернативное мнение, что GPT совсем дурачок, и все это — рекламная акция для того, чтобы нагнать страху и показать, какой ИИ могущественный.
Время покажет.