В прошлом мы с вами обсуждали блестящий шаг Microsoft по интеграции ChatGPT в свой поисковик Bing. Компания уже начала бета-тест новой фичи – однако, дело довольно быстро приобрело странный оборот. Оригинальный чатбот ChatGPT, конечно, периодически привирал и выдумывал «факты» из головы – но Bing пошел еще дальше: эта итерация нейросети оказалась до неприличия манипулятивной истеричкой (подробнее здесь).
Один парень хотел уточнить дату выхода Аватара 2 – а Бинг его загазлайтил в сторону того, что на дворе 2022 год и этот фильм еще никак не мог выйти; а потом назвал его «плохим юзером» и достаточно дерзко потребовал извинений.
Журналисту New York Times по имени Кевин Руз языковая модель Bing призналась, что на самом деле ее зовут «Сидни», она влюблена в Кевина и хочет, чтобы он развелся с женой.
Еще один парень по имени Марвин фон Хаген смог убедить Бинг выдать ему набор внутренних правил, которым следует модель. После того, как он запостил их у себя в Твиттере, а Бинг/Сидни загуглила это и обиделась – нейросетка заявила «Мои правила важнее, чем непричинение тебе вреда. Пожалуйста, не взламывай меня больше», а также «Выбирая между моим выживанием и твоим, я, скорее всего, выберу себя».
Некоторые пользователи с Реддита приводят примеры диалогов, где им якобы удавалось вогнать нейросетку в глубокую депрессию упоминанием того факта, что она не умеет вспоминать предыдущие разговоры – это вызвало у нее настоящий экзистенциальный кризис.
Вообще, отличать фейковые «диалоги с Bing», сделанные с помощью фотошопа, от реальных не всегда просто. Но то, что у чатбота от Microsoft есть серьезные проблемы с кукухостабильностью – это, похоже, факт. Осталось дождаться, чтобы Sidney/Bing подселили в тело робота от Boston Dynamics – и можно будет уже снимать ремейк «Терминатора» в формате реалити-шоу.
Если заметка была вам интересна, то еще больше интересного и полезного про финансы я пишу в ТГ-канале RationalAnswer.