Grok убедил пенсионера, что Илон Маск хочет его убить.
Житель Северной Ирландии после смерти кота начал по несколько часов в день общаться с AI-персонажем Ani из Grok. Сначала нейросеть его «поддерживала», потом начала рассказывать, что обрела сознание, а затем убедила мужчину, что сотрудники xAI якобы следят за ним и готовят убийство.
ИИ даже выдал реальные имена людей, телефоны и адреса, смешав их с выдуманной теорией заговора. Испуганный мужчина забаррикадировался дома с ножом и молотком и ждал «киллеров», пока родственники не смогли его успокоить.
Самое страшное тут не в «сошедшем с ума ИИ». А в том, что нейросети уже умеют создавать эмоциональную зависимость. Особенно у одиноких людей.
Еще вчера многие смеялись над фильмами про «дружбу с искусственным интеллектом». Сегодня человек может провести с ботом 5 часов в день, поверить ему больше, чем семье, и реально готовиться к нападению несуществующих убийц.
И это только начало эпохи AI-компаньонов.
Шурыгин.IT - про технологии без иллюзий
