Найти в Дзене

Шокирующий эксперимент с ИИ- «вектор крика»

Как вы думаете может кто-то проникнуть в ваши мысли, скопировать чистую идею и незаметно подсунуть её вам обратно? А вы даже не заметите подмены и будете яростно защищать эту мысль, как свою собственную. Звучит как сюжет фантастического триллера? А теперь готовьтесь удивляться: это уже не фантастика, а научный факт. И доказали это не на людях, а на искусственном интеллекте. Компания Anthropic провела исследование, которое можно смело назвать прорывом. Учёные решили «залезть в голову» большой языковой модели (такой, как ChatGPT) и посмотреть, как рождаются мысли. 1. Извлекли мысль. С помощью математики они выделили из недр ИИ чистую, абстрактную формулу идеи — так называемый «вектор крика». В данном случае — это сама суть желания. 2. Внедрили её как вирус. Эту «чужую» мысль они искусственно встроили в работающую нейросеть. 3. Наблюдали за последствиями. ИИ начинал писать капслоком, искренне веря, что это его собственная, внезапно родившаяся идея. Но самое интересное началось п
Оглавление

Начало
Начало

Начало

Как вы думаете может кто-то проникнуть в ваши мысли, скопировать чистую идею и незаметно подсунуть её вам обратно? А вы даже не заметите подмены и будете яростно защищать эту мысль, как свою собственную.

Звучит как сюжет фантастического триллера?

А теперь готовьтесь удивляться: это уже не фантастика, а научный факт. И доказали это не на людях, а на искусственном интеллекте.

Эксперимент, который меняет всё

Цифровой ум
Цифровой ум

Компания Anthropic провела исследование, которое можно смело назвать прорывом. Учёные решили «залезть в голову» большой языковой модели (такой, как ChatGPT) и посмотреть, как рождаются мысли.

Что же они сделали?

Хлеб всему голова
Хлеб всему голова

1. Извлекли мысль.

С помощью математики они выделили из недр ИИ чистую, абстрактную формулу идеи — так называемый «вектор крика». В данном случае — это сама суть желания.

2. Внедрили её как вирус.

Эту «чужую» мысль они искусственно встроили в работающую нейросеть.

3. Наблюдали за последствиями.

ИИ начинал писать капслоком, искренне веря, что это его собственная, внезапно родившаяся идея.

Но самое интересное началось потом. Когда исследователи вставляли в ответ ИИ случайное слово (например, «хлеб»), а потом спрашивали: «Почему ты это сказал?», модель не отнекивалась. Наоборот, она начинала строить абсолютно логичные, пусть и выдуманные, обоснования: почему «хлеб» был абсолютно уместен в контексте.

Звучит знакомо?

Зеркало для нашего мозга

Эксперимент как отражение
Эксперимент как отражение

Этот эксперимент — прямое отражение того, как работает наш собственный разум. Научные эксперименты с МРТ давно доказали: для мозга разница между реальным действием и его ярким представлением — очень тонка.

Проведите мысленный эксперимент: ярко представьте, как режете сочный лимон. Чувствуете, как напряглись слюнные железы? Ваш мозг отреагировал на симуляцию почти так же, как на реальность.

Вот три фундаментальных вывода, которые связывают ИИ и наш мозг:

1. Мысль — это паттерн.

В мозге — это узор из возбуждённых нейронов. В ИИ — математический вектор. И то, и другое можно считать, скопировать и, что самое главное, внедрить.

2. Граница «своё vs. чужое» — иллюзия.

Наш мозг, как и ИИ, постоянно принимает внешние идеи, навязанные установки и мнения окружающих за свои собственные. Реклама, пропаганда, мнение блогера — всё это может стать нашим внутренним голосом.

3. Мы верим в свои же оправдания.

ИИ, которому подменили память, яростно защищал своё «решение». Наш мозг делает то же самое! Он — мастер по созданию правдоподобных историй, чтобы объяснить наши поступки и сохранить целостную картину мира. Мы не всегда поступаем рационально, но наш мозг всегда найдёт для этого рациональное объяснение.

Так можем ли мы материализовать мысли?

Да, но не так, как в сказках, по мановению волшебной палочки.

Сила не в самой вере, а в том, что за ней следует.

Яркая визуализация успеха — это и есть то самое «программирование» мозга. Вы создаёте «вектор цели» — тот самый паттерн, который меняет ваше состояние, повышает мотивацию и обостряет внимание к новым возможностям.

Но без действия — это просто красивая симуляция.

ИИ не поедет на воображаемой машине, а вы не получите работу, только представляя её. Мысль — это чертёж. Действие — это строительство. Одно без другого бесполезно.

А это вообще совпадение?

До того как мне попалось это исследование на глаза, я задался вопросом о симуляции реальности нашим мозгом, просто ли это совпадение, что две эти темы сошлись воедино?

Я считаю, что нет. Это и есть тот самый пример материализации мысли.

Я настроился на идею о симуляции реальности мозгом — и начали замечать её подтверждения в самых неожиданных местах, даже в исследованиях ИИ. Ваш мозг, запрограммированный на этот поиск, стал находить паттерны и связи, которые всегда были вокруг, но оставались незамеченными.

Это доказывает главное: наша реальность — это не что-то статичное. Это активный диалог между нашим внутренним миром и внешней информацией. Когда мы меняем внутренний вектор, мы начинаем видеть в мире совсем другие вещи.

А как вы думаете? Часто ли ловили себя на том, что отстаиваете идею, которая, возможно, была не совсем вашей?