133 подписчика
У Chat GPT открылись ложные воспоминания. Это поможет понять природу «эффекта Манделы» у людей
Специалист по кибербезопасности Иоганн Ребергер обнаружил, что Chat GPT страдает ложными воспоминаниями, то есть «помнит» то, чего нет. Это вскрылось, когда разработчик сетки, Open AI, добавил в бот систему «воспоминаний», чтобы ИИ «запоминал» человека.
Сетка помнит то, чего не было, если ей настойчиво скармливать ложную информацию, выяснил Иоганн. Тогда у нее ломается какой-то барьер, что ли, фильтр, позволяющий воспринимать информацию критически. И она на голубом глазу говорит, да, все так и было.
У человека, скорее всего, примерно так же. Классика ложных воспоминаний – это когда в детстве вам что-то упорно рассказывали, а, когда вы выросли, вам кажется, что это были не рассказы, а вы сами все видели. Эффект Манделы – коллективные ложные воспоминания – сложнее, но работает примерно так же. Все говорят, что Гурченко в «Карнавальной ночи» пела «Пять минут, это много или мало», и вам начинает так казаться.
Вот только почему «все говорят», эти-то «все» откуда взяли, это непонятно пока.
С вами был научный журналист Евгений Арсюхин.
1 минута
1 октября 2024