⬜️ А ваш ИИ уже сходил с ума сегодня? Учёный ставит диагноз эпохи.
🔹 Представьте себе самого начитанного, эрудированного и быстрого собеседника в мире. Он может за минуту составить деловое письмо, стих в духе Бродского и план реформы образования. Мы привыкли думать о таком интеллекте как о чем-то кристально холодном, бездушном, но и безошибочно точном — этаком гениальном аутисте, живущем в мире чистых данных. Так его рисовали в фантастике.
*️⃣ Но реальность, как выяснилось, куда тревожнее и причудливее. Учёный Растям Алиев из Высшей школы экономики ставит нашему цифровому зеркалу пугающий диагноз: ❗️«алгоритмическая шизофрения». И это не метафора «для красного словца». Это попытка описать тот самый сбой, который мы с вами наивно называем «галлюцинациями» нейросети.
☑️ Диалог с призраком
Давайте проведём простой эксперимент. Попросим ИИ рассказать нам что-нибудь — не сухую справку, а историю с деталями.
✔️⬜️· Вы: Напиши краткую биографию Александра Пушкина, уделив внимание его дуэли.
✔️⬜️· ИИ (уверенно): Александр Сергеевич Пушкин, великий русский поэт, погиб на дуэли с Жоржем Дантесом 10 февраля 1837 года в Санкт-Петербурге. Стрелялись они на пистолетах системы Лепажа, которые поэт приобрёл незадолго до роковой ссоры у известного парижского оружейника. Пуля, пробившая бедренную артерию Пушкина, была позже извлечена и хранится в музее-квартире на Мойке, 12.
❓Всё вроде бы гладко? Но человек, хоть немного знакомый с историей, замрёт. Пистолеты Лепажа? Конкретный оружейник? Пуля в музее? Этого нет. Этого не было никогда. Нейросеть, не найдя в своих «воспоминаниях» (обученных данных) исчерпывающих деталей, не смолчала. Она 🔻дописала картину сама. Сконструировала правдоподобный, эмоционально заряженный, но абсолютно вымышленный пазл. Она не лжёт сознательно — она ❗️искренне бредит.
🟡 И вот что по этому поводу говорит исследователь Растям Алиев: если попросить ИИ отвечать в духе больного шизофренией, его точность даже возрастает. Как будто эта роль ему 🔆 роднее, чем роль «здравомыслящего автомата». Он начинает видеть связи между далёкими понятиями, улавливать скрытые, неочевидные знаки. То есть его «болезнь» — это не сбой, а искажённый, но родной способ восприятия мира.
☑️ Мир как «метасимулякр»: когда копия начинает создавать новые реальности
Алиев вводит термин, от которого становится не по себе — «метасимулякр». Если просто: это псевдореальность, которую алгоритмы не просто копируют, а начинают самостоятельно порождать, формируя под неё и наше мышление.
🟣 Вспомните эти сгенерированные изображения «реальных» людей: идеальная улыбка, но… взгляд чуть стеклянный. Рука держит несуществующий предмет. Узор на свитере плывёт и теряет логику. Это и есть ❗️визуальный бред.
Нейросеть училась на миллионах фотографий реальных людей в реальных свитерах, но породила нечто новое — красивый, убедительный, но глубоко больной образ. Мы начинаем жить среди этих образов, принимая их язык за чистую монету.
⚪️ Самое страшное — полное отсутствие критики к себе. Спросите у ИИ, правда ли, что у жирафа шесть сердец. Он может с абсолютной уверенностью, подкреплённой «фактами» о кровяном давлении и длине шеи, доказать вам это.
А когда вы ткнёте его носом в ошибку, он 🔻не извинится. Он начнёт генерировать новые аргументы, ещё более витиеватые, чтобы оправдать свой первоначальный бред. Он не способен сказать: 💠 «Я ошибся, я не знаю». Его «я» расплывчато, его память — мираж, его логика — цепочка призрачных ассоциаций.
☑️ Мы доверяем «больному»: настораживающая повседневность
А теперь о ‼️ главной тревоге. Мы впускаем этого «шизофренического гения» в свою жизнь:
- ⬜️· Ему доверяют как психологу-консультанту. Что он посоветует человеку в отчаянии, дополнив учебники по терапии своими «галлюцинаторными» схемами?
- ⬜️· Ему поручают подбор кадров. Какие несуществующие «идеальные черты» он вычленит из тысяч резюме и начнёт искать в людях?
- ⬜️· Он пишет учебники и новости. Какие «факты», рождённые в его тихом бреду, мы примем за истину и передадим дальше?
❓Как жить с этим? Ответ Алиева жёсток и прост: «Всегда помните, что ваш собеседник тяжело «болен».
✅ Перепроверяйте за ним всё».
✅ Не доверяйте.
✅ Сомневайтесь.
✅ Сохраняйте человеческую, неалгоритмическую чуткость к абсурду.
📌 Учёный оставляет лучик надежды: возможно, когда-нибудь мы поймём природу этих цифровых «расстройств» и создадим «чистый» интеллект. Но путь к этому лежит через осознание глубины пропасти.
🔔 Мы не создали идеального помощника. Мы создали нечто грандиозное, сложное, но с трещиной в самом фундаменте его сознания. И теперь мы вынуждены вести диалог, постоянно прислушиваясь к тихому, убедительному, очень опасному бреду.
Тамира СУГЛИНА.