🔎 Почему нельзя доверять нейросети на 100%
Посмотрите на картинку — она объясняет всё лучше любых слов.
1️⃣ Есть реальность. Настоящая, физическая, бесконечно сложная.
2️⃣ Человек смотрит на неё глазами, слышит ушами, трогает руками — и у него в голове формируется образ, который он обдумывает. Это уже не реальность. Это слепок первого порядка. Приближённый, субъективный, но хотя бы основанный на прямом контакте.
3️⃣ Дальше человек садится за компьютер и описывает увиденное словами. Пишет статью, книгу, пост, формулу. Текст — это слепок второго порядка. Слепок со слепка. Часть информации неизбежно теряется, часть искажается.
4️⃣ А теперь самое интересное. Нейросеть берёт миллиарды таких текстов и учится по ним. Она никогда не видела реальность своими глазами. Не трогала. Не чувствовала. Всё что у неё есть — это слепок третьего порядка. Слепок со слепка со слепка.
И вот тут важный момент.
Внутри нейросети — по сути весь коллективный разум человечества. Все книги, статьи, исследования, дискуссии. И да — она реально умнее большинства отдельно взятых людей. Это факт, и глупо его отрицать.
Но она всё равно работает с копией копии реальности.
Именно поэтому она галлюцинирует. Уверенно выдаёт несуществующие факты. Путает детали. Придумывает источники. У неё нет физического якоря — нет способа сверить свои слова с реальным миром.
Было бы круто, если бы нейросеть была подключена напрямую к реальности — видела, слышала, проверяла каждый свой ответ в реальном времени. Но пока это фантазии.
А пока — пользуйтесь нейросетями. Но проверяйте. Всегда проверяйте.
Потому что слепок — каким бы детальным он ни был — это не реальность.
#Нейросети #Галлюцинации #ИИ
@gogpt — Подписывайтесь!
