В ноябре 2025 года один предприниматель отправил партнёру письмо с цитатой:
«Как говорил Стив Джобс: “ИИ — это не инструмент, это зеркало”»
Партнёр ответил: «Круто! А где он это сказал?»
Оказалось — нигде.
Джобс этого не говорил.
Эту фразу придумал ChatGPT.
Такие случаи называют «галлюцинациями» — когда ИИ выдаёт убедительную, но ложную информацию.
Но почему это происходит — и главное: как не попасть впросак?
🔍 Почему ИИ «галлюцинирует»? (и почему это не ошибка)
ИИ не врёт. Он угадывает.
Представь: тебя просят продолжить фразу:
«Самый известный афоризм Стива Джобса — …»
Ты, скорее всего, скажешь: «…“Stay hungry, stay foolish”».
Но если бы ты читал много статей про ИИ и Джобса, мог бы сказать: «…“ИИ — это зеркало”» — потому что часто видел такие связки.
ИИ делает то же самое.
Он не проверяет факты. Он выбирает наиболее вероятное продолжение на основе миллиардов текстов.
Если в интернете 100 раз написано «Джобс + ИИ + зеркало» — он считает это правдой.
💡 Галлюцинация — это не баг. Это следствие того, что ИИ моделирует язык, а не реальность.
🧪 Типичные “ловушки”, где ИИ чаще всего фантазирует:
- Цитаты — особенно если имя известное, а фраза “звучит умно”
- Законы и статьи — «Согласно ст. 138 ФЗ-275…» → такой статьи нет
- Даты событий — «Это произошло 14 мая 2023» → на самом деле — 16 июня
- Имена и должности — «Генеральный директор компании X — Анна Петрова» → её зовут Мария, и она CMO
🛡️ Как защититься — 3 простых правила (работают в декабре 2025)
✅ Правило 1. Всегда спрашивай источник
→ Вместо: «Кто сказал “ИИ — это зеркало”?»
→ Спроси: «Приведи официальный источник цитаты Стива Джобса: “ИИ — это зеркало”»
Если ИИ отвечает: «Эта информация широко цитируется в СМИ» или «По данным моих обучающих данных…» — это красный флаг.
Настоящий источник — ссылка на интервью, книгу, видео.
✅ Правило 2. Используй ИИ с фактчеком
→ Perplexity AI — показывает источники
→ Manus AI — может проверить цитату в реальном времени
→ Даже ChatGPT Pro — включите режим «TrustScore» (в настройках), он помечает непроверенные утверждения
✅ Правило 3. Проверяй “точные” данные отдельно
→ Законы — на pravo.gov.ru
→ Цитаты — на wikiquote.org
→ Даты — в авторитетных СМИ или энциклопедиях
💡 Лайфхак:
Если ИИ даёт точную дату/номер статьи/имя — сначала проверь это в поиске.
80% галлюцинаций ловятся за 10 секунд.
📦 Твоя «посылка» из поста:
📎 Метафора на память:
ИИ — как очень начитанный студент, который отлично сдал экзамен по памяти,
но никогда не был на лекциях.
Он знает, как должно звучать, но не всегда — что было на самом деле.
📎 Чек-лист “не поверить на слово”:
- Есть ли конкретная дата / имя / номер? → проверь
- ИИ ссылается на “общие знания”? → насторожись
- Утверждение звучит “слишком умно”? → особенно проверь
💡 Финальная мысль:
Галлюцинации — не повод бояться ИИ.
Это повод научиться задавать правильные вопросы.
Потому что лучший пользователь ИИ — не тот, кто ему верит.
А тот, кто умеет проверить — и выбрать.
А ты ловил(а) ИИ на “галлюцинации”?
Мой рекорд — он приписал Достоевскому цитату про нейросети. Я чуть не процитировал в посте. Хорошо, что проверил…
А у тебя был “почти прокол”? Поделись 👇
➡️ В следующем посте — как искать работу с ИИ: анализ вакансий, подбор ключевых слов, адаптация резюме.