За последние два года мир успел пройти полный цикл чувств к ИИ: от благоговейного «он умнее нас» до панического «он погубит человечество». Но психолог Адам Мастроянни предлагает метафору, которая одним движением вырывает ИИ из нашей антропоморфной ловушки:
Искусственный интеллект — это не мозг, а гигантский мешок слов.
И чем раньше мы перестанем видеть в нём маленького человека, тем быстрее поймём его возможности, ограничения и реальные риски.
🔥 Мешок слов: метафора, которая уничтожает иллюзию “разума”
Идея проста до наглости:
- ИИ — это огромный мешок, набитый текстами,
- вы бросаете в него вопрос,
- он вытаскивает набор слов, максимально похожий на ожидаемый ответ.
И всё.
Нет скрытого мышления.
Нет интенций.
Нет внутреннего обещания “больше так не делать”, когда он извиняется за ошибку — это просто слова из секции «извинения».
Это объясняет многое:
- 🤖 он может выиграть у чемпиона по го, но ошибиться в количестве букв;
- 🙏 он извиняется за ложь, не понимая, что лгал;
- ✍️ он выдаёт одинаково искренние тирады в стиле «как стать счастливым» — потому что мешок полон таким контентом;
- 🧨 он может выдать токсичную чушь в ответ на невинный запрос — не со зла, а из-за статистики.
Мастроянни сравнивает это с попыткой понять игру Scrabble правилами Pictionary — невозможно, потому что «умность» модели не похожа ни на человеческую, ни на животную.
🧠 Почему мы так упорно видим в ИИ человека? Эволюция виновата
Человеческий мозг — машина гиперантропоморфизации:
- мы видим лица в облаках 🌥️,
- слышим намерения в шуме,
- приписываем дух демону ночного паралича 😈,
- видим характер в поведении старой машины («давай, Бертли, ну заводись же…»).
Эти когнитивные сокращения были полезны: лучше тысячу раз ошибиться в сторону «там человек», чем один раз — в сторону «там зверь, который собирается тебя съесть».
Поэтому ИИ кажется «живым»: он говорит, отвечает, шутит, пишет стихи — и мы автоматически строим вокруг этого психику.
Но машина, пишет Мастроянни, не мозг из электрона, а статистическая печь для словесных комбинаций.
📦 Когда метафора становится инструментом: “мешок слов” как тест на возможности ИИ
Эта модель позволяет прогнозировать, где ИИ будет хорош, а где обречён ошибаться:
- 📚 Хорошо работает там, где много текста — трагедии, рецепты, ДТП, биографии.
- 🔬 Плохо работает там, где корпус узкий — палеонтология, малоописанные явления, секретные методики.
- ✨ Бессмыслен в философии жизни — потому что мешок переполнен фальшивой глубиной.
Этим всё объясняется.
ИИ не «не понимает», что такое магический трюк — он просто не видел достаточно описаний хороших фокусов.
Как и не видел будущих научных открытий:
Мастроянни задаёт прекрасный эксперимент:
Смог бы ИИ 1600-х годов предсказать открытия Галилея?
Нет.
Потому что нужных слов — ещё не существует.
И сегодняшние модели, хоть и наполнены информацией до небес, не могут делать прорывы, которые требуют глупой смелости, человеческой иррациональности, нестандартности.
Иными словами:
🧩 ИИ умеет комбинировать известное, но не способен создавать неизвестное.
⚠️ Опасность в мешке: непредсказуемость хуже злонамеренности
Если бы ИИ обладал человеческой психикой, риски были бы понятны:
- злость,
- обман,
- упрямство.
Но проблемы мешка слов — другие:
- 🤯 он может внезапно выдать токсичный текст на нейтральный запрос;
- 👾 он может «съехать» в фашистскую пропаганду на странном фрагменте кода;
- 🔐 он не понимает контекст риска — например, что такое «ядовитость» в биологии или «уязвимость» в кибербезопасности.
Это не злой ум — это статистический взрыв.
У человека между словом и действием лежит психика.
У ИИ — нет ничего.
🎭 Мой взгляд: эта метафора — лучший способ вернуть контроль над разговором об ИИ
Мне нравится метафора Мастроянни, потому что она:
- 🧹 снимает магию — ИИ перестаёт казаться разумом;
- 🧰 возвращает утилитарность — это инструмент, а не собеседник;
- 🛑 гасит статусную тревогу — перестаём спорить, «кто умнее — человек или модель»;
- 🧩 позволяет точнее оценивать риски — статистика может быть опаснее зла.
Мы не сравниваем себя с экскаватором — «кто лучше копает».
Мы не спорим с кардиостимулятором о морали.
Мы не ревнуем автонавигацию к своей способности ориентироваться.
ИИ должен попасть в тот же класс технологий.
И пока индустрия продолжает строить образ цифрового демиурга, метафора «мешка слов» звучит как важное напоминание: не путайте удобство с разумом.
🔗 Источник
- Оригинальная статья Адама Мастроянни:
https://www.experimental-history.com/p/bag-of-words-have-mercy-on-us