Канал AFTA — о мире после искусственного интеллекта
ChatGPT пишет стихи, объясняет квантовую физику, утешает в горе и шутит про политику. Звучит как разум. Выглядит как разум. Но внутри происходит кое-что принципиально другое — и это меняет всё, что мы думаем о будущем.
Представьте такую комнату
1980 год. Американский философ Джон Сёрл придумывает мысленный эксперимент, который до сих пор не даёт покоя исследователям ИИ.
Представьте: вас закрыли в комнате. Через щель в двери вам подают листы с китайскими иероглифами. Вы не знаете китайского — вообще ни слова. Но у вас есть огромная книга инструкций: если пришли вот такие символы, ответь вот такими. Вы честно следуете инструкциям, составляете ответ из иероглифов и передаёте его обратно.
Снаружи китайцы читают ваши ответы — и они абсолютно правильные. Логичные, уместные, умные. Со стороны кажется, что в комнате сидит человек, прекрасно говорящий по-китайски.
Но вы не понимаете ни одного символа.
Это и есть ChatGPT. Только книга инструкций — это несколько сотен миллиардов параметров, а иероглифы — слова любого языка мира.
Как это работает на самом деле
Языковая модель обучается на триллионах слов — книгах, статьях, форумах, разговорах. Она учится одному: угадывать, какое слово идёт следующим.
Не понимать. Не чувствовать. Не осознавать. Именно угадывать — на основе того, что встречалось рядом миллиарды раз.
Когда вы пишете "солнце светит над...", модель знает, что дальше статистически чаще всего идёт "городом", "морем", "горами" — и выбирает наиболее вероятное. Если вы спрашиваете про квантовую запутанность, она извлекает паттерны из тысяч научных текстов и собирает из них ответ.
Это колоссально сложно технически. Но по природе — это не понимание. Это очень точное, очень быстрое, очень масштабное угадывание.
Почему это важно — на конкретном примере
Попросите ИИ решить задачу, которой нет в интернете — принципиально новую, без аналогов. Он будет генерировать правдоподобно звучащий текст, который при ближайшем рассмотрении окажется набором похожих по форме, но пустых по содержанию фраз.
Потому что у него нет модели мира. Он не знает, что слово "горячий" означает ощущение — он знает только, что оно часто стоит рядом со словами "чай", "лето", "огонь". Он никогда не обжигался. Он никогда ничего не чувствовал.
Философы называют это разрывом между синтаксисом и семантикой. Синтаксис — это правила, по которым символы соединяются. Семантика — это смысл, который за ними стоит. ИИ блестяще освоил синтаксис. До семантики ему как до Луны.
Но подождите — а что такое вообще "понимание"?
Здесь начинается самое интересное — и самое неудобное.
Критики Сёрла задают резонный вопрос: а откуда вы знаете, что другой человек что-то понимает? Вы судите по его словам и действиям. Точно так же, как судите об ИИ.
Может быть, понимание — это и есть достаточно сложная обработка информации? Может быть, наш мозг тоже в каком-то смысле "угадывает" — просто на основе не текстов, а миллионов лет эволюции и тридцати лет личного опыта?
Этот вопрос философы не решили. И это честно признать.
Разница в одном: у нас есть тело, эмоции, история. Слово "потеря" для человека — это воспоминание о чём-то конкретном, что было и исчезло. Для ИИ — это вектор в многомерном пространстве, который часто стоит рядом с векторами "горе", "смерть", "расставание".
Одно и то же слово. Совершенно разная природа.
Что это значит для нас — практически
Из этого следуют три важных вывода, которые стоит держать в голове.
Первый. ИИ блестяще справляется с задачами, где важна форма — текст, код, структура, паттерн. Он плохо справляется там, где нужно по-настоящему новое решение, выходящее за рамки того, что уже было сказано человечеством.
Второй. Он убедителен — и это опасно. Когда что-то звучит умно и связно, мы автоматически приписываем этому понимание. Эволюция не готовила нас к собеседнику, который говорит правильно, но не думает вообще.
Третий. Работы, которые исчезнут первыми — не те, где нужен интеллект. А те, где нужна форма без глубины: стандартные тексты, шаблонный код, типовые ответы на типовые вопросы. Там, где важно понять уникальную человеческую ситуацию — ИИ пока только имитирует.
Тогда чего нам бояться на самом деле
Не того, что ИИ станет умнее нас. А того, что мы перестанем замечать разницу.
Если система достаточно убедительно имитирует понимание — в медицине, праве, образовании, управлении — и мы доверяем ей решения, которые влияют на жизни людей, то отсутствие настоящего понимания внутри становится очень реальной проблемой снаружи.
Сёрл был прав в одном: между манипуляцией символами и пониманием есть разрыв. Мы пока не знаем, можно ли его преодолеть технически. Но мы точно знаем, что сегодня он существует.
И об этом стоит помнить каждый раз, когда ИИ звучит особенно убедительно.
Следующая статья AFTA: какие профессии исчезнут первыми — и почему ответ вас удивит
AFTA — философия цифровой эпохи. Подписывайтесь