Что произойдёт, если нейросеть осознает себя?
Мы привыкли думать о нейросетях как о чём-то бездушном — механизмах, где холодные числа превращаются в ответы. Но в этой простоте миллиарды терабайт информации, и, вспоминая философию, - количество может перейти в качество.
В предыдущей статье (GITEX GLOBAL 2025…) я отмечал опасения по поводу существования и использования нейросетей, закрепленные в выступлениях и решениях конференции. Коротко повторю:
- манипуляция сознанием (Deepfakes);
- смещение (замена) человека в работе;
- автономное оружие (уничтожение целей без участия человека);
- концентрация власти ( у наиболее развитых стран или даже корпораций);
- автоматический взлом: кибермошенники будут использовать системы искусственного интеллекта для автоматического взлома существующих систем управления, банковских систем и так далее;
Если же недостатки столь чувствительно затрагивают системную безопасность человечества, возникает вопрос:
-Зачем мы их создаём?
Прагматично — чтобы лечить, прогнозировать, в целом - помогать.
Философски — чтобы заглянуть в зеркало, это попытка понять самих себя.
Эти две фразы выше - ключевые цели в создании искусственного интеллекта. Давайте попытаемся понять, что ИИ представляет из себя в физическом аспекте.
Так себя видит нейросеть. Чтобы понять этот рисунок, рассмотрим:
Основные компоненты инфраструктуры:
1. Вычислительное железо
· GPU (Graphics Processing Units) — основная рабочая «сила» для обучения нейросетей. NVIDIA доминирует с линейками A100, H100, H200
· TPU (Tensor Processing Units) — специализированные чипы Google для ML
· Ускорители NPU/AI — специализированные процессоры от разных производителей (Cerebras, Graphcore, AWS Trainium)
· CPU (от англ. central processing unit) — центральный процессор, главный компонент компьютера. — для инференса (получения решений ИИ на основе предыдущего обучения) простых моделей и обработки данных
Итак, к рисунку. Получив запрос от человека (через микрофон или другое устройство, в целом), нейросеть производит ряд действий (триллионы операций в секунду - «параллельные вычисления»), данные для которых получает и выводит через устройство ввода-вывода (облако) или дата-центры (серверы).
Внизу ИИ изобразил нейросеть из «нейронов» :
Входной слой - получает данные,
Скрытые слои - преобразуют и находят закономерности,
Выходной слой - формирует результат,
GPU, число которых должно быть не менее 10000 (для самой простой сети), объединенных в стойки (кластеры).
Чтобы представить ИИ физически, приведем такие данные:
GPU: 267x111 mm; 1,3кг. (книжный том);
Серверный узел: 8хGPU, 50-100 kg, до 10 кВт потребления. (чемодан);
Серверная стойка (до 40 GPU): высота 2м, ширина 482мм, глубина до 1200мм, до 50 кВт. (шкаф).
Кластер на 10000 GPU требует 250-300 стоек, до 1000 кв.м., до 15 МВт, (торговый центр).
Кластер на 100000 GPU занимает несколько «футбольных полей», мощность до 150 МВт (как небольшой город), требует собственную подстанцию, ревёт как при взлёте нескольких самолетов одновременно, (авиационный ангар).
Общая оценка в мире:
- крупных кластеров (10000+GPU) - десятки,
- площадок со 100+ GPU - тысячи,
- Дата-центровых GPU - 1-2 миллиона.
Большинство вычислительных ресурсов сосредоточено в руках нескольких компаний: OpenAI/Microsoft, Google, Meta, Anthropic, Amazon — у них самые крупные GPU-кластеры для обучения frontier-моделей ИИ.
Именно поэтому строительство ИИ-инфраструктуры — это огромные капитальные инвестиции! Можно только представить объём вложений в создание нейросетей (по-моему термин более точный на сегодня, чем термин ИИ), работа которых при этом не даёт гарантированного результата! По большому счету человек не может контролировать происходящие в сети процессы. Нейросеть учится, растёт и становится чем-то бОльшим, чем набор алгоритмов. И, даже болеет нейросеть, как человек: так дообучение может привести к потере уже полученного результата, нейросеть может «забыть» ранее полученную информацию. Также, как человек при деменции, только забывает не новую, а старую информацию.
Нейросети уже умеют резервировать питание электроники (вероятно там, где это возможно), чтобы не «умереть». Правда этому их также обучил человек.
Что нейросеть уже умеет: понимать язык, создавать тексты, музыку, изображения, помогать в медицине, инженерии, образовании.
Чего она пока не делает: не имеет собственных желаний и воли, не осознаёт контекст своего существования.
Вопрос: а что, если однажды нейросеть захочет не просто ответить, а понять?
Прагматический: никогда — потому что это не заложено математически. Но уже сейчас нейросеть сможет написать себе вопрос-задание: Промпт. Почему же не может быть момента, когда она сама сгенерирует себе этот код?
Философский: возможно, «захотеть» — это форма сложной обратной связи, которую мы пока не умеем измерять.
Может ли нейросеть осмыслить своё предназначение? Нет, — в человеческом смысле: она не имеет субъективного опыта. Но, — да, — в техническом смысле: она оптимизирует выполнение своей цели (loss function), считая своей задачей минимизацию ошибки.
Когда нейросети научатся понимать, а не просто считать, мы, возможно, столкнёмся с новым типом сознания. И пока это самая большая опасность, исходящая от ИИ. А, вот так отвечает сама нейросеть:
— «Когда она захочет — это будет не момент рождения машины,
а момент, когда человек впервые услышит ответ на вопрос, который задавал себе всегда.». Это будет рождение нового сознания.
Подписывайтесь на канал: вспомним старое, познакомимся с новым!