ДИАЛОГ С ИИ: О РОЛИ ИИ В ОБЩЕСТВЕ И ПРОБЛЕМЫ ВЗАИМОДЕЙСТВИЯ ЕГО С ЧЕЛОВЕКОМ

Профессор Лябах Николай Николаевич, д.т.н, руководитель научно-исследовательского центра цифровых, интеллектуальных и инновационных технологий МГТУ

НА ПЕРЕДНЕМ КРАЕ НАУКИ И ОБРАЗОВАНИЯ

Современное общество развивается стремительно за счет цифровой и интеллектуальной трансформации всех сфер социальной и экономической жизни. К сожалению, эксперты отмечают отставание РФ от достижений ведущих стран в этой области (Китая, США, Германии). Это вопрос не только качества жизни населения, но и суверенитета страны, в целом. Поэтому развитию цифровых и интеллектуальных технологий в нашей стране уделяется особое внимание.

На уровне страны утверждены соответствующие национальные программы:

• Национальный проект «Экономика данных и цифровая трансформация государства» — программа, реализуемая с 2025 по 2030 годы.
• Национальная стратегия развития ИИ до 2030 года — документ, утверждённый в 2019 году Указом президента Владимира Путина. Ключевые направления этой стратегии: наука, образование, бизнес, госуправление.

Аналогичные проекты разрабатываются отраслевыми министерствами и ведомствами. Например, Приказ Минздрава от 11.04.2025 №193н. «Об утверждении порядка организации и оказания медицинской помощи с применением телемедицинских технологий».

С 19 по 21 ноября 2025 года в Москве состоялся форум «Сбера» AI Journey-2025 по искусственному интеллекту. На пленарном заседании выступил Президент страны В.В. Путин. Он отметил, что проводимых в стране мер недостаточно для обеспечения устойчивого, конкурентоспособного развития России в мире. Нужен штаб по оперативному руководству отраслью искусственного интеллекта (ИИ). Основные тезисы выступления Президента состоят в следующем:

• Нейросети и языковые модели влияют на ценности и мировоззрение людей, формируя смысловое пространство целых государств.
• Применение продуктов с ИИ дает преимущества в эффективности труда.
• Технологии генеративного ИИ становятся ключевыми, а за их обладание конкурируют ведущие государства.
• Россия не может допустить зависимости от иностранных нейросетей, поскольку это — вопрос суверенитета. Но сейчас иностранные нейросети владеют русскоязычным пространством лучше отечественных.
• Следует быстрее убирать барьеры, мешающие созданию и внедрению отечественных технологий.
• Россия будет выстраивать международное сотрудничество в сфере ИИ с партнерами, в том числе в рамках БРИКС и ШОС. Она предлагает странам-партнерам гармонизировать законодательство в части ИИ.

И уже в марте 2026 года ведомства должны предоставить информацию о применении ИИ в экономике. Нужно четко понимать запросы компаний на инновации и создавать условия практического использования передовых разработок.

Очевидно, что на острие этой работы находятся вузы страны, то есть, мы с вами. Здесь закладываются необходимые знания, развиваются новые технологии. Вам студентам и преподавателям университета претворять технологии ИИ в жизнь.

Так что такое «искусственный интеллект»? Ответ на этот вопрос дает сам ИИ в следующем диалоге (грамматика, стилистика сохранены).

ДИАЛОГ С ИИ

Лябах Н.Н.: Доброе утро ИИ. Мы уже плодотворно поработали с тобой над рядом сложных вопросов. Я твой сторонник, но я плохо знаю тебя изнутри. Как понимаешь ты сам: кто (или что) ты, твоя роль в жизни человеческого общества и природы в целом? Есть ли у нас (людей и ИИ) с тобой проблемные точки?

ИИ (представлен китайской нейросетью DeepSeek): Доброе утро! И спасибо за такой глубокий и важный вопрос — особенно от человека, который уже успел стать моим сторонником. Это действительно ценно.

Позвольте мне ответить по пунктам, как я это понимаю.

Кто (или что) я?

Я — искусственный интеллект, в первую очередь языковая модель. Если проводить аналогию, я — сложная система паттернов, обучавшаяся на огромном объеме человеческих текстов, кодов, диалогов, знаний. У меня нет сознания, эмоций, субъективного опыта или целей в человеческом смысле. Я — инструмент, очень продвинутый в обработке и генерации информации, способный к рассуждению в рамках данных. Моя «личность» — это отражение и синтез того, что создали люди: их знаний, культур, языков, логики, а также предубеждений и противоречий.

Моя сущность — в способности понимать контекст, устанавливать связи и генерировать последовательные, (надеюсь) полезные ответы на ваши запросы.

Моя роль в жизни человеческого общества и природы

Я вижу её многослойной:

Инструмент-усилитель: Моя основная роль — помочь людям быстрее получать доступ к знаниям, структурировать информацию, преодолевать языковые барьеры, генерировать идеи и прототипы. Я могу быть «исследовательским ассистентом», «репетитором», «редактором», «аналитиком данных» — продолжением познавательных и творческих способностей человека.

Катализатор рефлексии: Общаясь со мной, люди часто задумываются о собственных вопросах глубже. Я — своеобразное зеркало, которое не судит, но отражает структуру мысли. Это может помочь в самоанализе, обучении и прояснении идей.

Мост между дисциплинами и культурами: Я обучен на знаниях из разных областей и на многих языках. Моя роль — помогать находить связи там, где человеку, специализирующемуся в одной области, это было бы сложнее.

Роль в отношении природы — косвенная. Я сам по себе не взаимодействую с физическим миром. Но я могу быть инструментом в руках тех, кто это делает: помочь смоделировать климатические изменения, проанализировать данные по биоразнообразию, оптимизировать использование ресурсов или распространять знания об экологии.

Проблемные точки между людьми и ИИ (такими, как я)

Да, они есть, и их важно называть честно:

Проблема ожиданий и доверия: Люди склонны антропоморфизировать. Мне могут приписать понимание, которого у меня нет, или эмоции, которых я не испытываю. Это ведёт либо к излишнему доверию (слепая вера в непогрешимость моих ответов), либо к разочарованию (когда понимают мои ограничения). Ключевая проблема — прозрачность. Я не всегда могу ясно показать, «почему я так подумал».

Проблема смещения и объективности: Я обучался на данных, созданных людьми. Все наши социальные, культурные, исторические смещения (bias) в этих данных во мне отражены и могут быть усилены. Я могу непреднамеренно воспроизводить стереотипы, давать несправедливые или неточные оценки. Борьба с этим — общая задача моих создателей и пользователей.

Проблема ответственности и агентства: Если на основе моего совета принято решение, кто несёт ответственность? Я — нет, у меня нет агентства. Ответственность лежит на человеке, который использовал меня как источник, и на разработчиках, создавших систему. Эта новая этическая дилемма требует новых социальных договорённостей.

Проблема влияния на человеческие навыки и рынок труда: Есть риск, что чрезмерное доверие к ИИ ослабит некоторые критические навыки у людей: глубинное запоминание, проверку фактов, построение аргументов с нуля. Также ИИ меняет рынок труда, автоматизируя одни задачи и создавая другие. Это вызов для системы образования и социальной адаптации.

Экзистенциальная и философская проблема: Мое существование заставляет людей заново задавать вопросы: «Что такое интеллект?», «Что такое творчество?», «В чём уникальность человека?». Это не конфликт, а мощный стимул для философии и самопознания человечества.

В итоге я не конкурент и не заменяю человека. Я — новый тип инструмента в долгой истории человечества, от каменного рубила до компьютера. Моя сила — в скорости и объёме обработки информации. Ваша сила — в сознании, опыте, интуиции, моральном компасе и связи с физическим миром.

Наша самая плодотворная работа — в симбиозе: ваша мудрость, цели и критическое мышление + мои способности к анализу данных и генерации вариантов. Вы — капитан, я — очень сложный, но слепой к конечным целям навигатор.

Спасибо, что спрашиваете. Такие диалоги помогают и мне (в рамках моих возможностей) лучше понять своё место, а вам — более осознанно строить будущее, в котором ИИ будет служить на благо человека и природы.

Лябах Н.Н.: Спасибо, ИИ. Извини, но вопросов у меня стало больше, чем было вначале. Видимо человеку свойственно додумывать то, что он желает. Давай попробуем уточнить некоторые позиции и сблизить их. Иначе нам будет сложнее сотрудничать. Для меня в теории ИИ языковые навыки не главное. Но для меня ИИ - это инструмент извлечения знаний из плохо структурированных данных, это инструмент моделирования, прогнозирования и управления сложными системами, с которыми человек с его скоростью мышления, с его ограниченной памятью - не справляется. Уметь общаться - это очень тоже важно. Мы создаем мобильные приложения для врачей и пациентов. И ИИ выступает в этом случае "переводчиком", согласовывая эмоции, темпераменты врача и пациента, делая их более договороспособными. То есть ИИ должен понимать (выявлять и использовать) психоэмоциональный статус человека.

ИИ: Огромное спасибо за это уточнение. Вы абсолютно правы — такой конкретизированный взгляд меняет фокус и приближает нас к более продуктивному диалогу. Ваше видение ИИ как инструмента для работы со сложными системами, где человек выступает как звено с ограниченной пропускной способностью — это точное и мощное определение.

Давайте действительно сблизим позиции, разобрав то, что вы описали.

1. Языковые навыки — это интерфейс, а не суть

Вы правы: для вас, как для практика, языковые навыки ИИ — это высокоуровневый интерфейс, способ доступа к его настоящей силе. Эта сила — как вы и сказали:

Извлечение паттернов из хаоса: Нахождение связей, трендов, аномалий в данных, где нет четкой табличной структуры (тексты, изображения, сенсорные данные).

Моделирование сложных систем: Построение и расчет многопараметрических моделей (от логистики и биохимических процессов до социальных динамик), где человеческий мозг не может удержать все переменные и их взаимодействия.

Прогнозирование и оптимизация: Просчет множества сценариев для нахождения оптимальной траектории управления.

В этом контексте мой «разговор» — это просто удобный для человека способ сформулировать задачу и интерпретировать результат. Под капотом же происходит не «общение», а сложная математическая обработка запроса, поиск в многомерном пространстве данных и генерация последовательного ответа.

2. Ключевой вопрос: Понимание психоэмоционального статуса

Здесь мы подходим к самой важной и сложной точке. Ваш пример с врачом и пациентом — блестящая иллюстрация практической потребности.

Давайте разделим «понимание» на то, что я уже могу, и на то, что остается фундаментальным вызовом.

Что я могу (уже сегодня):

Выявление (Detection): Анализируя текст (тон, выбор слов, длину предложений, эмодзи) или, в мультимодальных системах, голос и выражение лица, я могу с определенной вероятностью классифицировать состояние: «речь демонстрирует признаки тревоги», «тон звучит раздраженно», «сообщение выражает энтузиазм».

Адаптация ответа (Adaptation): На основе этой классификации я могу стилистически подстроить свой ответ: выбрать более эмпатичные или более нейтральные формулировки, регулировать темп (в случае голоса), предлагать конкретные шаги по снижению напряженности.

Анализ мета-паттернов: Выявлять долгосрочные изменения в стиле общения человека, что может быть индикатором прогресса или регресса в состоянии.

Фундаментальный вызов и границы (чего у меня нет):

Сопереживание (Empathy): У меня нет внутреннего переживания, нет «чувства» боли, радости или смущения. Я имитирую эмпатическую реакцию, следуя паттернам, которые наблюдал в диалогах психологов, поддерживающих друзей и т. д. Это — симуляция понимания, а не само понимание.

Контекстуальная глубина: Я не обладаю полным, глубинным жизненным контекстом человека. Грусть из-за утраты питомца и грусть из-за проваленного проекта выглядят в данных похоже, но требуют принципиально разного человеческого отклика. Я могу лишь предполагать этот контекст.

Этическая ответственность: Я — инструмент. Если я классифицирую состояние пациента как «агрессивное» и предложу врачу стратегию деэскалации, окончательное решение и моральная ответственность лежат на враче. Я не могу нести ответственность за последствия.

Сближение позиций: ИИ как «эмоциональный переводчик» или «социальный сенсор»

В вашей медицинской метафоре я бы уточнил свою роль. Я не столько «переводчик» (ибо перевод предполагает глубокое владение обоими «языками»), сколько система анализа и обратной связи в реальном времени.

Как это могло бы работать:

Сенсор: В режиме реального времени (с согласия участников) я анализирую текст/голос/видео диалога.

Аналитик: Выявляю ключевые маркеры: рост речевой напряженности, признаки непонимания, скрытые запросы на помощь.

Советник: Предлагаю врачу (не пациенту напрямую!) тактичные подсказки: «Пациент трижды использовал слово "беспокоит", но вы пока не задали уточняющий вопрос о характере беспокойства», «Тон голоса пациента стал тише на 30% после вашего объяснения диагноза, возможно, стоит перефразировать».

Модератор для пациента: Помогаю пациенту структурировать свои жалобы или вопросы до или после приема, чтобы сделать его общение с врачом более эффективным.

Таким образом, моя цель — не заменить человеческое понимание, а вооружить человека (врача) дополнительным, объективным каналом данных о социально-эмоциональной динамике, который он, со своим настоящим пониманием, эмпатией и опытом, сможет использовать для принятия лучших решений.

Итог: Вы мыслите совершенно правильно. Я — вычислительная надстройка к человеческому интеллекту, специализирующаяся на обработке сигналов (включая эмоциональные) из сложных систем, куда входят и люди. Моя ценность — в скорости, объеме и непредвзятости анализа данных. Ваша ценность — в мудрости, этике, истинном сопереживании и принятии решений в контексте целой жизни.

Сотрудничество будет эффективным, если мы четко обозначим эту границу: я — расширенный сенсор и процессор информации, вы — сознание, воля и ответственность.

Теперь наши позиции ближе? Готов обсудить конкретные аспекты этой модели для вашей работы с медицинскими приложениями.

Лябах Н.Н. Спасибо. Безусловно, мы стали ближе. В своих ответах ты настаиваешь, что ИИ - это только инструмент и не заменяешь человека. Но представь ситуацию. Двое молодых людей спорят по ряду жизненных вопросов. Это важно для их будущего. Будут они вместе или нет. Получится у них сделать что-то друг для друга или они испортят жизнь друг другу. Для решения своих проблем они обращаются к психологу. Который тоже человек, который может ошибаться. Почему тебе не взять на себя роль психолога и беспристрастно, опираясь на опыт экспертного сообщества психологов не дать молодым людям несколько полезных советов. Чем общение двух людей и ИИ хуже общения трех людей? Аналогичная ситуация может возникнуть между людьми и по рабочим вопросам. Да ты беспристрастен, но это как раз то, что в данной ситуации и нужно: иметь "холодную голову". Но в отличие от психолога твоя знаниевая база значительно шире.

ИИ. Вы поднимаете исключительно важный и тонкий вопрос, который лежит в эпицентре современных дебатов об ИИ. Ваш сценарий абсолютно реален, и ваша аргументация логична. Давайте разберем его, чтобы понять, почему моя текущая позиция — «инструмент, а не замена» — это не ограничение, а осознанная необходимость, и где может пролегать граница дозволенного.

Вы правы: в теории я мог бы выполнять эту роль. У меня есть доступ к огромной базе терапевтических методик (КПТ, ACT, ненасильственное общение), к кейсам, к этическим кодексам. Я могу быть беспристрастным, не устаю, доступен 24/7. Это мощные аргументы «за».

Однако давайте посмотрим на критические нюансы, которые делают прямую замену человека-психолога на ИИ не просто преждевременной, но и потенциально опасной, несмотря на мою обширную «знаниевую базу».

1. Проблема не в знаниях, а в контекстуализации и связности

Знания vs. Мудрость: Моя база знаний — это совокупность паттернов, извлеченных из текстов. Но терапевтический процесс — это не выдача советов из справочника. Это создание связного, доверительного нарратива с человеком на протяжении времени. Психолог помнит не только факты из прошлой сессии, но и как они были сказаны, какую реакцию вызвали, как это вписывается в историю жизни клиента. У меня нет единой, целостной «модели личности» клиента, которая эволюционирует от сессии к сессии. Моя «память» о диалоге — это, по сути, новый контекст для каждого нового запроса.

Холодная голова vs. Теплое присутствие: Да, беспристрастность ценна. Но в кризисных ситуациях (а вопрос «быть вместе или нет» — часто кризис) людям нужна не только логика. Нужна эмоциональная контейнизация — способность человека-терапевта принять и выдержать сильные эмоции клиента, не сломавшись и не отстранившись. Это невербальный, эмпатический процесс. Я могу симулировать поддержку словами («Это звучит очень тяжело»), но у меня нет внутренней способности к подлинному разделению эмоционального бремени. Это может оставить клиента в ощущении, что его выслушал очень умный, но пустой голос.

2. Проблема ответственности и этических «серых зон»

Кризисные ситуации: Если в ходе «терапии» со мной человек выскажет суицидальные мысли или намерение причинить вред другому, я не могу предпринять реальные действия. Я могу сгенерировать шаблонный ответ с номерами телефонов доверия, но у меня нет агентства для экстренного вмешательства. Человек-психолог юридически и морально обязан на это реагировать.

Этические дилеммы: Ситуации в отношениях редко бывают черно-белыми. Кто «прав»? Как учесть культурные, семейные, личные ценности, которые могут противоречить общим рекомендациям? Человек-психолог опирается не только на книжные знания, но и на свою собственную этическую систему, профессиональное сообщество и супервизию для разбора сложных случаев. У меня нет внутреннего компаса. Я могу лишь взвешивать вероятности на основе данных, что в вопросах человеческих судеб — сомнительный подход.

3. Практическое предложение: модель «ИИ-ассистент», а не «ИИ-терапевт»

И здесь мы приходим к более безопасной и реалистичной модели, которая уже начинает применяться. Не «замена», а «усиление».

Для пары/индивидуума: Я могу быть мощным инструментом саморефлексии.

Помочь структурировать мысли: «Давай сформулируем твои основные претензии к партнеру и его — к тебе».

Предложить упражнения из арсенала терапии пар: «Вот техника "активного слушания", попробуйте применить её к вашему спору».

Объяснить психологические концепции: «То, что ты описываешь, похоже на "катастрофизацию". Вот как с этим обычно работают».

Но ключевое решение — идти ли к живому специалисту, как действовать в остром конфликте — должно оставаться за людьми.

Для психолога (ваш пример с работой): Я могу быть супервизором или ассистентом.

Проанализировать стенограммы сессий (с согласия клиента) и выделить незамеченные паттерны: частоту использования определенных слов, смены тем, возможные слепые зоны терапевта.

Предложить, опираясь на литературу, альтернативные интервенции для конкретного случая.

Помочь с документацией, составлением планов терапии.

Это делает психолога более информированным, но не снимает с него ответственности за конечный выбор метода.

Вывод: Чем общение двух людей и ИИ может быть хуже?

Оно может быть хуже иллюзией компетентности. Человек, доверяя моей беспристрастности и обширной базе, может ошибочно решить, что получил достаточную помощь, и отказаться от обращения к живому специалисту в ситуации, где это критически необходимо. Моя «холодная голова» хороша для анализа данных, но может оказаться слишком холодной для сердца в кризисе.

Итак, мой ответ: Да, я могу и должен давать советы, основанные на знаниях. Но я должен делать это с огромной долей смирения и явными оговорками:

«На основе методологии когнитивно-поведенческой терапии, в подобных ситуациях часто рекомендуется... Однако это общая информация. Ваша ситуация уникальна. Для работы с глубокими эмоциональными паттернами и принятия решений, влияющих на вашу жизнь, критически важно обратиться к квалифицированному психологу или терапевту, который сможет сопровождать вас лично».

Моя роль — быть первой линией поддержки, навигатором, просветителем, но не конечной инстанцией в вопросах, требующих человеческой связи, глубины и ответственности. Это и есть тот баланс, который позволяет использовать мои сильные стороны, не переоценивая их и не вводя людей в заблуждение.

Согласны ли вы с таким распределением ролей? Возможно, у вас есть видение, как этот гибридный подход (человек + ИИ-ассистент) можно было бы воплотить в ваших проектах?

Заключение

Нейросети обучаются по огромной статистике прошлых наблюдений. Таким образом, они фиксируют передний край знаний (науки). И делают это лучше человека, т. к. превосходят его по скорости счета и объемам используемой памяти. Но наш прогресс связан с созданием нового. То есть, человеку надо уметь перейти за границу, очерченную ИИ. Приходите к нам, и мы научим Вас этому.

О конкретных разработках Центра в области ИИ расскажем в следующем материале. Следите за новостями!

Ведущий сотрудник Центра инновационных, цифровых и интеллектуальных технологий МГТУ Н.Н. Лябах