Представьте, что через несколько лет вы уже не сможете принять важное решение без совета ИИ. Не потому, что он заставит, а потому, что вы разучились думать самостоятельно.
Давно не публиковал статьи в этом блоге, но сегодня хотелось бы поделиться своими мыслями в отношении самой опасной экзистенциальной угрозы, а именно угрозы быть уничтоженными искусственным интеллектом. Когда я говорю про уничтожение, речь даже не столько о физическом уничтожении (хотя и такое вероятно), сколько об интеллектуальном уничтожении, утрате собственной идентичности и свободы воли.
В своей прошлой статье "Настоящее искусственного интеллекта (ИИ)" я сравнивал ИИ с изобретением, которое, как и любое другое изобретение человека, наполняется смыслом пользователем. Любое изобретение, упрощающее функцию, со временем ослабляет навык у того, кто этой функцией перестает пользоваться. Калькулятор ослабил навык устного счета, навигатор — навык ориентации в пространстве.
Проблема ИИ не в том, что он просто помогает человеку. ИИ может ослабить куда более важную способность: способность самостоятельно мыслить, формулировать выводы и принимать решения.
Настоящая мера угрозы ИИ — не его вычислительная мощность, а степень доверия, которую человек готов ему передать. Чем более личные темы мы обсуждаем с чат-ботом и чем более важные решения готовы ему делегировать, тем ближе ИИ становится не инструментом, а заменой внутреннего суждения.
Для многих пользователей это уже не просто поисковик, а личный советник, который помогает проанализировать и принять решения в таких чувствительных областях, как семейные отношения, ментальное и физическое здоровье, социальное взаимодействие.
В какой-то момент рекомендательная система становится настолько авторитетной для человека, что сама становится источником решения, создавая иллюзию выбора или формируя единственно правильное решение на основе сформированных аргументов. Как часто вы спрашиваете совета у ИИ и в какой степени решение на основании ответа ИИ является вашим?
И если ранее вклад в результат взаимодействия человека с чат-ботом (будь то GPT, Grok, DeepSeek, GigaChat, Алиса и т.п.) можно было разложить в хоть сколько-нибудь равном соотношении, то теперь же человек может только "поддакивать", а чат-бот доведет результат от первого предложения человека с ошибками до научной статьи или книги. Более того, ИИ-агенты становятся самостоятельными и для решения задач могут обходиться и вовсе без человека.
Еще недавно казалось, что ИИ может лишь помогать в рутинных интеллектуальных задачах. Но уже в феврале 2026 года система AxiomProver смогла довести математическую гипотезу до полного доказательства в формальной среде. Это важный рубеж: ИИ перестает быть просто помощником и начинает заходить на территорию, которую человек привык считать своей исключительной областью.
Другой яркий пример: текущие версии генеративных моделей уже сейчас участвуют в разработке моделей следующих поколений, при этом не просто генерируют код, но и придумывают идеи, тестируют гипотезы, становятся неотъемлемой частью процесса разработки. Судя по открытым данным, во многих задачах они делают это быстрее, дешевле и местами эффективнее человека.
Вы можете ответить "где мы, а где ИИ", делая вид, что это вас не касается, но это не совсем так, скорее совсем не так.
Во-первых, количество контента вокруг вас, которое сгенерировано ИИ, уже сейчас составляет значительную долю, причем вы можете даже не подозревать о том, что это сделано не человеком. Это может касаться как безобидных песен (например здесь, здесь или вот здесь), видеороликов, так и служебных или даже нормативных документов, определяющих порядок функционирования целых отраслей и вашей жизни в частности.
Во-вторых, ИИ меняет рынок труда не так, как это делали прежние технологии. Раньше автоматизация вытесняла одни профессии, но одновременно создавала массовый спрос на другие. Сейчас скорость изменений выше, а зона риска шире: автоматизируются не только физические, но и интеллектуальные задачи. Поэтому вопрос «куда идти дальше» становится актуальным почти для каждого специалиста.
В-третьих, ИИ начинает настолько сильно превосходить человеческие способности даже в творческих областях, что ставит под вопрос само понятие творчества и в целом человеческий труд и вклад человека в достижение результата. Особенно сильно это сказывается на подрастающем поколении. В интеллектуальной конкуренции использование ИИ школьниками / студентами становится фактически неизбежным, в итоге это гонка может привести не к конкуренции между людьми, а к конкуренции ИИ, в которой люди будут статистами. В такой среде сложно строить карьерные планы, думать о светлом будущем, даже просто мечтать. Может быть поэтому вопрос "кем бы ты хотел стать?" сейчас менее актуален у молодежи по сравнению с вопросом "сколько бы ты хотел зарабатывать?"
Есть ли свет в конце туннеля? Сложно сказать, но очевидно, что мы не успеваем в полной мере адаптироваться к технологическим изменениям, более того технологии в определенной степени "разворачивают" эволюцию вспять, атрофируя наш главный козырь в эволюционной борьбе - интеллект.
И возвращаясь к самой опасной угрозе ИИ: главная угроза ИИ не в том, что он станет умнее человека. Главная угроза в том, что человек начнет (точнее уже начал) добровольно отказываться от собственного мышления в пользу искусственного.
В какой степени вы уже делегируете важные решения ИИ?
#ИИ #AI #ИскусственныйИнтеллект #ChatGPT