По лентам информагентств было распространено интересное сообщение, что Минфин России и Сбербанк заключили соглашение, направленное на сотрудничество в сфере искусственного интеллекта для усовершенствования бюджетного процесса. Генеративный ИИ будет помогать оценивать эффективность заявок с учетом текущих проектов, национальных приоритетов и других критически важных факторов. По словам Антона Силуанова, пилотный проект по внедрению ИИ прошел удачно. Модель помогла сократить нагрузку на сотрудников Министерства финансов до 70%. Всё хорошо: теперь ИИ будет отвечать за наши федеральные финансы, мониторить их. Но программу пишут люди - как они её напишут, так бюджет и будет рулить.
Сергей Михеев: Чтобы оценивать данное событие, нужно быть погруженным в детали. Не очень понятно, что значит «стало лучше», «стало хуже», «применять там и там». Для обработки большого объема статистических данных это, конечно, процесс оправданный и неизбежный, потому что компьютерные программы применялись раньше и будут применяться в дальнейшем. Другой вопрос: кто будет принимать решения о выделении или не выделении финансирования, определения того, что важно и что неважно для страны? Я думаю, что ИИ этого сделать не сможет, и одна из опасностей заключается в механистическом отношении к стране как к бизнес-проекту. К этому склонны все люди финансовой сферы, и в России тоже. Если наша страна бизнес-проект, то «можно доверить развитие и нейросетям».
Мне кажется, ущербность такого подхода демонстрирует нынешняя ситуация. Превалирование такого экономического подхода в определении наших целей и привело к тому положению, в котором мы сейчас находимся. Все надежды на то, что «экономика автоматически решает внешнеполитические проблемы и снимает угрозы; все экономические проекты на постсоветском пространстве решат наши геополитические проблемы; хранение наших денег и сбережений в иностранных банках безопасно; сокращение оптимизации расходов на оборону и другие важные вещи приведет к увеличению безопасности и не приведет к снижению показателей; и мы будем включены в международную систему разделения труда и у нас не возникнет проблем с внешними поставщиками», полностью провалились. Вот в чём проблема, и не замечать этого нельзя! Я не понимаю, как этого можно не замечать? Это очевидные вещи! По всем этим направлениям сплошная неудача, а все эти направления идеологически обоснованы людьми из экономически-финансовой сферы.
Поэтому вопрос в том, где, что и как будет применяться. Для обработки данных и прогнозирования это нормально, а для принятия решений – ненормально. Принимать решения по тому, как Россия должна развиваться, могут только ответственные политики, а не бухгалтера и калькуляторы! Если вместе собрать много-много калькуляторов, то они не смогут оценить всех вызовов и проблем, которые стоят перед страной, тем более наметить пути её развития.
Касательно того, кто на чём зарабатывает. Вопрос-комментарий про внедрение ИИ в Минфине: «Не считаете ли Вы, что это «договорняк» за деньги: одно ведомство дает заработать другим, и так осваивают госбюджет?»
Сергей Михеев: Первое: я такими сведениями не располагаю. Второе: если кто-то располагает, то это вопрос уголовного разбирательства. Третье: возможна ли в принципе раскрутка какой-то темы для дальнейшего освоения бюджета? Конечно, возможна. К сожалению, таких случаев огромное количество: сначала что-то раскрутят «до небес», а потом «сядут» на эти же деньги для того, чтобы их осваивать. Человеческие страсти, даже без ИИ, никуда не деваются. Как это ни парадоксально, но технический прогресс ничего не смог сделать с жадностью, предательством, изменой, подлостью и т.д. Более того, он становится одним из инструментов всего этого. И ничего никогда не сможет сделать, потому что технический прогресс не способен ничего изменить в природе человека, человеческих отношений с точки зрения морали и нравственности. Все надежды, что «технический прогресс сделает человечество счастливым», пустые.
По поводу внедрения ИИ много комментариев: кто-то говорит, что это «благо», кто-то пишет, что «пока полностью положиться на нейросеть нельзя». Преподаватель вуза пишет, что «ИИ разучил студентов думать, зато не избавил преподавателей от составления разных отчетов и ненужной бумажной работы. Вреда от ИИ пока больше, чем пользы». Пишет инженер: «При правильном применении алгоритмов система уверенно принимает конструкцию с крыши вместо фундаментов, а фундаментов – вместо крыши. В такой дом надо заселять апологетов ИИ». Я так понял, что «неправильную конструкцию» принимает ИИ. С другой стороны, нам слушатель напоминает об успехах ИИ в области медицины: анализ больших данных, много снимков и остальное.
Сергей Михеев: С этим (анализ больших данных) никто не спорит. Вопрос в принятии решений, а самое главное: абсолютизация роли ИИ, его обожествление приведет к потере контроля над ситуацией, и через это власть попадет в руки тех, кому лучше бы она не попадала. Или еще хуже того – ИИ начнет решать за вас, жить вам или не жить.
Слушатель пишет о медицине – да, здорово. Но что будет, если вам скажут: «Пусть ИИ принимает решение, например, об отключении аппарата искусственного дыхания»? Вы готовы к этому? Или ваш ребенок болеет и ИИ должен принимать решение: жить ему или не жить? Вас устраивает такое? Если такой вопрос задать конкретным людям в конкретных случаях с их родными и близкими, я думаю, что они быстро поменяют свою точку зрения. Или вы сами приходите в больницу, а вам говорят: «Наш ИИ достиг таких высот, что конкретно вас мы полностью поручаем ему. Нас всех сократили, поэтому вами будет заниматься компьютер. Он соберет все ваши анализы и примет решение: жить вам или не жить». Тогда вам станет неудобно, уважаемые апологеты ИИ! Тогда вы скажете: «Мне нужно поговорить с заведующим!» Но вам ответят: «Заведующий, главврач, специалисты – это всё тоже ИИ. Одна уборщица осталась, потому что ИИ не умеет мыть полы».
Именно к этому всё идет, поэтому здесь вопрос «золотой середины» и границ применения. Я пытаюсь сказать людям, что здесь надо иметь чувство меры, не терять здравый смысл и контроль над процессами, а у нас много завиральной болтовни. Самое плохое, что вся среда вокруг ИИ пытается его обожествить, поставить его на место человека, а это обман.