Президент России Владимир Путин в своем выступлении на пленарной сессии дискуссионного клуба «Валдай» обратил внимание на потенциальные риски, связанные с внедрением технологий искусственного интеллекта. Возможные проблемы и пути их минимизации представители Татарстана обсудили на площадке Экспертного клуба.
Так, первый проректор и проректор по научной работе Казанского инновационного университета, депутат Государственного Совета РТ Игорь Бикеев сравнил искусственный интеллект с могущественным джинном, который уже выпущен на свободу из своей лампы. Он напомнил и о взаимном недоверии государств, и о бизнес-составляющей, которая со временем может привести к росту стоимости ИИ-сервисов.
В связи с этим доктор юридических наук счел главным «научиться эффективно и предельно рационально пользоваться искусственным интеллектом во благо людей и России, а также обезопасить себя от связанных с ним рисков» и упомянул три проблемы, нуждающиеся в решении.
Во-первых, уверен Бикеев, «ответственность за действия ИИ и за их последствия должен нести только человек (разработчик, владелец или кто-то другой – это нужно определить)». Во-вторых, требуется четко просчитывать результаты применения ИИ-систем. «В-третьих, недопустима утрата большим количеством людей в результате применения ИИ познавательных и мыслительных способностей», – подчеркнул он.
Руководитель исследовательского агентства Антон Глухов в свою очередь констатировал, что ИИ затрагивает одновременно экономику, рынок труда, образование, управление, безопасность и даже наши представления о роли самого человека. На его взгляд, речь идет о переменах исторического характера, сопоставимых с возникновением письменности, книгопечатанием, промышленной революцией или как минимум массовым распространением компьютеров и интернета.
Специалист вспомнил и об извечных спорах, не ослабляют ли технологии базовые навыки человека, и о трудностях с прогнозированием технологических изменений. При этом он выразил уверенность, что на данный момент правильнее говорить не о массовом исчезновении профессий из-за ИИ, а о радикальном изменении набора задач внутри них.
«Именно поэтому я достаточно осторожно отношусь и к катастрофическим, и к чрезмерно оптимистичным прогнозам. <...> Сегодня у нас просто недостаточно данных, чтобы уверенно сказать, какой из сценариев окажется ближе к действительности. Но на пути улучшения технологий ИИ человечество уже не остановить», – убежден Глухов.
Риском, который уже сейчас беспокоит эксперта, является оптимизация человеческих ресурсов. «Бизнес очень быстро увидел в ИИ возможность сокращать затраты на персонал. <...> На уровне отдельной компании эта логика понятна <...>. Но на уровне всей экономики возникает более сложный вопрос. Если рост производительности будет сопровождаться масштабным сокращением доходов значительной части людей, кто в конечном итоге станет потребителем произведенных товаров и услуг?» – задал он риторический вопрос.
Кроме того, Глухов упомянул опасности, связанные с галлюцинациями ИИ, воспроизведением им ошибочной информации и использованием его злоумышленниками. «Особенно опасна ситуация, когда человек постепенно перестает проверять рекомендации системы просто потому, что привык доверять машине», – уверен он.
В связи с этим специалист призвал к максимизации человеческого контроля вместе с ростом цены ошибки и прозрачности при взаимодействии с ИИ, а также к системному обучению людей навыкам использования соответствующих технологий.
Упомянул Антон Глухов и успехи Татарстана во внедрении ИИ-сервисов. Так, в республике создана единая база более чем из 12 млн электронных ЭКГ, а система с применением искусственного интеллекта ежедневно помогает выявлять около 600 патологий. «Здесь особенно хорошо видно правильное распределение ролей: алгоритм способен быстро проанализировать огромный массив данных и обратить внимание врача на возможную проблему, но окончательное медицинское решение остается за специалистом», – добавил он.
«В будущем важным преимуществом человека станет не способность конкурировать с машиной в скорости обработки информации, а способность ставить задачи, критически оценивать результат, понимать контекст, брать на себя ответственность и принимать решения там, где одного алгоритма недостаточно», – подытожил руководитель исследовательского агентства.
Кандидат технических наук, заведующий кафедрой реактивных двигателей и энергетических установок КНИТУ-КАИ Алексей Лопатин сосредоточил свое внимание на проблемах высшего образования.
Ученый констатировал, что применение ИИ состоявшимися специалистами из любой отрасли позволяет заметно усилить и ускорить ожидаемый результат, а в руках посредственности тот же инструмент может принести немало проблем. Чтобы избежать отставания, следует активно осваивать и развивать все доступные большие языковые модели. При этом обучение ИИ представляет собой один из самых дорогостоящих моментов этого процесса.
«К сожалению, возраст преподавателей зачастую не позволяет им сразу же свободно пользоваться возможностями ИИ. Думаю, необходимо активно вовлекать и обучать наш учительский и профессорско-преподавательский состав основам профессионального применения ИИ в повседневной преподавательской и исследовательской деятельности», – призвал Лопатин.
По его оценке, сейчас дети владеют технологиями использования ИИ более уверенно, чем значительная часть взрослого населения. На взгляд исследователя, это значит, что для образовательной системы критически важно, чтобы «преподаватели не отставали, а лучше бы и обгоняли нашу молодежь в этих прикладных компетенциях». «В ином случае прямое регулирование работы ИИ в запретительном контексте приведет, по моему мнению, к стагнации в образовании», – резюмировал Алексей Лопатин.