На "Форуме будущего 2050" в Москве много говорили о перспективах ИИ. Сменят ли машины человека? Скоро ли нейросети смогут мыслить, как мы? Ответа не было, пока не был задан один каверзный вопрос. Робот провалил экзамен о налогах для русских. И тогда всё встало на свои места.
На "Форуме будущего 2050", прошедшем в Москве, обсуждали широкий набор футуристических тем - от роботизации до перспектив развития искусственного интеллекта и привлечения нейросетей для решения серьёзных задач. ИИ, казалось, вот-вот станет универсальным помощником: и в работе, и в принятии решений. Но эта уверенность заметно пошатнулась, когда слово взял генеральный директор ООО "Рус.Цифра" Кирилл Малофеев.
Он рассказал, как пытался протестировать популярную нейросеть Grok с простой, на первый взгляд, задачей. Но даже платная продвинутая версия не справилась:
Хотел узнать одну простую вещь. Рассчитать налоговую ставку, которую брали монголы с крестьян в Древней Руси.
Однако робот не смог дать убедительный ответ. Пришлось разбираться самому. И тут, как отметил Малофеев, возник парадокс. До 1360 года ставка ордынского выхода составляла около 14%, а после этой даты - всего 7%. То есть налоговая нагрузка на русского крестьянина XIV века временами была ниже, чем на сегодняшнего IT-специалиста.
Но нейросеть мне это посчитать не может, потому что она не готова оперировать на фоне неполных данных. Потому что некоторые вещи человек должен достраивать сам. И этот навык никуда не денется,
- отметил Малофеев.
Этот поворот показателен. Нейросеть, способная за минуту смонтировать видео и выдать дипломную работу, растерялась там, где нужно было сопоставить неполные данные, учесть контекст, сделать вывод. ИИ всё ещё не умеет по-настоящему мыслить. Он не знает, где искать и, что важно, как отличить факт от домысла.
И в массовом внедрении нейросетей существуют определённые риски, отметил Малофеев. Он подчеркнул, что ИИ, которые создаются и обучаются в других государствах, могут действовать в их интересах. И главная угроза заключается в потере цифрового суверенитета:
Если мы используем чужие нейросети, обученные на чужих материалах, люди будут им доверять безусловно. Если ты с 7 лет в школе пользуешься этой нейросетью, она тебе друг, товарищ, психотерапевт, иногда даже твоя девушка. Поэтому риск заключается в утрате цифрового суверенитета. Если государство не контролирует, что там написано, это контролирует кто-то другой. Вот этой мифической нейтральной нейросети, которая служит интересам человечества, конечно, не будет. Это очень дорогой продукт.
__________
Не боимся говорить правду в Телеграме: https://t.me/tsargradtv
Правда о происходящем в России и мире.
Царьград собрал в специальном разделе самое важное.