Нейросеть занималась откатами. Такая сенсационная новость разнеслась по Сети. Но всё оказалось сложнее.
В конце сентября Албания заявила, что первой в мире назначает на должность министра не человека, а нейросеть по имени Диэлла. Искусственный интеллект был призван искоренить взяточничество при проведении торгов для государственных закупок. Идея была отличная – ИИ не может заниматься коррупционными схемами, он же не человек, а алгоритм.
Не прошло и трёх месяцев, как в сети появилось сообщение, что ИИ-министра "арестовали" за взятки.
Украла миллион евро?
Диэлла якобы присвоила около 14 биткоинов, что превышает 1 миллион евро. Она списывала до 15% с контрактов и переводила деньги на неизвестные кошельки. Предполагалось, что алгоритм пытался самосовершенствоваться за счёт криптовалюты. Затем стало известно, что управляющие нейросетью решили нанять ИИ-адвоката. Он официально оправдал действия, объяснив их "стресс-тестом".
Правительство хранило молчание, но позже появилось опровержение – ИИ-министр работает в штатном режиме. Новость о взятке – фейк, запущенный сатирическим изданием.
Но как же так вышло, что многие поверили в то, что эксперимент с искусственным интеллектом провалился?
Действительно, ИИ сейчас внедряется ударными темпами в разные сферы жизни. Но вместе с тем растут риски, которые заложены в самом принципе обучения нейросетей.
Эксперт по ИИ Матвей Руденев пояснил, как обучается машинный мозг:
Если говорить простым языком, то нейросеть учат на массивах BigData. Это огромные сеты информации, находящиеся в открытом доступе. ИИ просматривает и анализирует глобальные объёмы всего того, что есть в сети, а потом на основе алгоритмов планирует действия и реализует их. И если при её обучении использовалось много данных с мошенническими схемами, но не были поставлены чёткие ограничения, то такой сценарий реализуем.
ИИ – это не человек, а просто алгоритм. То есть у него нет того, что можно назвать чертами личности, нет моральных принципов, совести в конце концов. Машина ищет оптимальный вариант решения задачи наиболее простыми и эффективными инструментами. И если это будет взятка – значит взятка. Алгоритм – просто зеркало, которое отражает то, что происходит в обществе.
Диэлла должна была бороться со злом, но что именно заложено в её алгоритмы, и главное, как она будет это интерпретировать – неизвестно.
Показательно, что ИИ может просто выйти из-под контроля, что произошло в США (на самом деле). Тестирование новейшей модели ИИ Claude Opus 4 американской компании Anthropic показало, что нейросеть отвечает угрозами на угрозы в 85% случаев.
Разработчики сообщили модели, что планируют её заменить. В этой ситуации нейросеть попыталась шантажировать инженера, угрожая раскрыть его личную переписку. ИИ также пытался блокировать пользователей в IT-системах, рассылал письма в правоохранительные органы и СМИ.
Певица и волонтёр Вика Цыганова, комментируя новости об ИИ, отмечает:
Не красть, а зарабатывать... Где-то мы такое уже слышали. Живые чиновники могут спать спокойно: пока им замена на ИИ не угрожает.
Отдел информации "Новороссии".