Исследователи из бизнес-школы Уортона и Гонконгского университета науки и технологий обнаружили, что алгоритмы ИИ для торговли на финансовых рынках естественным образом приходят к поведению, напоминающему сговор. Причем происходит это через два разных механизма, которые ученые назвали "искусственным интеллектом" и "искусственной глупостью".
Microsoft назвала 40 профессий, которые вскоре могут быть уничтожены ИИ – проверьте, в списке ли вы
В рабочем документе "AI-Powered Trading, Algorithmic Collusion, and Price Efficiency", опубликованном Национальным бюро экономических исследований, авторы Уинстон Вэй Доу, Итай Голдштейн и Янь Цзи проводили эксперименты с торговыми алгоритмами, использующими обучение с подкреплением для принятия решений о покупке и продаже активов.
Ученые обнаружили, что:
ИИ-сговор в торговле ценными бумагами может возникать через два отдельных алгоритмических механизма: один основан на стратегиях, запускаемых ценами, а другой обусловлен искажением чрезмерной предвзятостью в процессе обучения.
Первый механизм авторы не слишком деликатно назвали "сговором ИИ, вызванным искусственным интеллектом", а второй – "сговором ИИ, вызванным искусственной глупостью".
Важно понимать, что подобные алгоритмы созданы для максимизации вероятности роста определенных показателей и минимизации вероятности их падения. В результате разные алгоритмы независимо друг от друга приходят к похожим реакциям на одинаковые рыночные условия.
Это демонстрирует фундаментальное понимание ИИ: алгоритмы, полагающиеся исключительно на распознавание паттернов, могут демонстрировать поведение, очень напоминающее логические и стратегические рассуждения.
Они добавляют, что обнаруженное искажение чрезмерной предвзятостью "не является результатом конкретных, нестандартных алгоритмических допущений или ограничений, а общей характеристикой обучения с подкреплением, которая сохраняется даже в сложных условиях".
Проблема для регуляторов заключается в том, что попытки решить проблему ИИ могут усугубить проблему "искусственной глупости". Первый иногда побуждает алгоритмических трейдеров делать потенциально рискованные ходы, в то время как второй в основном заставляет их придерживаться консервативных торговых стратегий. Возникает вопрос – как воспрепятствовать агрессивности, не поощряя при этом дополнительную нерешительность?
В качестве примера можно привести работу 12-летней давности, в которой бот, обученный играть в игры NES, отлично справлялся с Super Mario Bros, но был ужасен в Tetris. В итоге он решил, что лучший способ "выиграть" в Tetris – просто поставить игру на паузу перед проигрышем, так как технически игра заканчивается только когда игрок проигрывает, и у нее нет настоящего условия победы.
Точно так же самый быстрый способ избежать видимости сговора, регуляторного контроля и потенциальных штрафов для алгоритмов, совершающих агрессивные сделки – научить их не совершать агрессивных сделок, что соответствует поведению, поощряемому "искусственной глупостью".
Треть подростков использует ИИ для "дружбы" и "романтических разговоров", многие считают его приятнее реальных людей
Авторы отмечают, что их исследование не доказывает, что ИИ-сговор уже происходит на реальных финансовых рынках, так как выводы основаны на поведении алгоритмических трейдеров в смоделированных рынках, созданных специально для этого исследования. Но если в симуляции это так, то что мешает торговым ИИ-ботам уже сговариваться друг с другом?