Алекс Крикиорян, вице-президент по глобальным вопросам Microsoft, выступил с предупреждением о рисках, связанных с концентрацией открытых моделей искусственного интеллекта в одних руках. По его словам, в настоящее время большинство открытых моделей, используемых в мире, созданы в Китае. Крикиорян сравнил действия китайских лабораторий с тактикой американских компаний в эпоху Android: они бесплатно предоставляют технологии, но сохраняют контроль над экосистемой вокруг них.
Однако главную угрозу Крикиорян видит не столько в «китайских моделях» как таковых, сколько в риске чрезмерной концентрации. Сейчас лучшие открытые модели сосредоточены в Китае, тогда как наиболее продвинутые закрытые модели разрабатываются американскими компаниями. Крикиорян призвал лаборатории США и Европы начать конкурировать в «той же открытой нише, чтобы ни одна страна не устанавливала мировые стандарты по умолчанию».
«Неудобная правда заключается в том, что плюралистическая экосистема вокруг открытых по весам моделей ИИ в значительной степени финансируется сейчас китайским капиталом», — заявил Крикиорян. По его словам, это одновременно и множественность, и концентрация.
В качестве возможной модели для создания «альтернативной коалиции» Крикиорян привёл историю развития открытого программного обеспечения, такого как Linux. По его словам, эта инфраструктура финансировалась объединением организаций, каждая из которых нуждалась в существовании общего базового слоя, включая нейтральные фонды.
Крикиорян предположил, что любая коалиция для разработки более открытых моделей ИИ, вероятно, будет состоять из «институтов с миссией, а не с рыночной ориентацией», в отличие от передовых лабораторий ИИ. Он описал это так: «Нам нужны государственные вычислительные программы, финансирующие полностью открытые эталонные модели. Пример — национальные вычислительные мощности Швейцарии, создающие Apertus. Фонды должны удерживать ту же нейтральную позицию, которую они занимали для открытых протоколов интернета, распространив её на модели, инструменты и агентные стандарты. Компании, получающие выгоду от базовых моделей, должны участвовать. А филантропия должна покрывать то, что не покроют остальные, — особенно инфраструктуру оценки и аудита».
Крикиорян также призвал альтернативную коалицию пойти дальше открытых по весам моделей и перенять больше принципов открытого исходного кода. «Трудно полностью доверять модели в принятии решений, если вы не можете сказать, как её обучали и на чём оценивали», — отметил он. Об этом сообщает Ars Technica.
Читайте также: