80 подписчиков
Google: "У нас нет преимущества, как и у OpenAI"
В сеть попал внутренний документ с исследованием рынка AI. В нём отражено мнение одного работника, а не всей компании. Краткая выдержка:
* Open source уделывает нас с бешеной скоростью. Они быстрее, гибче, могут работать локально, и намного рентабельнее. С $100 и 13B параметров, они закрывают задачи, которые мы с трудом решаем имея $10M и 540B параметров.
* У нас нет секретного соуса. Наша лучшая надежда - учиться и сотрудничать с теми, кто работает за пределами Google. Мы должны уделять первоочередное внимание обеспечению интеграции с третьими лицами.
* Люди не будут платить за доступ к закрытой модели, если бесплатные, открытые альтернативы сопоставимы по качеству. Нам следует подумать о том, где мы действительно создаем добавленную стоимость.
* Создание огромных моделей замедляет нас. В долгосрочной перспективе лучшие модели те, которые можно быстро интегрировать.
* Народ решил проблему масштабирования до такой степени, что каждый теперь может с этим возиться. Многие новые идеи приходят от обычных людей. Барьер входа для обучения и экспериментов снизился с уровня корпорации до одного человека, и тренировки за вечер на мощном ноутбуке.
* Прорывы в индустрии в купе с доступом к дешевым решениям для файнтюна с помощью LoRa очень быстро завоевали рынок как среди пользователей, так и бизнеса. На основе Stable Diffusion стали появляться продукты, маркетплейсы, интерфейсы и инновации (ControlNet), которых у DALL-E не было и решение от OpenAI быстро стало не актуальным.
* Рядовые пользователи не повязаны лицензиями, как корпорации.
* Нам нужно применять открытые датасеты и технологии вроде LoRA у себя и не изобретать колесо.
* Они нам нужны больше, чем мы им"
На самом деле не так важно правда ли этот док был опубликован кем-то из Google или нет. Ибо все мы итак видим с какой скоростью open source даёт по щам корпоратам. Те, кто работают днём в офисе по вечерам надевают черное худи в вперед за open source!
Vive la révolution!
1 минута
7 мая 2023