Amazon инвестирует миллионы в обучение амбициозной модели большого языка (LLM), надеясь, что она сможет конкурировать с топ-моделями OpenAI и Alphabet, сообщили агентству Рейтер источники, знакомые с этим вопросом.
Модель под кодовым названием “Olympus” имеет 2 трлн параметров, что может сделать ее одной из крупнейших обучаемых моделей. Сообщается, что модель GPT-4 компании OpenAI, одна из лучших доступных моделей, имеет 1 трлн параметров.
Источники Рейтер попросили об анонимности, поскольку детали проекта пока не разглашаются.
Amazon отказалась от комментариев. О названии проекта сообщило издание The Information.
Команду возглавляет Рохит Прасад, бывший глава Alexa, который теперь подчиняется непосредственно генеральному директору Энди Ясси. Будучи главным научным сотрудником отдела искусственного общего интеллекта (AGI) в Amazon, Прасад привлек исследователей, которые работали над Alexa AI, и научную группу Amazon для работы над моделями обучения, объединяя усилия всей компании по разработке искусственного интеллекта с выделенными ресурсами.
Amazon уже обучила модели меньшего размера, такие как Titan. Компания также установила партнерские отношения со стартапами, занимающимися моделями искусственного интеллекта, такими как Anthropic и AI21 Labs, предлагая их пользователям Amazon Web Services (AWS).
Amazon считает, что наличие собственных моделей может сделать ее предложения более привлекательными на AWS, где корпоративные клиенты хотят получить доступ к наиболее эффективным моделям, говорят люди, знакомые с этим вопросом, добавляя, что конкретных сроков выпуска новой модели нет.
LLM — это базовая технология инструментов искусственного интеллекта, которые учатся на огромных наборах данных и генерируют реакции, подобные человеческим.
Обучение более крупных AI-моделей обходится дороже, учитывая требуемую вычислительную мощность. В апрельском отчете о прибылях и убытках руководители Amazon заявили, что компания увеличит инвестиции в LLM и генеративный искусственный интеллект, одновременно сокращая объемы выполнения заказов и логистики в своем розничном бизнесе.
Материалы на эту тему также можно прочитать:
- Amazon dedicates team to train ambitious AI model codenamed 'Olympus' -sources (Reuters)
Автор: Тимофей Лапин