Илон Маск, известный своим новаторским подходом к технологиям, продолжает удивлять мир своими амбициозными планами в сфере искусственного интеллекта. На этот раз основатель xAI объявил о разработке новой мощной языковой модели Grok-3, обучение которой потребует рекордного количества чипов NVIDIA H100.
Маск сообщил, что для обучения Grok-3 его компания xAI использует 100 000 чипов NVIDIA H100 – специализированных процессоров для обработки данных моделей естественного языка. По оценкам экспертов, такое количество чипов H100 может стоить от $3 до $4 миллиардов. Для сравнения, Маск ранее упоминал, что закупки Tesla у NVIDIA в этом году оцениваются в такую же сумму.
Несмотря на то, что языковая модель Grok-2 еще не была представлена публике, Маск уже активно работает над Grok-3. Он отмечает, что для создания продвинутых чат-ботов на базе ИИ требуются огромные наборы данных, а очистка существующих языковых моделей от нежелательного контента является непростой задачей.
По словам Маска, Grok-3 должен стать "совершенно особенным" продуктом. Чипы NVIDIA H100, используемые для его обучения, были разработаны специально для высокопроизводительной обработки данных больших языковых моделей. Маск считает, что это позволит xAI создать одну из самых мощных и передовых систем искусственного интеллекта.
Несмотря на впечатляющие масштабы проекта, некоторые эксперты выражают обеспокоенность по поводу возможных проблем с обучением больших моделей, на которые ранее указывал сам Маск. Тем не менее, разработка Grok-3 демонстрирует стремление xAI к технологическому превосходству в сфере ИИ.