Обучение знакового преобразователя, ставшего основой современных моделей искусственного интеллекта, изначально стоило дешевле, чем ноутбук среднего класса — всего 930 долларов. Однако с 2017 года эти затраты возросли в геометрической прогрессии, как показано на диаграмме Visual Capitalist.
В 2023 году обучение модели Gemini Ultra оценивается более чем в 191 миллион долларов, а обучение GPT-4 — более чем в 78 миллионов долларов. Для сравнения, обучение модели «Лама-2» от Meta обошлось менее чем в 4 миллиона долларов.
По оценкам ученого в области машинного обучения Натана Ламберта, стоимость обучения преемника Llama-2 составляет около 100 миллионов долларов, хотя официальные цифры не разглашаются.
Еще больше интересной и полезной информации на нашем телеграм канале: Ai Сознание
С такими темпами, по мнению Ламберта, обучение Llama 4 может стоить более 1 миллиарда долларов, что возможно только для крупных технологических компаний, таких как Meta. Между тем, по некоторым оценкам, обучение GPT-5 может стоить до 2,5 миллиардов долларов.
Обсудим: Как вы думаете, стоит ли такие огромные суммы тратить на обучение ИИ? Или стоит искать более экономичные пути развития технологий?