Источник изображения: hdhai.com
Генеральный директор OpenAI Сэм Альтман (Sam Altman) заявил, что компания вынуждена постепенно запускать свою новую модель GPT-4.5 из-за нехватки графических процессоров. По его словам, OpenAI сейчас «осталась без GPU».
В публикации на платформе X Альтман отметил, что GPT-4.5 является «гигантской и дорогостоящей» моделью, для полноценного запуска которой потребуется десятки тысяч дополнительных графических процессоров. Сначала доступ к GPT-4.5 получат подписчики ChatGPT Pro в четверг, а затем, на следующей неделе, пользователи ChatGPT Plus.
Отметим, что стоимость использования GPT-4.5 значительно выше по сравнению с предыдущими моделями. OpenAI будет брать $75 за миллион входящих токенов (примерно 750 000 слов) и $150 за миллион выходных токенов. Это в 30 раз дороже обработки входных данных и в 15 раз дороже генерации текста по сравнению с GPT-4o, который сейчас является основной ИИ-моделью компании.
«Мы быстро растём и остались без графических процессоров, — написал Альтман. — На следующей неделе мы добавим десятки тысяч графических процессоров и затем запустим модель для подписчиков Plus. Конечно это не та ситуация, в которой мы хотели бы оказаться, но предсказать скачки роста, приводящие к нехватке GPU, сложно».
Ранее Альтман уже говорил, что недостаток вычислительных мощностей замедляет развитие продуктов OpenAI и в долгосрочной перспективе компания планирует решить эту проблему, путём разработки собственных чипов для искусственного интеллекта, а также создав масштабную сеть дата-центров.