Найти в Дзене
MindLab

Как получить бесплатный API ключ для LLAMA 3.1 405B - Бесплатная замена ChatGPT

В интернете есть много сервисов, предоставляющие свой API для доступа к генерации текста и распознанию фото: openai, claude и т.д. Но для того, чтобы начать им пользоваться, необходимо указать данные зарубежной банковской карты, что с недавних пор является проблемой для пользователей из РФ. В этой статье мы расскажем о сервисе, где вы сможете получить бесплатно и без указания платежных реквизитов свои 10$ и доступ к топовым opensource моделям генерации текста и распознанию/генерации фото: LLAMA 3.1 405B, 70B, LLAMA 3.2 90B Vision, Qwen2.5 72B и многие другие. Речь идет о сервисе Hyperbolic - https://app.hyperbolic.xyz. Собственно, заходим на сайт, проходим регистрацию любым удобным способом. И нам сразу же доступны бесплатные 10$ и доступ ко всем моделям сервиса - абсолютно бесплатно и без указания карты. Готово, у вас есть API ключ, с которым можно делать запросы на генерацию текста. Сохраняем его, он еще пригодится По ссылке https://app.hyperbolic.xyz/models - вы можете ознакомитьс
Оглавление
Бесплатный API
Бесплатный API

В интернете есть много сервисов, предоставляющие свой API для доступа к генерации текста и распознанию фото: openai, claude и т.д. Но для того, чтобы начать им пользоваться, необходимо указать данные зарубежной банковской карты, что с недавних пор является проблемой для пользователей из РФ. В этой статье мы расскажем о сервисе, где вы сможете получить бесплатно и без указания платежных реквизитов свои 10$ и доступ к топовым opensource моделям генерации текста и распознанию/генерации фото: LLAMA 3.1 405B, 70B, LLAMA 3.2 90B Vision, Qwen2.5 72B и многие другие.

Регистрация

Речь идет о сервисе Hyperbolic - https://app.hyperbolic.xyz. Собственно, заходим на сайт, проходим регистрацию любым удобным способом.

Регистрация
Регистрация

И нам сразу же доступны бесплатные 10$ и доступ ко всем моделям сервиса - абсолютно бесплатно и без указания карты.

Бесплатные 10$
Бесплатные 10$

Готово, у вас есть API ключ, с которым можно делать запросы на генерацию текста. Сохраняем его, он еще пригодится

По ссылке https://app.hyperbolic.xyz/models - вы можете ознакомиться со списком моделей

Доступные модели
Доступные модели

Как генерировать текст?

Бонусом покажем как подключиться к данному апи и быстро начать генерировать текст на примере KoboldAI - интерфейса для сторителлинга и общения с AI персонажами.

Заходим на сайт Kobold - https://lite.koboldai.net/# и нажимаем на кнопку "AI"

Открытие настроек
Открытие настроек

У нас открывается окно с настройками. В первом поле обязательно выбираем OpenAI Compatible API

Выбор OpenAI Compatible API
Выбор OpenAI Compatible API

В поле (1) OpenAI API URL вставляем ссылку: https://api.hyperbolic.xyz/v1. А в поле (2) API key - тот самый ключ который мы получили при регистрации в Hyperbolic в начале статьи

Установка OpenAI API URL и API key
Установка OpenAI API URL и API key

Нажимаем Fetch List для загрузки доступных моделей и выбираем понравившуюся, например LLAMA 3.1 405B

Выбор модели генерации текста
Выбор модели генерации текста

Нажимаем "Ok"

Подтверждение изменений
Подтверждение изменений

Готово, у нас полностью настроенная и готовая среда, работающая на топовой LLAMA 3.1 405B и абсолютно бесплатно.

Тесты подключенного API
Тесты подключенного API

Заключение

По нашим наблюдениям, уже пользуемся этим апи в личных целях на протяжении двух месяцев, и на балансе осталось 7$ - расход очень маленький и хватит на долго. Тем более, все бесплатно.

Если понравилась статья, пожалуйста, поставьте лайк и подпишитесь на канал :)

Если нужен бот для быстрой генерации фото, то можете воспользоваться данным вариантом: @photo_generator_art_bot