Qudata
Логотип IBM

Запуск

Модель для RAG и JSON
От IBMgranite4.2:8b8B параметров32K токенов контекстаApache 2.0

Модель IBM для корпоративных задач: RAG, вызов инструментов и строгий JSON на выходе. Хороший баланс качества и цены для внутренних ассистентов.

Конфигурации GPU для Granite 4.2 8B

Бенчмарки Granite 4.2 8B

по данным разработчика модели
Результаты Granite 4.2 8B в публичных бенчмарках
MMLU-Pro74
GPQA64,1
LiveCodeBench v673,2

Другие модели в закрытом контуре

FAQ

Частые вопросы про аренду Granite 4.2 8B

Какая видеокарта нужна для Granite 4.2 8B?

Минимальная конфигурация — 1x RTX4060TI: этого хватает примерно на 34 токенов в секунду. Для большего числа параллельных запросов и запаса по скорости берите 1x H200.

Сколько стоит аренда Granite 4.2 8B?

Час работы Granite 4.2 8B стоит от 24,29 ₽ до 686,83 ₽ в зависимости от выбранной конфигурации GPU. Оплата почасовая: вы платите за время работы сервера, а не за количество токенов.

Как обращаться к Granite 4.2 8B из своего кода?

После запуска вы получаете OpenAI-совместимый эндпоинт: подставьте выданный base_url в любой клиент OpenAI и указывайте модель granite4.2:8b. Менять код, написанный под OpenAI API, не нужно.

Данные остаются приватными?

Да. Granite 4.2 8B работает на выделенном GPU-сервере в закрытом контуре: запросы и ответы не уходят к вендору модели и не используются для обучения.

Какой контекст и лицензия у Granite 4.2 8B?

Granite 4.2 8B держит 32K токенов контекста за один запрос и распространяется под лицензией Apache 2.0 — модель можно использовать в коммерческих проектах на своих условиях хостинга.