Qudata
Логотип IBM

Запуск

Компактная модель для бизнеса
От IBMgranite4.2:3b3B параметров32K токенов контекстаApache 2.0

Модель IBM для корпоративных задач: RAG, вызов инструментов и строгий JSON на выходе. Подходит для массовой обработки на недорогих картах.

Конфигурации GPU для Granite 4.2 3B

Бенчмарки Granite 4.2 3B

по данным разработчика модели
Результаты Granite 4.2 3B в публичных бенчмарках
MMLU-Pro67,8
GPQA54,8
LiveCodeBench v669,7

Другие модели в закрытом контуре

FAQ

Частые вопросы про аренду Granite 4.2 3B

Какая видеокарта нужна для Granite 4.2 3B?

Минимальная конфигурация — 1x RTX3080TI: этого хватает примерно на 70 токенов в секунду. Для большего числа параллельных запросов и запаса по скорости берите 1x H200.

Сколько стоит аренда Granite 4.2 3B?

Час работы Granite 4.2 3B стоит от 16,41 ₽ до 686,83 ₽ в зависимости от выбранной конфигурации GPU. Оплата почасовая: вы платите за время работы сервера, а не за количество токенов.

Как обращаться к Granite 4.2 3B из своего кода?

После запуска вы получаете OpenAI-совместимый эндпоинт: подставьте выданный base_url в любой клиент OpenAI и указывайте модель granite4.2:3b. Менять код, написанный под OpenAI API, не нужно.

Данные остаются приватными?

Да. Granite 4.2 3B работает на выделенном GPU-сервере в закрытом контуре: запросы и ответы не уходят к вендору модели и не используются для обучения.

Какой контекст и лицензия у Granite 4.2 3B?

Granite 4.2 3B держит 32K токенов контекста за один запрос и распространяется под лицензией Apache 2.0 — модель можно использовать в коммерческих проектах на своих условиях хостинга.