MoE NVIDIA с 3B активных параметров для агентов, которые работают непрерывно. Высокая скорость генерации и вызов инструментов при умеренных требованиях к памяти.
| MMLU Pro | 81,9 | |
|---|---|---|
| GPQA Diamond | 75,4 | |
| SWE-bench Verified | 51,6 |
Какая видеокарта нужна для Nemotron 3.5 Lightning 30B-A3B?
Минимальная конфигурация — 1x RTX5090: этого хватает примерно на 48 токенов в секунду. Для большего числа параллельных запросов и запаса по скорости берите 1x H200.
Сколько стоит аренда Nemotron 3.5 Lightning 30B-A3B?
Час работы Nemotron 3.5 Lightning 30B-A3B стоит от 154,12 ₽ до 686,83 ₽ в зависимости от выбранной конфигурации GPU. Оплата почасовая: вы платите за время работы сервера, а не за количество токенов.
Как обращаться к Nemotron 3.5 Lightning 30B-A3B из своего кода?
После запуска вы получаете OpenAI-совместимый эндпоинт: подставьте выданный base_url в любой клиент OpenAI и указывайте модель nemotron-3.5-lightning:30b. Менять код, написанный под OpenAI API, не нужно.
Данные остаются приватными?
Да. Nemotron 3.5 Lightning 30B-A3B работает на выделенном GPU-сервере в закрытом контуре: запросы и ответы не уходят к вендору модели и не используются для обучения.
Какой контекст и лицензия у Nemotron 3.5 Lightning 30B-A3B?
Nemotron 3.5 Lightning 30B-A3B держит 32K токенов контекста за один запрос и распространяется под лицензией OpenMDW-1.1 — модель можно использовать в коммерческих проектах на своих условиях хостинга.