Llama 4 Scout — мультимодальная MoE со 109 млрд общих и 17 млрд активных параметров. Помещается на одной 80-ГБ серверной карте.
| MMLU Pro | 74,3 | |
|---|---|---|
| GPQA Diamond | 57,2 | |
| LiveCodeBench | 32,8 |
Какая видеокарта нужна для Llama 4 Scout?
Минимальная конфигурация — 1x A100: этого хватает примерно на 28 токенов в секунду. Для большего числа параллельных запросов и запаса по скорости берите 1x H200.
Сколько стоит аренда Llama 4 Scout?
Час работы Llama 4 Scout стоит от 240,93 ₽ до 695,82 ₽ в зависимости от выбранной конфигурации GPU. Оплата почасовая: вы платите за время работы сервера, а не за количество токенов.
Как обращаться к Llama 4 Scout из своего кода?
После запуска вы получаете OpenAI-совместимый эндпоинт: подставьте выданный base_url в любой клиент OpenAI и указывайте модель llama4:scout. Менять код, написанный под OpenAI API, не нужно.
Данные остаются приватными?
Да. Llama 4 Scout работает на выделенном GPU-сервере в закрытом контуре: запросы и ответы не уходят к вендору модели и не используются для обучения.
Какой контекст и лицензия у Llama 4 Scout?
Llama 4 Scout держит 32K токенов контекста за один запрос и распространяется под лицензией Llama 4 Community License — модель можно использовать в коммерческих проектах на своих условиях хостинга.