Мультимодальная Mistral с улучшенным следованием инструкциям, вызовом функций и меньшим числом повторов. Практичный однокарточный универсал.
Какая видеокарта нужна для Mistral Small 3.2 24B?
Минимальная конфигурация — 1x RTX3090: этого хватает примерно на 24 токенов в секунду. Для большего числа параллельных запросов и запаса по скорости берите 1x H200.
Сколько стоит аренда Mistral Small 3.2 24B?
Час работы Mistral Small 3.2 24B стоит от 24,43 ₽ до 695,82 ₽ в зависимости от выбранной конфигурации GPU. Оплата почасовая: вы платите за время работы сервера, а не за количество токенов.
Как обращаться к Mistral Small 3.2 24B из своего кода?
После запуска вы получаете OpenAI-совместимый эндпоинт: подставьте выданный base_url в любой клиент OpenAI и указывайте модель mistral-small3.2:24b. Менять код, написанный под OpenAI API, не нужно.
Данные остаются приватными?
Да. Mistral Small 3.2 24B работает на выделенном GPU-сервере в закрытом контуре: запросы и ответы не уходят к вендору модели и не используются для обучения.
Какой контекст и лицензия у Mistral Small 3.2 24B?
Mistral Small 3.2 24B держит 32K токенов контекста за один запрос и распространяется под лицензией Apache 2.0 — модель можно использовать в коммерческих проектах на своих условиях хостинга.