MWS
Общая информация
Модели провайдера
| Модель | ID | Цена Input | Цена Output | Контекст | Latency (сек) | Throughput (т/сек) | Квантизация | Function Calling |
|---|---|---|---|---|---|---|---|---|
Meta: Llama 3.3 70B Instruct
|
meta-llama/llama-3.3-70b-instruct | - ₽ | - ₽ | 128000 | 0.57 | 14.38 | - | |
OpenAI: gpt-oss-20b
|
openai/gpt-oss-20b | - ₽ | - ₽ | 8192 | 0.8 | 72.67 | - | |
|
OpenAI: gpt-oss-120b
|
openai/gpt-oss-120b | - ₽ | - ₽ | 131072 | 2.0 | 21.42 | - |
Ключевые определения
Контекстное окно: максимальное общее количество входных и выходных токенов.
Throughput (скорость вывода): количество токенов в секунду, получаемых во время генерации токенов моделью (т.е. после получения первого фрагмента от API для моделей, поддерживающих потоковую передачу).
Latency (задержка, время до первого токена): время до получения первого токена в секундах после отправки запроса к API. Для моделей, использующих общие токены для рассуждений, это будет первый токен рассуждения. Для моделей, не поддерживающих потоковую передачу, это время до получения полного ответа.
Цена аутпута (вывода): цена за токен, сгенерированный моделью (полученный от API), выраженная в соответствующей валюте за миллион токенов.
Цена инпута (ввода): цена за токен, включенный в запрос/сообщение, отправленное к API, выраженная в соответствующей валюте за миллион токенов.