A state-of-the-art 12B multilingual model with a 128k context window, designed for global applications and strong in multiple languages.
发布日期2024年7月18日
参数规模12B
上下文长度128K
许可证Apache 2.0
知识截止—
Benchmarks
评测成绩
| 评测基准 | 类别 | 分数 | 来源 |
|---|---|---|---|
| HellaSwag | reasoning | 83.5 | 来源 |
| Winogrande | reasoning language | 76.8 | 来源 |
| TriviaQA | general reasoning | 73.8 | 来源 |
| CommonSenseQA | reasoning language | 70.4 | 来源 |
| MMLU | general reasoning language math | 68.0 | 来源 |
| OpenBookQA | reasoning general | 60.6 | 来源 |
| TruthfulQA | general reasoning legal healthcare finance | 50.3 | 来源 |
| Natural Questions | reasoning general search | 31.2 | 来源 |
Pricing
API 价格对比
| 服务商 | 输入价 | 输出价 | 上下文 | 吞吐(tok/s) | 延迟(s) | 函数调用 | 代码执行 | 联网搜索 |
|---|---|---|---|---|---|---|---|---|
| OVHcloud AI Endpoints | $0.14 | $0.14 | 66K | — | — | ✓ | ✗ | ✗ |
| DigitalOcean | $0.30 | $0.30 | 128K | — | — | ✓ | ✗ | ✗ |
价格单位：美元/百万 token，数据来自社区整理，仅供参考。