Together AI
Together AI 是一个开源模型托管平台,提供高性能的模型推理服务,支持大量热门开源模型。
获取 API Key
- 前往 Together AI 注册账号
- 新用户获得 $25 免费额度
- 在控制台创建 API Key
- 复制 API Key
配置 OpenClaw
bash
openclaw models auth login --provider together
# 按提示输入 API Key或手动编辑配置文件:
jsonc
// ~/.openclaw/config.json
{
"models": {
"providers": {
"together": {
"apiKey": "xxxxxxxxxxxxxxxxxxxxxxxx",
"baseUrl": "https://api.together.xyz/v1"
}
}
}
}支持的模型
| 模型 ID | 说明 |
|---|---|
meta-llama/Llama-3.1-405B-Instruct-Turbo | Llama 3.1 405B |
meta-llama/Llama-3.1-70B-Instruct-Turbo | Llama 3.1 70B |
Qwen/Qwen2.5-72B-Instruct-Turbo | Qwen 2.5 72B |
mistralai/Mixtral-8x22B-Instruct-v0.1 | Mixtral 8x22B |
deepseek-ai/DeepSeek-V3 | DeepSeek V3 |
databricks/dbrx-instruct | DBRX Instruct |
使用示例:
bash
openclaw models default set together/meta-llama/Llama-3.1-70B-Instruct-Turbo
openclaw chat "请用 Go 实现一个并发爬虫"环境变量
bash
export TOGETHER_API_KEY="xxxxxxxxxxxxxxxxxxxxxxxx"特色功能
Turbo 推理
Together AI 针对热门模型提供 Turbo 优化版本,推理速度更快。
按需定价
按 Token 计费,无最低消费,适合开发和测试。
微调支持
支持在 Together 平台上对开源模型进行微调(Fine-tuning)。
故障排查
模型不可用
- 确认模型 ID 拼写正确
- 部分模型可能暂时下线
速率限制
- 免费用户有速率限制
- 充值后可提升配额
🇨🇳 中国用户须知
- 网络代理:Together AI 需要从中国大陆配置代理访问bash
export HTTPS_PROXY="http://127.0.0.1:7890" - 免费额度:新用户 $25 免费额度,可以体验大量开源模型
- 替代方案:Together AI 上的模型也可通过 Ollama 本地运行
