模型与定位
适合快速评估开源模型、搭建 MVP 与做多模型 AB 测试。优势是模型覆盖广、接入速度快。
参数速览
| 项目 | 说明 |
|---|---|
| 输入模态 | 文本为主 |
| 输出能力 | 文本、结构化输出（按模型能力） |
| 推理模式 | 多模型统一调用 |
| 典型模型名 | 以平台当前模型清单为准 |
| 上下文窗口 | 依模型家族而变化 |
常用请求参数
| 参数 | 作用 | 常见建议 |
|---|---|---|
model | 模型标识 | 建议固定版本避免漂移 |
temperature | 采样温度 | 知识问答建议 0.1-0.4 |
top_p / top_k | 采样范围 | 与任务类型一起调参 |
max_tokens | 最大输出长度 | 限制成本与时延 |
stop | 停止词 | 协议输出时必备 |
stream | 流式返回 | 对话体验更自然 |
调用与兼容性
通常兼容 OpenAI 风格请求结构，适合将自建模型路由层快速落地。
版本与下线注意
开源模型上新和替换频繁，建议把“模型选择”从代码抽离到配置中心。
选型建议
如果你的目标是“低门槛试模型 + 快速上线”，Together AI 是很好的实验与过渡平台。