← 返回AI精选
大语言模型

IBM Granite

IBM 企业级开源模型家族,Apache 2.0 许可 + ISO 42001 认证,兼顾合规、编码与 RAG。

模型与定位

IBM Granite 是面向企业场景的开源模型家族,全部以 Apache 2.0 许可发布并提供密码学签名校验。Granite 4.1(2026-04-21)为 3B/8B/30B dense decoder-only 模型,覆盖多语言、编码、RAG、工具调用与结构化 JSON 输出;Granite 4.0(2025-09)采用 hybrid Mamba-2/Transformer + MoE 架构,内存占用降低 70%、推理加速 2 倍,是首个通过 ISO 42001 认证的开放模型。配套 Granite Vision / Speech / Embedding / Guardian 系列,构成完整企业模型矩阵。

参数速览

项目说明
输入模态文本(另有视觉、语音、嵌入版本)
输出能力文本、结构化 JSON、工具调用、FIM 代码补全
推理模式标准解码
典型模型名granite-4.1-3b/8b/30bibm/granite-4-h-small(watsonx)
上下文窗口视版本而定(4.0 系列优化长上下文)
许可Apache 2.0,ISO 42001 认证

常用请求参数

参数说明
model_idwatsonx 模型 ID,如 ibm/granite-4-h-small
project_idwatsonx 项目标识
max_completion_tokens最大输出长度
temperature / top_p采样控制

调用与兼容性

watsonx.ai API:

curl https://us-south.ml.cloud.ibm.com/ml/v1/text/chat \
  -H "Authorization: Bearer $IBM_API_KEY" \
  -d '{"project_id":"<your-project-id>","model_id":"ibm/granite-4-h-small","messages":[{"role":"user","content":"写一段 Rust 冒泡排序"}],"max_completion_tokens":500}'

权重同步发布在 Hugging Face(ibm-granite/granite-4.1-3b/8b/30b),可经 vLLM、SGLang、Ollama 本地部署。

版本与更新注意

4.0(2025-09)→ 4.1(2026-04)持续迭代;所有版本 Apache 2.0 并带密码学签名。新增模型关注 IBM Granite 官方发布页。

选型建议

对开源许可合规、供应链安全有严格要求的企业场景首选;30B 覆盖复杂任务,8B 平衡性能与成本,3B 用于边缘部署。

常见问题

IBM Granite 是免费的吗?
IBM Granite 的具体收费以官方定价为准,通常提供免费额度或试用期,付费后可解锁完整功能。
IBM Granite 需要注册或登录才能使用吗?
大多数 AI 工具需要注册账号才能使用,部分支持邮箱或第三方账号快捷登录,具体以官网流程为准。
IBM Granite 支持中文吗?
是否支持中文界面或中文回答,以该工具的官方文档与产品版本为准,建议直接在官网确认。
在哪里可以获取 IBM Granite 的官方信息?
可以访问 IBM Granite 官网(https://www.ibm.com/granite)查看功能、定价与最新更新信息。