使用自己的模型
使用你自己的 LLM 提供商 API 密钥,选择为 Mintlify assistant、agent 和自动化提供支持的模型。
使用自己的模型需要 Enterprise 方案。联系销售团队,咨询如何将其加入你的合同。只有当你的合同包含该功能时,AI model 部分才会显示在你的 dashboard 中。
默认情况下,Mintlify 会选择为 assistant 和 agent 提供支持的模型。要使用你自己的提供商账户运行特定模型,你需要提供 API 密钥、选择模型,并通过你的提供商执行推理。
一份配置即可覆盖一个部署上的所有 AI 产品:assistant、agent 和自动化。
使用自己的模型仅作用于单个部署,而不是整个组织。如果你的组织有多个部署,请分别配置每一个。未配置的部署会使用 Mintlify 的默认模型。
| 提供商 | 覆盖范围 |
|---|---|
| OpenRouter | 完整。所有 AI 产品都使用你的密钥和你的模型。 |
| Anthropic | 有限。assistant 使用你的密钥。agent 和自动化会继续使用 Mintlify 的模型。 |
| 兼容 OpenAI | 有限。assistant 使用你的密钥。agent 和自动化会继续使用 Mintlify 的模型。 |
要让所有 AI 产品都通过你自己的密钥运行,请使用 OpenRouter。
每个提供商都支持一组固定的模型。
编辑者和管理员可以配置模型。
- 选择要配置的部署。
- 前往 dashboard 中的 API 密钥页面。
- 在 AI model 部分,启用 Bring your own model。
- 选择一个提供商。对于兼容 OpenAI 的提供商,请输入提供商名称和基础 URL。基础 URL 必须使用 HTTPS,并指向可公开访问的主机。
- 选择一个模型。
- 输入你的提供商 API 密钥。
- 点击 Save。
Mintlify 会加密存储你的密钥,保存后不会再显示。
在已启用 Bring your own model 的部署上,AI 用量不会消耗 Mintlify 的积分。你的提供商会直接向你收取推理费用,这些费用不会出现在你的 Mintlify 用量中。请在提供商处设置相应的支出限额。
积分汇集在组织级别。同一组织中的其他部署仍会按标准费率从这一共享余额中扣除 AI 用量。
在同一部署上,Mintlify 会为同一提供商的不同模型复用你已保存的密钥。只有在轮换密钥、切换提供商或配置其他部署时,才需要重新输入密钥。
要轮换密钥,请在 API key 字段中输入新密钥,然后点击 Save。
要停止使用自己的模型,请禁用 Bring your own model。Mintlify 会删除为该部署存储的配置和密钥,其 AI 产品将恢复使用 Mintlify 的默认模型。该部署的 AI 用量随后会按标准费率消耗积分。其他部署会保留各自的配置。