Serverless API
Serverless API 为开发者提供一个便捷的方式来调用不同种类的模型，无需关心底层的硬件或管理服务器。此 API 支持通过简单的 HTTP 请求在 Gitee AI 的共享基础设施上进行快速推理。
体验 Serverless API
您可以在 Serverless API 体验页面，浏览我们精选的模型，免费体验不同模型的生 成效果，也可调用 API。
目前我们支持的模型包括不限于以下几个，排序按照上线时间倒序：
加载 Serverless API 服务列表...
更多的模型 API 服务逐步添加中...
购买 Serverless API
购买流程：
- 选择模型： 访问 Serverless API 体验，挑选一个适合你需求的模型。如果您不确定选择，可以体验模型挂件，以了解模型的推理效果。在体验模型挂件时，可以选择该不同的 API 以及在不同算力上的效果。
- 购买资源包：体验完模型挂件后，可以直接点击右下方“购买”按钮购买模型对应算力的资源包，选择归属于自己或组织，选择购买的金额。
- 创建订单并付款：完成付款后，在工作台界面-Serverless API 可调用已购 API。
计费说明：
- 计费规则：按调用次数计费，购买了同一个资源包多次，并且调用时访问令牌未绑定具体资源包时，将按购买先后顺序依次扣费
- 退订规则：使用中的资源不支持在线退订，如有需要请联系我们
本地调用 API 进行推理
如果您想要通过 Serverless API 进行模型推理，请遵循以下步骤：
- 创建访问令牌：您需要登录账号，在工作台-账户设置中，找到“访问令牌”，创建一个授权访问所选资源的令牌；如果您希望为某个“访问令牌”绑定某个资源包，也可以创建一个支持访问“部分资源”的“访问令牌”。
- 调用 Serverless API：在工作台 Serverless API 列表中，选择购买的资源包点击“模型调用”，点击某个模型的“调用”，选择刚创建访问令牌，先通过挂件进行测试
- 本地调用 API 进行推理：通过挂件测试正常，可以选择 “API” 形式调用，选择对应的编程语言或者工具，例如 Python，勾选 “添加令牌”，即可拷贝对应的代码在本地进行执行。我们暂时只给出了 Python/JavaScript/cURL 的示例，其他语言可以参考这些示例进行编写。
故障转移机制
API 提供了故障转移机制，确保在模型推理过程中出现故障时，系统能够自动切换至其他可用算力模型，从而保障服务的持续稳定运行。
使用方式: 在调用 API 时，通过添加请求头 X-Failover-Enabled 参数为 true，即可启用故障转移机制。参数为 false 时，则不启用故障 转移机制，出现故障时系统会立即返回异常信息。
注意
- 启用故障转移机制后，若当前算力模型出现故障，系统会自动切换到可用算力进行处理。扣费将按照最后一次成功调用的算力模型计算，并扣除当前资源包金额。用户可在"使用日志"中查看到调用链路。如果不接受该扣费方式，建议不要开启故障转移机制。
- 如果未添加请求头 X-Failover-Enabled 参数，且当前算力模型支持故障转移，则系统会默认启用故障转移机制。