跳到主要内容

Serverless API

Serverless API 为开发者提供一个便捷的方式来调用不同种类的模型,无需关心底层的硬件或管理服务器。此 API 支持通过简单的 HTTP 请求在 Gitee AI 的共享基础设施上进行快速推理。

体验 Serverless API

您可以在 Serverless API 体验页面,浏览我们精选的模型,免费体验不同模型的生成效果,也可调用 API。

目前我们支持的模型有:

模型名称创建者分类简介
stable-diffusion-xl-base-1.0stabilityai图像生成由Stability AI开发并开源的文生图大模型,其创意图像生成能力位居行业前列。具备出色的指令理解能力,能够支持反向Prompt定义来精确生成内容。
whisper-largeopenai语音处理由 Open AI 开发并开源自动语音识别(ASR)模型。Whisper 由 68 万小时的多语言数据训练,其能够很好地处理各种语言、口音和背景噪音。
whisper-baseopenai语音处理由 Open AI 开发并开源自动语音识别(ASR)模型。能够很好地处理各种语言、口音和背景噪音。相较于 Large 版,base 版处理速度更快,具有较少的参数。
speecht5_ttsmicrosoft文本转语音先进的文本转语音模型,利用Transformer架构来生成自然流畅的语音。能够将文本信息高效转换为接近真人的语音输出。
Llama3-70B-Chinese-Chatshenzhi-wang文本生成llama3-70B拥有700亿参数,经过微调,其中文熟练度与 GPT-4 相匹配,擅长上下文理解、代码生成以及翻译和对话生成等复杂任务
bge-large-zh-v1.5BAAI特征抽取具有多功能、多语言和多粒度特性的文本检索模型,将文本转化为用数值表示的向量形式,用于文本检索、信息推荐、知识挖掘等场景
bge-small-zh-v1.5BAAI特征抽取具有多功能、多语言和多粒度特性的文本检索模型,将文本转化为用数值表示的向量形式,用于文本检索、信息推荐、知识挖掘等场景

购买 Serverless API

购买流程:

  1. 选择模型: 访问 Serverless API 体验,挑选一个适合你需求的模型。如果您不确定选择,可以体验模型挂件,以了解模型的推理效果。
  2. 购买调用次数:根据你的使用场景,选择归属于自己或组织,合适的调用次数。
  3. 创建订单并付款:完成付款后,在工作台界面-Serverless API 可调用已购 API。

输入图片说明

计费说明:

  • 计费规则:按调用次数计费
  • 并发说明:并发任务数(并发)指能同时处理的任务数量。API 并发任务数目前都为 1,即每次最多处理一个提交的任务,需等待上一个任务完成后再处理下一个任务。
  • 退订规则:使用中的资源不支持在线退订,如有需要请联系我们

调用 API 请求进行推理

如果您想要通过 Serverless API 进行模型推理,请遵循以下步骤:

  1. 创建访问令牌:您需要登录账号,在工作台-账户设置中,找到“访问令牌”,创建一个授权访问所选资源的令牌。
  2. 调用 ServerlessAPI:在工作台 Serverless API 列表中,点击调用,并填写访问令牌,即可调试生成效果。
  3. 发送推理请求:使用下图所示代码段来发送请求并获取推理结果。

alt text