跳到主要内容

Serverless API 应用集成指南

Serverless API 提供了数量众多的模型 API，只需调用 API 就可以将其强大的功能集成到您的应用中。本文为大家推荐了一些可集成 Serverless API 的应用，以及详细的集成配置指南。

这些应用运行我们日常使用的平台上，如 Windows、mac 上的客户端、网页应用、浏览器插件，移动端 APP 等，通过使用这些应用，即可释放 Serverless API 的模型能力，从而提升您使用 AI 的便捷性。以下是应用的访问地址和简介：

分类应用名称简介
客户端类Chatbox一个支持多种流行LLM模型的桌面客户端，可在 Windows、Mac 和 Linux 上使用
OpenCatOpenCat 是一个 AI 对话聊天客户端，支持 iOS 和 macOS
Dify一款开源的大语言模型（LLM） 应用开发平台。它融合了后端即服务和 LLMOps 的理念，使开发者可以快速搭建生产级的生成式 AI 应用
Nextchat只需轻点几下，就能在自己的服务器上搭建聊天服务
Pal Chat一款可以在 iPhone 或 iPad 上使用的 AI 助手
EnconvoEnconvo 是 AI 时代的启动器,是所有AI功能的入口,也是一位体贴的智能助理.】
Cherry Studio一款为创造者而生的桌面版 AI 助手
浏览器插件沉浸式翻译一款双语对照网页翻译插件，简洁，高效
ChatGPT Box将 LLM 作为私人助手，整合到你的浏览器中
划词翻译整合了多家翻译 API 以及 LLM API 的浏览器翻译插件
欧路翻译提供鼠标划词搜索、逐段对照翻译、PDF 文献翻译功能。可以使用支持 DeepSeek AI, Bing、GPT、Google 等多种翻译引擎
IM 助手茴香豆一个集成到个人微信群/飞书群的领域知识助手，专注解答问题不闲聊
QChatGPT高稳定性、支持插件、实时联网的 LLM QQ / QQ频道 / One Bot 机器人
VScode 插件Continue开源 IDE 插件，使用 LLM 做你的编程助手

以上应用均支持集成 Serverless API，配置操作也很简单，在选择 API 配置的时候，因为 Serverless API 与 OpenAI API 格式兼容，模型提供方只需要选择 OpenAl APl Compatible。这个时候通常需要填写 API 调用地址、API key 等信息，下面是操作步骤：

操作步骤​

1. 获取 API 路径：

请在 Serverless API 页选择你想要使用的模型，点击调用，获取它的 API 调用地址，如下所示：

https://ai.gitee.com/api/serverless/<Model>/chat/completions

alt text

2. 通过上面获取的路径，通常需要将路径拆分，填写下方信息：

alt text

3. 获取 API key：

前往 Gitee AI 工作台 - 设置 - 访问令牌，创建你的 API Key

alt text

在一些业务场景中，可能需要让客户端直接调用 Serverless API ，这时候需要将 Access Token 传递给客户端，为了安全起见，建议将 Access Token 存储在后端，通过后端服务代理调用 Serverless API。

如果希望直接在客户端使用 Access Token ，Gitee AI 提供了创建临时 Token 的接口，该接口的详细使用方法请查看 创建临时 Access Token

集成 OpenCat​

OpenCat 是一个 AI 对话聊天客户端，支持 iOS 和 macOS，在对话框内，可以快速的使用 prompt，展开新的对话，通过对接一些主流平台的 API ，可以选择与多种模型聊天。

配置指南​

  1. 下载 OpenCat

  2. 进入setting——Providers

  3. 输入 API Domain、API Path、API Key

  • API Domain：https://ai.gitee.com/
  • API Path：不同模型的路径不同，示例：api/serverless/<Model>/chat/completions
  • API key： 在 Gitee AI 工作台-设置复制访问令牌（API key）
  1. 点击验证，提示 Validate Success 即可

alt text

集成沉浸式翻译​

Immersive Translate 是一款浏览器插件，专注于提供高效的双语对照翻译服务。它支持网页、PDF、EPUB 等多种格式的翻译，能够实时翻译外语内容，并支持视频双语字幕翻译。插件提供了便捷的鼠标悬停翻译和输入框翻译功能，是提升信息获取效率的利器。

配置指南​

  1. 安装成功后，进入 Immersive Translate 插件 - “翻译服务”，滑到最底部添加自定义翻译服务。

alt text

  1. 在设置页面输入以下关键信息：
  • 自定义 API 接口地址： 此处填写 Serverless API 完整的调用地址
  • APIKEY：在 Gitee AI 工作台 - 设置 - 访问令牌，复制访问令牌（API key）
  • 每秒最大请求数：1
  • 每次请求最大文本长度：1200
  • 每次请求最大段落数：8
  1. 点击页面上方“点此测试服务”，显示“验证成功”即配置完成

alt text

集成 Dify​

Dify 是一款开源的大语言模型（LLM)）应用开发平台。它融合了后端即服务（Backend as Service）和 LLMOps 的理念，使开发者可以快速搭建生产级的生成式 AI 应用。即使是非技术人员，也能参与到 AI 应用的定义和数据运营过程中。

配置指南​

Serverless API 支持在 Dify 中调用，使用步骤如下

  1. 获取 Gitee AI 访问令牌

开发者首先需要访问 Gitee AI 工作台中获取访问令牌，没有购买 Serverless API 的开发者，可以使用免费体验访问令牌（仅供体验，每日调用次数有限），复制想要使用的令牌即可。

  1. 在 Dify 中填入访问令牌

打开并登录 Dify（https://cloud.dify.ai），点击页面右上角用户名，进入设置，选择「模型供应商」。

选择 Gitee AI 中的设置，填入此前复制的访问令牌，点击保存即可。

  1. 在应用编排中调用 Gitee AI

至此，开发者便可以在 Dify 的应用编排中调用来自 Gitee AI 的模型了。

集成 Nextchat​

Nextchat 是一款网页端的 AI 对话工具，支持自定义大模型。还支持在自己的服务器上搭建聊天服务。

配置指南​

  1. 点击设置，并滚动至自定义接口，选择 OpenAI
  2. Serverless API 链接，在调用窗口获取，填写完整 URL，示例：https://ai.gitee.com/api/serverless/Qwen2-7B-Instruct/chat/completions

alt text

  1. 最后，创建新聊天，点击对话设置，选择刚刚配置的模型，就可以在对话框内调用模型了。

alt text

alt text

集成 ChatGPTBox​

ChatGPT Box 是一款浏览器插件，支持在浏览器内随时呼出 AI 对话框，并适用于手机端浏览器。支持自定义模型 API，它还提供框选内容执行任务、静态卡片浮出聊天框、代码高亮和复杂公式渲染、对话记录保存等功能。

配置指南​

下载 ChatGPTBox 并安装成功后，点击插件图标，按照以下要求操作:

  • 选择自定义模型
  • 模型名称无严格要求
  • API 地址：填写完整的 Serverless API 地址
  • API key：在 Gitee AI 工作台-设置复制访问令牌（API key）

alt text

集成 Continue​

Continue 是领先的开源 AI 代码助手。您可以连接任何模型和任何上下文，在 VS Code 和 JetBrains 中构建自定义自动完成和聊天体验。

配置指南​

在 VS Code 和 JetBrains 安装 continue 的扩展之后，按照一下要求操作 serverless API 提供 OpenAI compatible API ，以 deepseek 模型为例，使用其他模型可以替换成对应的配置

# config.json

{
  "completionOptions": {
    "BaseCompletionOptions": {
        "temperature": 0.0,
        "maxTokens": 256
    }
  },
  "models": [
    {
      "title": "DeepSeek-33b",
      "model": "deepseek-33b",
      "apiKey": "#{APIKEY}",
      "apiBase": "https://ai.gitee.com/api/serverless/deepseek-coder-33B-instruct/",
      "provider": "openai"
    }
  ],
  "tabAutocompleteModel": {
     "title": "DeepSeek-33b",
      "model": "deepseek-33b",
      "apiKey": "#{APIKEY}",
      "apiBase": "https://ai.gitee.com/api/serverless/deepseek-coder-33B-instruct/",
      "provider": "openai"
  },
...

更多应用，请查看文章顶部表格，如有疑问或建议，请随时联系我们。