大多数 OpenAI 客户端不支持 Azure OpenAI Service,但Azure OpenAI Service的申请和绑卡都非常简单,并且还提供了免费的额度。此脚本使用免费的 Cloudflare Worker 作为代理,使得支持 OpenAI 的客户端可以直接使用 Azure OpenAI Service。
-
我没有服务器可以使用吗?
-
这段脚本跑在Cloudflare Worker, 不需要服务器, 不需要绑卡, 每天10W次请求 免费
-
我没有自己的域名可以使用吗?
-
也可以, 参考: haibbo#3
-
实现打印机模式:
-
Azure OpenAI Service's 回复是一段一段回复的
-
返回给客户端的时候, 本项目拆出一条条的消息, 依次给, 达到打印机模式
-
项目也支持 Docker 部署(基于 wrangler)
代理 OpenAI 的请求到 Azure OpenAI Serivce,代码部署步骤:
-
注册并登录到 Cloudflare 账户
-
创建一个新的 Cloudflare Worker
-
将 cf-openai-azure-proxy.js 复制并粘贴到 Cloudflare Worker 编辑器中
-
通过修改或环境变量调整 resourceName 和 deployment mapper 的值
-
保存并部署 Cloudflare Worker
-
haibbo#3 可选绑定自定义域名: 在 Worker 详情页 -> Trigger -> Custom Domains 中为这个 Worker 添加一个自定义域名
先得到 resourceName 和 deployment mapper, 登录到Azure的后台:
通过 cloudflare worker 控制台, 进入 Workers script > Settings > Add variable under Environment Variables.
RESOURCE_NAME : Azure OpenAI Service的服务名称
AZURE_AUTHKEY : Azure OpenAI Service的APIKEY
DEPLOY_NAME_GPT35 : 你在Azure部署的 GPT-3.5的模型名称
DEPLOY_NAME_GPT4 : 你在Azure部署的 GPT-4的模型名称
DEPLOY_NAME_EMBEDDING : 你在Azure部署的 Embedding 模型名称
CHIT_USERS : 你自主授权的一些用户 KEY,这些 KEY 可以随便定义,获取方法参照下图
[
{
"name": "这个用户的名字,便于识别",
"key": "这个用户接入worker时的 KEY,可以随便定义,比如sk-xxxx, 123456"
}
]
将CHIT_USERS的内容进行用 Base64编码(https://www.bejson.com/enc/base64/)一下,得到最终字符串,如下图所示
以 OpenChit 为例: 自定义 API 域名填写 第六步绑定的域名: