【已解决】text generator 如何导入 azure api

我想text generator如何导入azure api,我已经成功的申请到了azureopenai,也可以在网页上访问,但是在我填上了这些参数之后,发现还是无法使用,我想知道问题出在哪里,也不知道如何排查问题。


这是我部署的模型

Azure 不太熟悉, 看截图这里是不是有问题?


根据文档 Get started generating text using Azure OpenAI Service 也说 Endpoint 的模式是长这样 https://docs-test-001.openai.azure.com/openai/deployments

另外估计不止这一个坑, 建议测试时 Ob 里开着控制台 Ctrl+Shift+i 看 控制台 和 网络 那两项, 会显示些报错有助于定位问题

我知道这个链接,但是这个链接给出来我放在网页上都无法访问,
至于控制台,我不太擅长看这个,可能需要点时间先学习一下。
{
“error”: {
“code”: “404”,
“message”: “Resource not found”
}
}

报的是 404 错误, 可以参考 Why I’m getting 404 Resource Not Found to my newly Azure OpenAI deployment? - Stack Overflow

照这帖子描述, 最终的有效 url 是 https://{resource}.openai.azure.com/openai/deployments/{deployment}/chat/completions?api-version=2023-03-15-preview (在 TextGen 里, 这 url 应该是根据用户填的字段, 由 TextGen 动态拼出来的)

细节得确保:

  • {resource} {deployment} 这俩填对
  • {deployment} 是模型部署名, 未必是 OpenAI 那个模型名, 在楼主的场景里这俩名一样
  • api-version 看起来是类似 2023-03-15-preview 的风格

现在反过来看 TextGen 这表单, 我不大确定 api-version 跟 模型版本 0301 是否为同一个东西, 个人感觉不像, api-version 应该是指 Azure 本身的 API 版本号 ref 个人觉得应该是 “Data plane - inference” 这一段 2024-06-01


但是这个链接给出来我放在网页上都无法访问

这是有可能的, 专门以 API 形式使用的网址, 未必在浏览器里访问时得到一个页面

我使用的是 Azure OpenAI Chat (Langchain)
“LLMProviderOptions”: {
“whisper”: {
“base_path”: “https://api.openai.com/v1”,
“model”: “whisper-1”,
“api_key”: “”
},
“OpenAI Chat (Langchain)”: {
“basePath”: “https://api.openai.com/v1
},
“Azure OpenAI Chat (Langchain)”: {
“model”: “gpt-4o-mini”,
“azureOpenAIApiDeploymentName”: “gpt-4o-mini”,
“azureOpenAIBasePath”: “https://open-ai-fafdafdljf3423cdlfnadlf.openai.azure.com/openai/deployments/”,
“api_key”: “xxxxxxx(隐去key)”,
“azureOpenAIApiVersion”: “2024-07-18-preview”
}
},


版本我都试了,总是感觉这个插件有点怪怪的,不知道问题出在哪里,azure显示的模型版本,和链接里面版本也不一样

我觉得 azureOpenAIApiVersion (对应 TextGen 表单里那个 Api Version) 填对后, 就有效果了啊 (至少不再 404 了)

Response 404 是无此资源,
而 Response 401 是没有认证信息 (感觉再结合楼主的正确 api_key, 有戏)


azure显示的模型版本,和链接里面版本也不一样

对, 这是两回事, 模型版本和 Azure API 版本

谢谢,我已经搞定了,是版本号的问题

1 个赞