我想text generator如何导入azure api，我已经成功的申请到了azureopenai，也可以在网页上访问，但是在我填上了这些参数之后，发现还是无法使用，我想知道问题出在哪里，也不知道如何排查问题。
这是我部署的模型
这是我部署的模型
Azure 不太熟悉, 看截图这里是不是有问题?
根据文档 Get started generating text using Azure OpenAI Service 也说 Endpoint 的模式是长这样 https://docs-test-001.openai.azure.com/openai/deployments
另外估计不止这一个坑, 建议测试时 Ob 里开着控制台 Ctrl+Shift+i 看 控制台 和 网络 那两项, 会显示些报错有助于定位问题
我知道这个链接，但是这个链接给出来我放在网页上都无法访问，
至于控制台，我不太擅长看这个，可能需要点时间先学习一下。
{
“error”: {
“code”: “404”,
“message”: “Resource not found”
}
}
报的是 404 错误, 可以参考 Why I’m getting 404 Resource Not Found to my newly Azure OpenAI deployment? - Stack Overflow
照这帖子描述, 最终的有效 url 是 https://{resource}.openai.azure.com/openai/deployments/{deployment}/chat/completions?api-version=2023-03-15-preview (在 TextGen 里, 这 url 应该是根据用户填的字段, 由 TextGen 动态拼出来的)
细节得确保:
{resource}{deployment}这俩填对{deployment}是模型部署名, 未必是 OpenAI 那个模型名, 在楼主的场景里这俩名一样api-version看起来是类似2023-03-15-preview的风格
现在反过来看 TextGen 这表单, 我不大确定 api-version 跟 模型版本 0301 是否为同一个东西, 个人感觉不像, api-version 应该是指 Azure 本身的 API 版本号 ref 个人觉得应该是 “Data plane - inference” 这一段 2024-06-01
但是这个链接给出来我放在网页上都无法访问
这是有可能的, 专门以 API 形式使用的网址, 未必在浏览器里访问时得到一个页面
我使用的是 Azure OpenAI Chat (Langchain)
“LLMProviderOptions”: {
“whisper”: {
“base_path”: “https://api.openai.com/v1”,
“model”: “whisper-1”,
“api_key”: “”
},
“OpenAI Chat (Langchain)”: {
“basePath”: “https://api.openai.com/v1”
},
“Azure OpenAI Chat (Langchain)”: {
“model”: “gpt-4o-mini”,
“azureOpenAIApiDeploymentName”: “gpt-4o-mini”,
“azureOpenAIBasePath”: “https://open-ai-fafdafdljf3423cdlfnadlf.openai.azure.com/openai/deployments/”,
“api_key”: “xxxxxxx（隐去key）”,
“azureOpenAIApiVersion”: “2024-07-18-preview”
}
},
版本我都试了，总是感觉这个插件有点怪怪的，不知道问题出在哪里，azure显示的模型版本，和链接里面版本也不一样
我觉得 azureOpenAIApiVersion (对应 TextGen 表单里那个 Api Version) 填对后, 就有效果了啊 (至少不再 404 了)
Response 404 是无此资源,
而 Response 401 是没有认证信息 (感觉再结合楼主的正确 api_key, 有戏)
azure显示的模型版本，和链接里面版本也不一样
对, 这是两回事, 模型版本和 Azure API 版本
谢谢，我已经搞定了，是版本号的问题
1 个赞