前言:
虽然GPT如日中天,但是在中国区的用户很憋屈。因为被禁止使用区域。当然有很多方法可以绕过去。
本文尝试使用其中的一种方法。
关注 2img.ai 获取更多AI资讯和硬核资料
微软Azure相关的OpenAI
如何创建使用AzureServices下的OpenAI服务
英文原版的教程在这里:https://learn.microsoft.com/en-us/azure/ai-services/openai/how-to/create-resource?pivots=web-portal
我们使用中文,精要的过以下主要内容。
登录Azure后,创建一个OpenAI服务。见下图
在创建界面,详细输入一些关键内容
在中国区的用户要特别注意,可能会出现【实例详细信息】这个面板禁止使用的情况。这个原因是你这个地区被禁止使用。可以尝试申请。如果通过,会出现我这个界面。
点击【下一页】进行创建。成功的话会显示下图
Azure OpenAI Studio的主要功能
一般的我们需要用到几个主要功能:
- 模型部署。 如果不部署,实际上是用不了任何实际功能的。
- 配额,如果你发现请求有限制,请查看此处的讯息
- 模型部署好后,需要一些内置的测试。你可以用【聊天】,【助手操场】等功能,进行模型的测试。
部署模型
在生成文本或进行推理之前,您需要部署一个模型。您可以从 Azure OpenAI Studio 中的多个可用模型中选择一个。
要部署模型
请按照以下步骤操作:
- 登录Azure OpenAI Studio。
- 选择要使用的订阅和 Azure OpenAI 资源,然后选择“使用资源”。
- 在“管理”下,选择“部署”。
- 选择创建新部署并配置以下字段:
场地 | 描述 |
选择模型 | 型号可用性因地区而异。如需查看每个地区可用型号的列表,请参阅型号汇总表和地区可用性。 |
部署名称 | 仔细选择名称。部署名称用于在代码中通过客户端库和 REST API 调用模型。 |
部署类型 | 标准、全球标准、预配置管理。了解有关部署类型选项的更多信息。 |
高级选项(可选) | 您可以根据资源的需要设置可选的高级设置。 – 对于内容过滤器,请为您的部署分配内容过滤器。 – 对于每分钟令牌速率限制,请调整每分钟令牌 (TPM) 以设置部署的有效速率限制。您可以随时使用配额菜单修改此值。动态配额允许您在有额外容量可用时利用更多配额。 |
- 从下拉列表中选择一个模型。
- 输入部署名称来识别模型。
- 当您通过 API 访问模型时,您需要在 API 调用中引用部署名称而不是底层模型名称,这是OpenAI 和 Azure OpenAI 之间的主要区别之一。OpenAI 只需要模型名称。Azure OpenAI 始终需要部署名称,即使使用模型参数也是如此。在我们的文档中,我们经常有部署名称与模型名称相同的示例,以帮助指示哪种模型适用于特定的 API 端点。最终,您的部署名称可以遵循最适合您用例的任何命名约定。
- 对于您的首次部署,请将高级选项保留为默认值。
- 选择创建。
部署表显示与您新创建的模型相对应的新条目。部署完成后,模型部署状态将更改为成功。
如下图。
测试API调用模型是否成功。
下图种我们使用聊天助手,用我们创建的GPT的部署模型。演示AI Bot有正确回复。即代表成功了。
同时要注意,这个模型部署到期时间。
同时,我们也可以借助其余的API请求工具验证,请求示意图如下
我们可以看到最重要的几个内容是
azure_api_key = “你的key”
azure_base_url = “https://xxxxxx.openai.azure.com/”
azure_model_name = “”
azure_api_version = “2024-02-15-preview”
AzureServices上OpenAI服务的定价详细信息:
语言模型
模型 | 上下文 | 输入(每 1,000 个令牌) | 输出(每 1,000 个令牌) |
GPT-4o Global Deployment | 128K | $0.01 | $0.02 |
GPT-4o Regional API | 128K | $0.01 | $0.02 |
GPT-3.5-Turbo-0125 | 16K | $0.00 | $0.00 |
GPT-3.5-Turbo-Instruct | 4K | $0.00 | $0.00 |
GPT-4-Turbo | 128K | N/A | N/A |
GPT-4-Turbo-Vision | 128K | N/A | N/A |
GPT-4 | 8K | $0.03 | $0.06 |
GPT-4 | 32K | $0.06 | $0.12 |
旧版语言模型
模型 | 上下文 | 输入(每 1,000 个令牌) | 输出(每 1,000 个令牌) |
GPT-3.5-Turbo-0301 | 4K | $0.00 | $0.00 |
GPT-3.5-Turbo-0613 | 4K | $0.00 | $0.00 |
GPT-3.5-Turbo-0613 | 16K | $0.00 | $0.00 |
GPT-3.5-Turbo-1106 | 16K | $0.00 | $0.00 |
基本模型
模型 | 每 1,000 个令牌的使用情况 |
Babbage-002 | $0.00 |
Davinci-002 | $0.00 |
图像模型
模型 | 质量 | 分辨率 | 价格(每 100 张图像) |
Dall-E-3 | 标准 | 1024 * 1024 | $4 |
标准 | 1024 * 1792, 1792 * 1024 | $8 | |
Dall-E-3 | HD | 1024 * 1024 | $8 |
HD | 1024 * 1792, 1792 * 1024 | $12 | |
Dall-E-2 | 标准 | 1024 * 1024 | $2 |
嵌入模型
模型 | 每 1,000 个标记 |
Ada | $0.00 |
文本-嵌入-3-大 | $0.00 |
文本-嵌入-3-小 | $0.00 |
RA/SD 衍生者AI训练营。发布者:chris,转载请注明出处:https://www.shxcj.com/archives/2615