GPT莲花宝典之AzureServices下使用GPT揭秘

前言:

虽然GPT如日中天,但是在中国区的用户很憋屈。因为被禁止使用区域。当然有很多方法可以绕过去。

本文尝试使用其中的一种方法。

关注 2img.ai 获取更多AI资讯和硬核资料

微软Azure相关的OpenAI

如何创建使用AzureServices下的OpenAI服务

英文原版的教程在这里:https://learn.microsoft.com/en-us/azure/ai-services/openai/how-to/create-resource?pivots=web-portal

我们使用中文,精要的过以下主要内容。

登录Azure后,创建一个OpenAI服务。见下图

GPT莲花宝典之AzureServices下使用GPT揭秘

在创建界面,详细输入一些关键内容

在中国区的用户要特别注意,可能会出现【实例详细信息】这个面板禁止使用的情况。这个原因是你这个地区被禁止使用。可以尝试申请。如果通过,会出现我这个界面。

GPT莲花宝典之AzureServices下使用GPT揭秘

点击【下一页】进行创建。成功的话会显示下图

GPT莲花宝典之AzureServices下使用GPT揭秘

Azure OpenAI Studio的主要功能

GPT莲花宝典之AzureServices下使用GPT揭秘

一般的我们需要用到几个主要功能:

  1. 模型部署。 如果不部署,实际上是用不了任何实际功能的。
  2. 配额,如果你发现请求有限制,请查看此处的讯息
  3. 模型部署好后,需要一些内置的测试。你可以用【聊天】,【助手操场】等功能,进行模型的测试。

部署模型

在生成文本或进行推理之前,您需要部署一个模型。您可以从 Azure OpenAI Studio 中的多个可用模型中选择一个。

要部署模型

请按照以下步骤操作:

  1. 登录Azure OpenAI Studio
  2. 选择要使用的订阅和 Azure OpenAI 资源,然后选择“使用资源”。
  3. 在“管理”下,选择“部署”。
  4. 选择创建新部署并配置以下字段:
场地描述
选择模型型号可用性因地区而异。如需查看每个地区可用型号的列表,请参阅型号汇总表和地区可用性
部署名称仔细选择名称。部署名称用于在代码中通过客户端库和 REST API 调用模型。
部署类型标准、全球标准、预配置管理。了解有关部署类型选项的更多信息。
高级选项(可选)您可以根据资源的需要设置可选的高级设置。
– 对于内容过滤器,请为您的部署分配内容过滤器。
– 对于每分钟令牌速率限制,请调整每分钟令牌 (TPM) 以设置部署的有效速率限制。您可以随时使用配额菜单修改此值。动态配额允许您在有额外容量可用时利用更多配额。
  1. 从下拉列表中选择一个模型。
  2. 输入部署名称来识别模型。
  3. 当您通过 API 访问模型时,您需要在 API 调用中引用部署名称而不是底层模型名称,这是OpenAI 和 Azure OpenAI 之间的主要区别之一。OpenAI 只需要模型名称。Azure OpenAI 始终需要部署名称,即使使用模型参数也是如此。在我们的文档中,我们经常有部署名称与模型名称相同的示例,以帮助指示哪种模型适用于特定的 API 端点。最终,您的部署名称可以遵循最适合您用例的任何命名约定。
  4. 对于您的首次部署,请将高级选项保留为默认值。
  5. 选择创建。

部署表显示与您新创建的模型相对应的新条目。部署完成后,模型部署状态将更改为成功

如下图。

GPT莲花宝典之AzureServices下使用GPT揭秘

测试API调用模型是否成功。

下图种我们使用聊天助手,用我们创建的GPT的部署模型。演示AI Bot有正确回复。即代表成功了。

同时要注意,这个模型部署到期时间。

GPT莲花宝典之AzureServices下使用GPT揭秘

同时,我们也可以借助其余的API请求工具验证,请求示意图如下

GPT莲花宝典之AzureServices下使用GPT揭秘

我们可以看到最重要的几个内容是

azure_api_key = “你的key”

azure_base_url = “https://xxxxxx.openai.azure.com/”

azure_model_name = “”

azure_api_version = “2024-02-15-preview”

AzureServices上OpenAI服务的定价详细信息:

语言模型

模型上下文输入(每 1,000 个令牌)输出(每 1,000 个令牌)
GPT-4o Global Deployment128K$0.01$0.02
GPT-4o Regional API128K$0.01$0.02
GPT-3.5-Turbo-012516K$0.00$0.00
GPT-3.5-Turbo-Instruct4K$0.00$0.00
GPT-4-Turbo128KN/AN/A
GPT-4-Turbo-Vision128KN/AN/A
GPT-48K$0.03$0.06
GPT-432K$0.06$0.12

旧版语言模型

模型上下文输入(每 1,000 个令牌)输出(每 1,000 个令牌)
GPT-3.5-Turbo-03014K$0.00$0.00
GPT-3.5-Turbo-06134K$0.00$0.00
GPT-3.5-Turbo-061316K$0.00$0.00
GPT-3.5-Turbo-110616K$0.00$0.00

基本模型

模型每 1,000 个令牌的使用情况
Babbage-002$0.00
Davinci-002$0.00

图像模型

模型质量分辨率价格(每 100 张图像)
Dall-E-3标准1024 * 1024$4
标准1024 * 1792,
1792 * 1024
$8
Dall-E-3HD1024 * 1024$8
HD1024 * 1792,
1792 * 1024
$12
Dall-E-2标准1024 * 1024$2

嵌入模型

模型每 1,000 个标记
Ada$0.00
文本-嵌入-3-大$0.00
文本-嵌入-3-小$0.00

RA/SD 衍生者AI训练营。发布者:chris,转载请注明出处:https://www.shxcj.com/archives/2615

Like (0)
Previous 2024-05-31 10:28 上午
Next 2024-05-31 12:35 下午

相关推荐

发表回复

Please Login to Comment
本文授权以下站点有原版访问授权 https://www.shxcj.com https://www.2img.ai https://www.2video.cn