选择和配置 LLM 提供商 🔑

作业 可能 也会设置为通过支持的服务提供商（如 OpenAI、Azure 或 Hugging Face）访问一个或多个大型语言模型（LLM）部署。这些提供了一个我们可以通过合适的凭据（API 密钥或令牌）以编程方式访问的 托管端点（API）。在本课程中，我们讨论以下提供商：

• OpenAI 拥有包括核心 GPT 系列的多样模型。
• Azure OpenAI 以企业级准备为重点的 OpenAI 模型
• Microsoft Foundry Models 通过单一端点和 API 密钥访问 OpenAI、Meta、Mistral、Cohere、Microsoft 等数百种模型（替代将于2026年7月底退役的 GitHub Models）
• Hugging Face 开源模型和推理服务器
• Foundry Local 或 Ollama ，如果你希望完全在自己的设备离线运行模型，无需云订阅

这些练习需要你使用自己的账户。作业是可选的，因此你可以根据自己的兴趣选择设置其中一个、全部或不设置任何提供商。下面是一些注册指导：

按以下说明 配置 此仓库以供不同提供商使用。需要特定提供商的作业文件名中将包含以下标签之一：

• aoai - 需要 Azure OpenAI 端点和密钥
• oai - 需要 OpenAI 端点和密钥
• hf - 需要 Hugging Face 令牌
• githubmodels - 需要 Microsoft Foundry Models 端点和密钥（GitHub Models 将于2026年7月底退役）

你可以配置其中一个、全部或者都不配置。关联的作业在未提供凭据时会出错。

创建 .env 文件

我们假定你已经阅读上述指南，注册了相关提供商，并获得了所需的认证凭据（API_KEY 或令牌）。对于 Azure OpenAI，我们假设你还部署了至少一个用于聊天完成的 GPT 模型的 Azure OpenAI 服务（端点）。

下一步是按以下方式配置你的 本地环境变量：

1. 在根文件夹中查找 .env.copy 文件，内容应类似如下：

```bash # OpenAI 提供者 OPENAI_API_KEY=''

## Microsoft Foundry 中的 Azure OpenAI ##（Azure OpenAI 服务现已成为 Microsoft Foundry 的一部分：https://ai.azure.com） AZURE_OPENAI_API_VERSION='2024-10-21' # 默认已设置！（当前稳定的正式版 API 版本） AZURE_OPENAI_API_KEY='' AZURE_OPENAI_ENDPOINT='.openai.azure.com>' AZURE_OPENAI_DEPLOYMENT='' AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT=''

## Microsoft Foundry 模型（多提供商模型目录，替代 GitHub 模型，后者将于 2026 年 7 月底退役） AZURE_INFERENCE_ENDPOINT='' AZURE_INFERENCE_CREDENTIAL=''

## Hugging Face HUGGING_FACE_API_KEY='' ```

2. 使用以下命令复制该文件为 .env。此文件已被 gitignore，以保护密钥安全。

bash cp .env.copy .env

3. 按下一节所述填入各值（替换 = 右侧的占位符）。

4. （可选）如果你使用 GitHub Codespaces，可以选择将环境变量保存为与此仓库关联的 Codespaces 秘密。这样你就无需在本地设置 .env 文件。但注意此选项仅适用于 GitHub Codespaces。 如果使用 Docker Desktop，则仍需设置 .env 文件。

填写 .env 文件

我们快速看一下变量名及其含义：

注意：最后两个 Azure OpenAI 变量分别对应聊天完成（文本生成）和向量搜索（嵌入）的默认模型。相关配置将在对应作业中说明。

配置 Azure OpenAI：通过门户

注意： Azure OpenAI 服务现已整合到 Microsoft Foundry 中。资源及部署仍显示在 Azure 门户，但日常的模型管理（部署、游乐场、监控）现在在 Foundry 门户而非旧的独立“Azure OpenAI Studio”进行。

Azure OpenAI 的端点和密钥可在 Azure 门户 找到，我们从这里开始。

1. 访问 Azure 门户
2. 点击侧边栏（左侧菜单）的 Keys and Endpoint 选项。
3. 点击 显示密钥 - 你将看到 KEY 1、KEY 2 和端点信息。
4. 使用 KEY 1 作为 AZURE_OPENAI_API_KEY
5. 使用 Endpoint 作为 AZURE_OPENAI_ENDPOINT

接下来，我们需要获取具体部署模型的端点。

1. 点击 Azure OpenAI 资源侧边栏（左菜单）的 Model deployments 选项。
2. 在目标页面中，点击 前往 Microsoft Foundry 门户（或 管理部署，取决于资源类型）

这会把你带到 Microsoft Foundry 门户，我们将在这里找到其它必要值，如下所述。

配置 Azure OpenAI：通过 Microsoft Foundry 门户

1. 按上述说明，从你的资源访问 Microsoft Foundry 门户。
2. 点击左侧栏的 Deployments 标签，查看当前已部署的模型。
3. 如果所需模型未部署，可通过 部署模型 从 模型目录 进行部署。
4. 你需要一个 文本生成 模型 - 推荐：gpt-4o-mini
5. 你需要一个 文本嵌入 模型 - 推荐 text-embedding-3-small

现在更新环境变量中的 部署名称 。该名称通常和模型名称相同，除非你显式修改。举例来说，你可能会：

AZURE_OPENAI_DEPLOYMENT='gpt-4o-mini'
AZURE_OPENAI_EMBEDDINGS_DEPLOYMENT='text-embedding-3-small'

完成后别忘了保存 .env 文件。保存后即可关闭该文件并返回后续笔记本运行说明。

配置 OpenAI：通过个人资料

你的 OpenAI API 密钥可以在你的 OpenAI 账户 中找到。如果尚无账户，可注册并创建 API 密钥。获取后，将该密钥填入 .env 文件中的 OPENAI_API_KEY 变量。

配置 Hugging Face：通过个人资料

你的 Hugging Face 令牌可在个人资料中的 访问令牌 页面找到。请勿公开分享这些令牌。建议为本项目专门创建一个新令牌，并将其复制到 .env 文件中的 HUGGING_FACE_API_KEY 变量中。注意： 技术上这不是 API 密钥，但用于身份验证，因此为了统一起见，我们仍采用此命名。

配置 Microsoft Foundry Models：通过门户

注意： GitHub Models 将于2026年7月底退役。Microsoft Foundry Models 是直接替代，提供相同的免费试用模型目录及 Azure AI 推理 SDK / OpenAI SDK 体验。

1. 访问 Microsoft Foundry，创建或打开一个 Foundry 项目。
2. 浏览 模型目录 并部署一个模型，例如 gpt-4o-mini。
3. 在项目的 概览 页面，复制 端点 和 API 密钥。
4. 将端点值填入 .env 文件的 AZURE_INFERENCE_ENDPOINT，将密钥值填入 AZURE_INFERENCE_CREDENTIAL。

离线 / 本地提供商

如果你不想使用云订阅，可以直接在自己的设备上运行兼容的开源模型：

• Foundry Local - 微软的设备端运行时。它自动选择最佳执行提供者（NPU、GPU 或 CPU）并暴露兼容 OpenAI 的端点，因此你可以用本课程的大部分示例代码，几乎不做修改。参见 Foundry Local 文档 快速上手，或通过 winget install Microsoft.FoundryLocal（Windows）/ brew install microsoft/foundrylocal/foundrylocal（macOS）安装。
• Ollama - 一款流行的本地运行开源模型（如 Llama、Phi、Mistral 和 Gemma）的替代方案。

请参阅第19课：使用SLM构建，了解使用这两种选项的实践示例。

免责声明： 本文件由 AI 翻译服务 Co-op Translator 翻译完成。尽管我们力求准确，但请注意，自动翻译可能包含错误或不准确之处。原始语言版文件应视为权威来源。对于重要信息，建议使用专业人工翻译。我们对因使用本翻译而产生的任何误解或误释不承担责任。