一句话简介：智谱 AI 推出的大模型系列，代码/Agent 能力突出。

主流功能：代码、长程 Agent 工程、低成本 API

可用性：国内可直接使用，无需特殊网络。

适用人群：开发者、Agent/代码任务用户、本地部署爱好者

前置条件：

• 网络：普通国内网络
• 账号：使用开放平台 API 需注册（手机号），创建 API Key
• 费用：本地部署免费
• 硬件：9B 级小模型（GLM-4.6V-Flash）普通显卡可跑

---

教程 A：Ollama 本地部署

步骤 1：安装 Ollama（见 DeepSeek 文档"教程 A 步骤 1"）

# Linux
curl -fsSL https://ollama.com/install.sh | sh
# macOS
brew install ollama

步骤 2：拉取 GLM 模型

# 方案一：Ollama 官方库（模型名以 ollama.com/library 搜索 "glm" 为准，如 zai-org 官方收录版）
ollama pull glm-4.6 # 示例命名，拉取前先在官网库确认最新可用名

# 方案二：魔搭社区 GGUF 版（国内下载快，命名规律同 Qwen 文档）
ollama pull modelscope.cn/<组织>/<GLM-GGUF模型名>
# 例如在 modelscope.cn 搜索 "GLM GGUF"，复制模型页的 Ollama 命令

步骤 3：运行与 API 调用

ollama run <模型名>

OpenAI 兼容调用（http://localhost:11434/v1），model 填拉取时的模型名即可（用法见 DeepSeek 文档）。

步骤 4（服务器）：vLLM 部署完整权重

pip install vllm transformers accelerate -i https://mirrors.aliyun.com/pypi/simple/

# 从魔搭下载权重（ZhipuAI 官方账号）
pip install modelscope
modelscope download --model ZhipuAI/GLM-5 --local_dir./GLM-5

# 启动 OpenAI 兼容服务
vllm serve./GLM-5 --served-model-name GLM-5 \
--enable-auto-tool-choice --tool-call-parser hermes

服务默认 http://localhost:8000/v1，OpenAI SDK 指向它即可。

教程 B：智谱开放平台（BigModel）API 接入

步骤 1：注册并创建 API Key

1. 访问智谱开放平台 open.bigmodel.cn，用手机号注册登录。
2. 进入控制台「API Keys」页面，点击创建，复制 Key（只展示一次，立即保存）。
3. 建议存入环境变量：

export ZHIPUAI_API_KEY="你的智谱APIKey"

中国大陆用户用 open.bigmodel.cn 端点（速度更快、符合合规）；国际用户可用 api.z.ai。

步骤 2：OpenAI 兼容方式调用（推荐）

import os
from openai import OpenAI

client = OpenAI(
api_key=os.environ["ZHIPUAI_API_KEY"],
base_url="https://open.bigmodel.cn/api/paas/v4",
)
resp = client.chat.completions.create(
model="glm-5", # 旗舰；具体可用模型 ID 见 docs.bigmodel.cn 模型列表
messages=[
{"role": "system", "content": "你是由智谱 AI 打造的 AI 助手。"},
{"role": "user", "content": "用 Python 写一个读取 txt 文件的示例"},
],
temperature=0.7,
max_tokens=4096,
)
print(resp.choices[0].message.content)

curl 快速测试：

curl https://open.bigmodel.cn/api/paas/v4/chat/completions \
-H "Authorization: Bearer $ZHIPUAI_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"glm-5","messages":[{"role":"user","content":"介绍智谱 GLM 的优势"}]}'

步骤 3：官方 zhipuai SDK 方式

pip install zhipuai -i https://mirrors.aliyun.com/pypi/simple/

import os
from zhipuai import ZhipuAI

client = ZhipuAI(api_key=os.getenv("ZHIPUAI_API_KEY"))
resp = client.chat.completions.create(
model="glm-5",
messages=[{"role": "user", "content": "你好"}],
)
print(resp.choices[0].message.content)

步骤 4：流式输出（网页端实时打字效果）

stream = client.chat.completions.create(
model="glm-5",
messages=[{"role": "user", "content": "介绍大模型落地注意事项"}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="")

常见问题

1. Ollama 拉取 GLM 报"模型不存在"？ Ollama 官方库的 GLM 模型名会随版本更新，先去 ollama.com/library 搜 "glm" 确认准确名称；或改走魔搭 GGUF + ollama pull modelscope.cn/...。
2. API 401？ 检查 Key 是否复制完整；注意 open.bigmodel.cn 的 chat 接口用 Bearer 前缀（与部分监控接口不同）。
3. 模型名用哪个？ glm-5 / glm-5.2 等以 docs.bigmodel.cn 官方模型列表为准；旧教程里的 glm-4.5 已被新版取代，复制旧代码时记得替换。
4. 本地部署选哪个尺寸？ 家用电脑：9B 级 Flash/GGUF 量化版；有 24GB+ 显存：可尝试更大尺寸；旗舰完整版 → 直接调云端 API 最划算。
5. MIT 协议能商用吗？ 可以。GLM-5/5.2 的 MIT 许可允许商用、修改和分发，但建议保留 LICENSE 文件；API 输出的使用条款以开放平台协议为准。

---