← 返回教程目录

混元

一句话简介:腾讯全链路自研的多模态大模型矩阵,多款小参数模型已按 Apache 2.0 协议开源。

主流功能:元宝 App、WorkBuddy/CodeBuddy Agent、高效 Agent/代码

可用性:国内可直接使用(腾讯元宝、腾讯云 API、GitCode 上的开源权重均为国内服务,无需特殊网络)。

适用人群:普通用户:聊天、写作、做 PPT、搜资料,用腾讯元宝 App/网页即可

前置条件:

  • 腾讯元宝:微信/QQ/手机号登录,免费
  • 腾讯云 API:腾讯云账号(建议实名),在控制台创建 API Key
  • 本地部署:Linux + NVIDIA GPU + Python 3.8+

教程一:腾讯元宝 App / 网页使用教程

步骤 1:选择入口(三选一)

  1. 网页版:浏览器打开 https://yuanbao.tencent.com/,用微信/手机/QQ 登录即可使用。
  2. 手机 App:在应用商店搜索「腾讯元宝」,认准腾讯出品,下载安装后登录。
  3. 微信小程序:微信内搜索「腾讯元宝」小程序,可使用部分功能。

步骤 2:切换模型与功能

  1. 对话页左上角/模型选择器可切换不同模型:日常对话选 Hunyuan-Turbo 系列,深度写作/复杂推理选 Hunyuan-T1 等(以页面实际选项为准)。
  2. 输入框下方可开启「深度思考」「联网搜索」等开关,按需组合。

步骤 3:高效使用小技巧

  • 用「角色 + 任务 + 要求」公式提问,例如:「你现在是一名商业咨询专家,请基于我上传的 PDF 分析该公司 AI 战略,要求三条重点、每条 300 字以上,语言专业」。
  • 上传文件(PDF/Word/图片)后再提问,适合读报告、改简历、做总结。
  • 重要事实请交叉核对,大模型可能产生幻觉。

教程二:腾讯云混元 API 接入教程

步骤 1:创建 API Key

  1. 登录腾讯云后,访问混元 API Key 管理页:https://console.cloud.tencent.com/hunyuan/api-key。
  2. 点击「创建 API Key」,复制保存好 Key(只显示一次)。

步骤 2:Python 调用(OpenAI 兼容方式)

pip install openai -i https://pypi.tuna.tsinghua.edu.cn/simple
from openai import OpenAI

client = OpenAI(
    base_url="https://api.hunyuan.cloud.tencent.com/v1",
    api_key="你的API Key",
)

resp = client.chat.completions.create(
    model="hunyuan-turbo",  # 模型名以控制台文档为准
    messages=[{"role": "user", "content": "你好"}],
)
print(resp.choices[0].message.content)

步骤 3:在第三方客户端里用(以 Cherry Studio 为例)

  1. 打开 Cherry Studio → 设置 → 模型服务 → 搜索「腾讯」,选择「腾讯混元」。
  2. 填写 API 密钥,API 地址填 https://api.hunyuan.cloud.tencent.com。
  3. 点击「测试」,显示成功即配置完成,之后在助手中选择混元模型即可对话。

步骤 4:查看额度

在腾讯云混元控制台查看剩余额度与账单。是否有免费额度以控制台实际展示为准。


教程三:本地部署教程(Ollama + vLLM 两条路线)

说明:截至 2026-10-05,未在 Ollama 官方模型库(https://ollama.com/library)确认收录混元文本模型。下面给出 Ollama 通用导入路线(社区权重,未验证)与更可靠的官方权重 vLLM 路线,请按需选择。

路线 A:Ollama 部署(通用方法)

步骤 1:安装 Ollama

# Linux 一键安装;Windows/macOS 去 ollama.com 下载安装包
curl -fsSL https://ollama.com/install.sh | sh
ollama --version   # 显示版本号即安装成功

步骤 2:先查官方库有没有混元

  1. 打开 https://ollama.com/library,搜索 hunyuan。
  2. 如果官方已收录,直接运行库内给出的命令,例如 ollama run <库内模型名>(以页面为准)。

步骤 3(官方库未收录时):用 Modelfile 导入社区 GGUF 权重(未验证)

  1. 从魔搭社区(modelscope.cn)或 HF 镜像站(hf-mirror.com)搜索下载混元的 GGUF 量化文件(如 xxx.Q4_K_M.gguf),仓库与文件名以站点页面为准。
  2. 在 GGUF 文件同目录创建 Modelfile:
FROM ./下载的文件名.gguf
PARAMETER temperature 0.7
  1. 导入并运行:
ollama create hunyuan-local -f Modelfile
ollama run hunyuan-local

路线 B:vLLM 部署官方开源权重(推荐,命令已交叉验证)

步骤 1:下载官方权重(GitCode 国内源)

# 以 1.8B GPTQ 量化版为例(约 4.5GB 显存可跑);大模型换 A13B 等仓库
git clone https://gitcode.com/tencent_hunyuan/Hunyuan-1.8B-Instruct-GPTQ-Int4

步骤 2:安装并启动 vLLM 服务

pip install vllm -i https://pypi.tuna.tsinghua.edu.cn/simple

python -m vllm.entrypoints.openai.api_server \
  --model ./Hunyuan-1.8B-Instruct-GPTQ-Int4 \
  --tensor-parallel-size 1 \
  --quantization gptq \
  --trust-remote-code \
  --served-model-name hunyuan-1.8b

步骤 3:调用验证(OpenAI 格式)

curl http://localhost:8000/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model": "hunyuan-1.8b",
       "messages": [{"role": "user", "content": "/no_think 请介绍一下你自己"}]}'

其中 /no_think 是混元的"快思考"模式前缀(快速回答),去掉则默认深度思考。

硬件参考

模型 显存需求(量化版)
Hunyuan-1.8B-Instruct-GPTQ-Int4 约 4.5GB(消费级显卡可跑)
Hunyuan-4B-Instruct-GPTQ-Int4 约 8GB
Hunyuan-A13B-Instruct-GPTQ-Int4 约 16GB

常见问题

  1. Ollama 官方库搜不到 hunyuan 怎么办? 用上文路线 A 步骤 3 的 Modelfile 导入社区 GGUF,或直接走路线 B 的 vLLM 官方权重方案。注意社区权重以页面实际提供为准,下载前确认仓库可信度。

  2. 腾讯云混元 API Key 申请需要企业认证吗? 个人账号即可创建 API Key;免费额度和调用费率以控制台为准,企业认证主要影响配额上限。

  3. GitCode 克隆权重很慢? GitCode 是国内平台,通常比 GitHub/HF 快;如果仍慢,检查本地网络或换时段重试。tencent_hunyuan 是腾讯混元在 GitCode 的官方组织。

  4. /no_think 是什么? 混元小模型的双模式开关:在问题前加 /no_think 走快思考(秒回),默认走慢思考(深度推理)。按场景选用。

  5. vLLM 启动报 trust_remote_code 相关错误? 混元用了自定义模型结构,必须加 --trust-remote-code 参数;同时确认 transformers 版本与权重仓库 README 要求一致。