混元
一句话简介:腾讯全链路自研的多模态大模型矩阵,多款小参数模型已按 Apache 2.0 协议开源。
主流功能:元宝 App、WorkBuddy/CodeBuddy Agent、高效 Agent/代码
可用性:国内可直接使用(腾讯元宝、腾讯云 API、GitCode 上的开源权重均为国内服务,无需特殊网络)。
适用人群:普通用户:聊天、写作、做 PPT、搜资料,用腾讯元宝 App/网页即可
前置条件:
- 腾讯元宝:微信/QQ/手机号登录,免费
- 腾讯云 API:腾讯云账号(建议实名),在控制台创建 API Key
- 本地部署:Linux + NVIDIA GPU + Python 3.8+
教程一:腾讯元宝 App / 网页使用教程
步骤 1:选择入口(三选一)
- 网页版:浏览器打开
https://yuanbao.tencent.com/,用微信/手机/QQ 登录即可使用。 - 手机 App:在应用商店搜索「腾讯元宝」,认准腾讯出品,下载安装后登录。
- 微信小程序:微信内搜索「腾讯元宝」小程序,可使用部分功能。
步骤 2:切换模型与功能
- 对话页左上角/模型选择器可切换不同模型:日常对话选 Hunyuan-Turbo 系列,深度写作/复杂推理选 Hunyuan-T1 等(以页面实际选项为准)。
- 输入框下方可开启「深度思考」「联网搜索」等开关,按需组合。
步骤 3:高效使用小技巧
- 用「角色 + 任务 + 要求」公式提问,例如:「你现在是一名商业咨询专家,请基于我上传的 PDF 分析该公司 AI 战略,要求三条重点、每条 300 字以上,语言专业」。
- 上传文件(PDF/Word/图片)后再提问,适合读报告、改简历、做总结。
- 重要事实请交叉核对,大模型可能产生幻觉。
教程二:腾讯云混元 API 接入教程
步骤 1:创建 API Key
- 登录腾讯云后,访问混元 API Key 管理页:
https://console.cloud.tencent.com/hunyuan/api-key。 - 点击「创建 API Key」,复制保存好 Key(只显示一次)。
步骤 2:Python 调用(OpenAI 兼容方式)
pip install openai -i https://pypi.tuna.tsinghua.edu.cn/simple
from openai import OpenAI
client = OpenAI(
base_url="https://api.hunyuan.cloud.tencent.com/v1",
api_key="你的API Key",
)
resp = client.chat.completions.create(
model="hunyuan-turbo", # 模型名以控制台文档为准
messages=[{"role": "user", "content": "你好"}],
)
print(resp.choices[0].message.content)
步骤 3:在第三方客户端里用(以 Cherry Studio 为例)
- 打开 Cherry Studio → 设置 → 模型服务 → 搜索「腾讯」,选择「腾讯混元」。
- 填写 API 密钥,API 地址填
https://api.hunyuan.cloud.tencent.com。 - 点击「测试」,显示成功即配置完成,之后在助手中选择混元模型即可对话。
步骤 4:查看额度
在腾讯云混元控制台查看剩余额度与账单。是否有免费额度以控制台实际展示为准。
教程三:本地部署教程(Ollama + vLLM 两条路线)
说明:截至 2026-10-05,未在 Ollama 官方模型库(https://ollama.com/library)确认收录混元文本模型。下面给出 Ollama 通用导入路线(社区权重,未验证)与更可靠的官方权重 vLLM 路线,请按需选择。
路线 A:Ollama 部署(通用方法)
步骤 1:安装 Ollama
# Linux 一键安装;Windows/macOS 去 ollama.com 下载安装包
curl -fsSL https://ollama.com/install.sh | sh
ollama --version # 显示版本号即安装成功
步骤 2:先查官方库有没有混元
- 打开
https://ollama.com/library,搜索hunyuan。 - 如果官方已收录,直接运行库内给出的命令,例如
ollama run <库内模型名>(以页面为准)。
步骤 3(官方库未收录时):用 Modelfile 导入社区 GGUF 权重(未验证)
- 从魔搭社区(modelscope.cn)或 HF 镜像站(hf-mirror.com)搜索下载混元的 GGUF 量化文件(如
xxx.Q4_K_M.gguf),仓库与文件名以站点页面为准。 - 在 GGUF 文件同目录创建
Modelfile:
FROM ./下载的文件名.gguf
PARAMETER temperature 0.7
- 导入并运行:
ollama create hunyuan-local -f Modelfile
ollama run hunyuan-local
路线 B:vLLM 部署官方开源权重(推荐,命令已交叉验证)
步骤 1:下载官方权重(GitCode 国内源)
# 以 1.8B GPTQ 量化版为例(约 4.5GB 显存可跑);大模型换 A13B 等仓库
git clone https://gitcode.com/tencent_hunyuan/Hunyuan-1.8B-Instruct-GPTQ-Int4
步骤 2:安装并启动 vLLM 服务
pip install vllm -i https://pypi.tuna.tsinghua.edu.cn/simple
python -m vllm.entrypoints.openai.api_server \
--model ./Hunyuan-1.8B-Instruct-GPTQ-Int4 \
--tensor-parallel-size 1 \
--quantization gptq \
--trust-remote-code \
--served-model-name hunyuan-1.8b
步骤 3:调用验证(OpenAI 格式)
curl http://localhost:8000/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model": "hunyuan-1.8b",
"messages": [{"role": "user", "content": "/no_think 请介绍一下你自己"}]}'
其中 /no_think 是混元的"快思考"模式前缀(快速回答),去掉则默认深度思考。
硬件参考
| 模型 | 显存需求(量化版) |
|---|---|
| Hunyuan-1.8B-Instruct-GPTQ-Int4 | 约 4.5GB(消费级显卡可跑) |
| Hunyuan-4B-Instruct-GPTQ-Int4 | 约 8GB |
| Hunyuan-A13B-Instruct-GPTQ-Int4 | 约 16GB |
常见问题
Ollama 官方库搜不到 hunyuan 怎么办? 用上文路线 A 步骤 3 的 Modelfile 导入社区 GGUF,或直接走路线 B 的 vLLM 官方权重方案。注意社区权重以页面实际提供为准,下载前确认仓库可信度。
腾讯云混元 API Key 申请需要企业认证吗? 个人账号即可创建 API Key;免费额度和调用费率以控制台为准,企业认证主要影响配额上限。
GitCode 克隆权重很慢? GitCode 是国内平台,通常比 GitHub/HF 快;如果仍慢,检查本地网络或换时段重试。
tencent_hunyuan是腾讯混元在 GitCode 的官方组织。/no_think是什么? 混元小模型的双模式开关:在问题前加/no_think走快思考(秒回),默认走慢思考(深度推理)。按场景选用。vLLM 启动报
trust_remote_code相关错误? 混元用了自定义模型结构,必须加--trust-remote-code参数;同时确认 transformers 版本与权重仓库 README 要求一致。