WeLM - 微信团队研发的一系列大型语言模型

WeLM 是什么

WeLM 是微信团队自主研发的大语言模型体系，重点面向微信生态中的 AI 助手、搜索、工具调用及复杂任务场景，在用户隐私、推理效率和微信原生服务协同等方向进行针对性优化。新一代 WeLM 采用 MoE 架构，并探索 80B、617B 等不同规模模型，目前已应用于微信 AI 助手“小微”。

WeLM 的模型特性

• 面向微信场景优化： WeLM 重点服务微信生态，可结合聊天、搜索、小程序以及微信内部服务构建 AI 能力，相比通用模型更强调微信场景下的任务执行效率。
• MoE 混合专家架构： 新一代 WeLM 采用 MoE 路线，在扩大模型总参数规模的同时控制单次推理激活参数量，以降低大规模用户使用场景下的推理成本。
• 80B 级高效模型： 微信团队已经探索总参数约 80B、较低激活参数规模的 MoE 模型，在模型能力与推理效率之间取得平衡，适合对响应速度要求较高的 Agent 场景。
• 617B 大规模 MoE： WeLM 团队进一步将模型规模扩展至 617B 总参数，探索在中等激活规模下获得更强的通用理解和推理能力。
• Hidden Decoding： WeLM 正在探索一种隐式序列 Scaling 方法，将额外计算折叠进序列内部，使模型能够在不显著增加最终输出长度的情况下进行更深入的隐式计算。
• Agent 与工具调用： WeLM 已开始与微信“小微”结合，使 AI 不仅能够回答问题，还可以连接微信原生能力和小程序完成实际任务。

WeLM 的应用场景

• 微信 AI 助手： 为微信“小微”等原生 AI 助手提供模型能力，完成问答、搜索和任务执行。
• 微信原生功能操作： 结合 Agent 和工具调用能力，让用户通过自然语言完成部分微信功能操作。
• 小程序服务调用： 理解用户需求后调用对应的小程序或服务，将自然语言指令转化为实际任务。
• 微信搜索： 用于信息查询、内容理解、结果总结以及复杂搜索任务。
• 小程序智能开发： 更大规模 WeLM 模型未来具备用于代码生成、工具开发和微信生态应用构建的潜力。
• 微信内容创作： 可应用于朋友圈文案、内容生成、信息整理等微信原生内容场景。

如何使用 WeLM

1. 普通用户体验： WeLM 当前最直接的产品形态是微信 AI 助手“小微”。小微仍处于逐步开放阶段，获得相关入口的用户可以直接在微信内体验。
2. 微信生态使用： 用户可通过自然语言与“小微”交互，进行信息查询、搜索，并在支持的范围内连接微信原生功能及小程序服务。
3. 开发者接入： 当前新一代 WeLM 主要服务微信内部 AI 产品，尚未像腾讯混元一样提供面向普通开发者的大规模公开 API 服务。
4. 企业应用： WeLM 当前主要围绕微信生态内部场景部署，企业开发者若需要腾讯通用大模型能力，更适合通过腾讯混元及腾讯云相关服务接入。
5. 部署方式： WeLM 新一代模型目前属于闭源模型体系，尚未公开 80B、617B 等新模型完整权重，因此暂不支持普通用户自行下载进行本地部署。

常见问题

Q：WeLM 是腾讯混元吗？

A：不是。WeLM 是微信团队自主研发的大语言模型体系，与腾讯混元属于不同的模型技术路线。WeLM 更强调微信生态、推理效率以及微信原生 Agent 场景。

Q：WeLM 是新模型吗？

A：不是。WeLM 最早可以追溯至 2022 年公开的 10B 中文预训练模型。2026 年随着微信“小微”和新一代 MoE 模型曝光，WeLM 才开始获得更广泛关注。

Q：WeLM-617B 有多少参数？

A：目前公开技术资料显示，其总参数规模约为 617B，采用 MoE 架构，并结合 Hidden Decoding 等技术探索更高效的模型 Scaling 方法。

Q：WeLM 可以下载到本地吗？

A：目前新一代 WeLM 并未开放完整模型权重，主要用于微信内部产品和相关研究。

Q：普通用户在哪里体验 WeLM？

A：目前最直接的入口是微信正在逐步测试的 AI 助手“小微”，具体开放情况取决于微信灰度测试范围。