Kimi K3正式开放：2.8万亿参数权重、技术报告及三项Infra技术同步发布

2026 年 7 月 27 日，月之暗面正式举行 Kimi K3 开放日，面向开发者和研究社区发布 Kimi K3 模型权重与技术报告，并开放支撑模型训练的 MoonEP、FlashKDA 和 AgentEnv 三项关键基础设施技术。

此次开放覆盖模型、训练方法和底层 Infra，开发者可下载并部署 Kimi K3，用于内部研发、模型研究或集成到面向终端用户的产品中，具体使用范围需遵守 Kimi K3 许可证。

2.8万亿参数模型权重正式开放

Kimi K3 是月之暗面目前能力最强的模型，采用混合专家架构，总参数量达到 2.8万亿，约为 Kimi K2.5 的3倍。

模型具备原生视觉理解能力，并支持最长 100万 Token 上下文窗口，可处理大型代码仓库、长篇文档、多模态内容和复杂智能体任务。

Kimi K3 并非单纯依靠参数规模提升能力。通过 Kimi Delta Attention、Attention Residuals 和 MoonEP 等技术，模型的规模化效率提升约2.5倍，即在算力最优条件下，单位算力能够产出的模型智能约为此前的2.5倍。

模型权重开放后，开发者和企业可以围绕 Kimi K3 开展私有化部署、行业适配、模型微调和应用集成。

与模型权重一同公开的还有 Kimi K3 技术报告，详细介绍了模型架构、训练方法、后训练体系和评估结果。

在注意力机制方面，Kimi K3 以 3∶1 的比例混合 Kimi Delta Attention 与 Gated MLA，在提高长上下文计算效率的同时，通过块级 Attention Residuals 增强不同网络层之间的信息传递。

在 MoE 架构方面，Kimi K3 采用 Stable LatentMoE。每个 Token 会从896个路由专家中激活16个，并结合 SiTU-GLU 和 Quantile Balancing，在维持较高模型稀疏度的同时提高训练稳定性。

视觉能力由 MoonViT-V2 编码器提供。该视觉编码器从零开始使用下一 Token 预测方式训练，无需依赖传统的对比学习预训练，在达到 SigLIP 初始化基线效果的同时，获得更稳定的优化过程。

后训练阶段覆盖通用推理、通用 Agent 和编程 Agent 三类任务，并构建了支持百万 Token 上下文的强化学习基础设施。技术报告还公布了近20个内部评测集的完整测试结果及相关消融实验。

除模型权重和技术报告外，月之暗面还开放了支撑 Kimi K3 训练的三项基础设施技术，覆盖专家通信、高性能算子和分布式强化学习环境。

MoonEP 是一款面向超大规模细粒度 MoE 模型的高性能通信库。

在专家并行训练过程中，不同专家接收到的 Token 数量可能存在明显差异。MoonEP 针对这种通信不均衡问题进行优化，使专家并行通信在负载不均的情况下仍能保持较高效率。

FlashKDA 是面向 Kimi Delta Attention 的高性能计算算子，此前已经开放源代码。

在英伟达 H20 GPU 上，与 flash-linear-attention 基线相比，FlashKDA 的 Prefill 速度提升约 1.72至2.22倍，并可作为 flash-linear-attention 的替换后端使用。

AgentEnv 是月之暗面与 KVCache.ai 联合开发的智能体沙箱系统，主要用于大规模运行和训练 Agent 环境。

该系统为 Kimi K3 后训练提供高保真、强隔离的执行环境，支持快速快照、恢复和分叉等能力，可用于大规模并行 Agent 工作流和强化学习训练任务。

其中，FlashKDA 此前已经开放，MoonEP 和 AgentEnv 则随本次 Kimi K3 开放日正式开源。

Kimi K3 的此次开放不仅包括模型参数，还进一步覆盖训练方法和底层技术基础设施。

开放权重模型可以降低开发者获取前沿模型能力的门槛，并为私有部署、数据控制、隐私保护和行业定制提供更多选择。基础设施技术的同步开放，也使研究机构和模型团队可以直接复用相关通信、算子和沙箱能力，减少训练下一代大模型时的重复开发成本。

随着模型权重、技术报告和关键 Infra 技术全面开放，Kimi K3 将从面向用户和开发者的模型产品，进一步转向可部署、可研究和可二次开发的开放模型生态。