36 氪獲悉,月之暗面 Kimi 發布 MoE 架構基礎模型 K2 并同步開源,總參數 1T,激活參數 32B,在自主編程、工具調用、數學推理等領域超越全球其他開源模型。Kimi K2 使用 MuonClip 優化器實現萬億參數模型的高效訓練,在高質量數據遇到瓶頸的背景下通過提升 Token 效率,找到新的預訓練擴展空間。K2 具備更強代碼能力,擅長通用 Agent 任務,在多個實際場景中展現出更強的能力泛化及實用性,新模型目前已上線開放體驗。
36氪
剛剛