昇腾A2芯片立功!华为首次公开美团LongCat

  发布时间:2026-09-29 19:46:21   作者:玩站小弟   我要评论
7月6日消息,华为CANN昇腾AI异构计算架构)团队首次公开披露了美团万亿参数大模型LongCat-2.0在昇腾A2芯片上的完整部署方案。LongCat-2.0,总参数量达1.6万亿,原生支持100万 。

7月6日消息,昇腾华为CANN(昇腾AI异构计算架构)团队首次公开披露了美团万亿参数大模型LongCat-2.0在昇腾A2芯片上的片立完整部署方案。

LongCat-2.0,功华总参数量达1.6万亿,为首原生支持100万Token超长上下文。开美该模型是昇腾业界首个完全基于国产算力完成训练与推理全流程的万亿参数模型。

此次公开的片立部署细节显示,LongCat-2.0基于昇腾Atlas A2 192卡集群部署,功华单机16卡。为首Prefill阶段采用64张昇腾A2协同调度,开美Decode阶段采用128卡超大规模专家并行EP部署。昇腾

昇腾A2单卡内置高速网卡可提供200Gbps传输带宽,片立有效支撑大规模分布式推理。功华

CANN推理团队针对LongCat-2.0的为首MoE超稀疏专家架构与百万级长序列进行了系统级优化。

Prefill阶段融合流水线并行与序列并行双重策略,开美将模型划分为8个独立计算Stage,压缩MoE通信耗时10倍。

Decode阶段根据序列长度差异化切分,短请求采用DP128+EP128方案,超长序列采用DP16CP8+EP128方案,最终实现TPOT时延仅20ms。

算法层面,Prefill阶段采用FlashComm算法降低Vector算力消耗。Decode阶段利用A2超大L2 Cache优势实现模型权重异步预取,加速矩阵运算。

计算流调度上实现计算与通信双流并行,将MoE专家计算与Dense层计算拆分为独立计算流,最大限度利用芯片带宽与算力。

LongCat-2.0是美团继1月发布LongCat-Flash-2601后又一次重磅开源。测试版本在OpenRouter总调用量已跻身全球前三。

业内人士表示,此次华为首次公开昇腾A2完整部署方案与技术细节,标志着国产芯片已具备承载万亿参数大模型推理任务的能力,为AI算力国产替代提供了可复用的技术范本。

  • Tag:

相关文章

  • 荣耀Magic9系列开售1小时销量同比增长208%:部分版本卖断货

    9月28日消息,荣耀全球首席营销官关海涛晒出战报。荣耀Magic9系列全平台开售1小时,销量同比上代增长208%。由于销售火爆,荣耀Magic9 Pro Max部分版本已经卖断货,市场供不应求。该系列
    2026-09-29
  • 数据与冠军难换真心:勒布朗·詹姆斯与洛杉矶之间那道过不去的坎

    打破历史得分纪录,赢下队史第17冠,手握无数里程碑——但据ESPN的雷蒙娜·舍尔本最新爆料,勒布朗·詹姆斯在洛杉矶从未被真正爱过。“我不觉得勒布朗在洛杉矶是被热爱的,”舍尔本在《Chiney Toda
    2026-09-29
  • 幻想风战斗爽游《二重螺旋》鸿蒙版正式上线

    7月3日,潘神工作室开发、英雄游戏发行的幻想风多维战斗手游《二重螺旋》鸿蒙版正式上架华为游戏中心,全新版本「银星奔流」同步上线。游戏以命运交织的阿特拉西亚大陆为舞台,有着中世纪、国风、维多利亚风格等多
    2026-09-29
  • 索尼无视社区怒火 在光驱商店页加注通告 劝退实体党

    尽管索尼此前宣布“2028年1月起停售新游戏实体光盘”的决策引发了包括小岛秀夫在内的业界人士及广大玩家的强烈反对,但索尼似乎正以更强硬的姿态推进其“无光盘化&rdq
    2026-09-29
  • 双2亿镜头!OPPO Find X10图赏

    9月22日消息,OPPO今晚正式发布Find X10手机,标准版直接给到双2亿像素镜头配置,9月24日全渠道开售。一共有冰蓝、清橙、浅钛3种配色可以选,现在这款新品已经来到我们评测室,下面为大家带来图
    2026-09-29
  • 首发玄戒O3+澎湃OS 4!小米阔折叠入网:支持100W快充

    7月1日消息,近日,小米一款神秘新机获得国内3C认证,信息显示其支持100W快充,是目前小米主流的旗舰规格。据博主智慧皮卡丘透露,该机应该是大家期待的小米阔折叠,最快7月发布。此前爆料称,该机将被命名
    2026-09-29

最新评论