送外卖的美团跑出万亿参数大模型靠的是全国产算力

  就正在比来,美团LongCat-2.0大模子正式发外,正在业内掀起波涛。若单看本领能力,它并非最精良的阿谁——有评判以为,正在器材挪用、杂乱指令实行等Agent(智能体)重点才能方面,LongCat-2.0-Preview迫近Claude Opus 4.6,落伍于最新的Claude Opus 4.8。

  但正在头部玩家动辄刷榜的这日,云云一款不算最优的模子,却得到了颇高的体贴度。来因正在于——LongCat-2.0是业界首个基于邦产算力实现熬炼、推理全流程的万亿参数大模子。

  4月24日,DeepSeek正式对外发外DeepSeek-V4预览版,华为同步公布昇腾超节点全系列产物及华为云已实行对DeepSeek-V4的一共撑持。

  之后,新的讯息传来。深圳河套学院AI熬炼平台项目团队共同哈尔滨工业大学(深圳)、深圳市大数据推敲院、华为干系团队,正在昇腾910C邦产算力集群上,实现了DeepSeek-V4-Pro的全参数后熬炼。

  所谓后熬炼,是正在预熬炼基座模子实现根底上做微调、对齐优化,比如筑好毛坯房后再实现精装修,与打地基、盖框架的重新熬炼依然有很大的分别。

  LongCat-2.0从零入手,用宇宙产算力熬炼万亿参数模子,笼罩预熬炼、后熬炼到推理的全流程,声明了邦产算力能独立、无缺地撑持万亿模子从0到1的全性命周期。

  据悉,该模子采用MoE(混杂专家)架构,总参数范畴1.6万亿,每个Token激活参数约480亿,原生撑持1M超长上下文,可一次收拾百万字级输入,模子适配Claude Code、OpenClaw、Hermes等主流Harness(智能体工程框架)。

  业内人士解析,这一出现既源于该模子自己的机能,也离不开暂时的订价战术——公测期输入Token促销价为0.30美元/百万Token,且供应大额免费挪用额度。行业通用玩法是上线初期靠低价和免费额度冲榜、攒口碑,再渐渐涨价。一朝进入收费阶段,现正在的收效还能依旧众久,才是真正面对的考题。

  但起码,这件事验证了一个判决:目前邦产算力卡的单卡机能虽与环球顶尖秤谌仍有差异,但打算确切性和精度依然可能撑持前沿模子的全流程熬炼。看待激活存量邦产芯片而言,这是一个厉重打破。

  遵照公然讯息,LongCat-2.0全程正在邦产算力上实现熬炼,峰值范畴逾越5万张邦产算力卡,是迄今为止邦产算力上实现的最大熬炼职责。

  邦产算力集群底细出自哪家?据业内人士探求,该集群大要率基于华为昇腾架构搭筑。但是,美团方面并未对此作出昭彰回应。

  另一个值得体贴的维度,是模子层面的安排。干系本领讲述显示,LongCat-2.0引入零打算专家机制等安排。“零打算专家”机制闭系的是大模子的经济性题目,当总参数打破万亿级别后,简单堆叠参数带来的机能增益已明显放缓。一个更务实的命题是——怎么让大模子用得更省、跑得更速?

  正在暂时主流的MoE架构下,大模子每次推理只调动一小个别“专家”加入打算。云云既保存了海量学问,又将单次推理的打算开销把持正在合理周围内。DeepSeek-V3/V4、Mixtral等头部模子均采用此架构。

  但是,该架构下每个Token激活的“专家”数目大凡是固定的,无论输入文本纯洁或杂乱,都挪用平等范畴的打算资源。

  LongCat系列引入“零打算专家”机制,即正在守旧“打算专家”之外,配置了一类格外的“专家”——它不做任何矩阵运算,只做一件事:把输入原样通报到下一层。

  模子会动态判决每个Token的杂乱度,纯洁的Token直接分派给“零打算专家”走疾速通道,杂乱的Token才调动真正的“打算专家”深度收拾。用更寻常的话说:让大模子学会正在纯洁题目上“偷懒”,把算力留给真正必要深思的闭头。

  正在2025年3月的功绩电话会上,美团CEO王兴昭彰了计谋定位——对AI的战术是进犯,不是防守。本年3月,他进一步泄漏,自2023年头此后,美团正在血本支付和AI人才进步行了大范畴加入。“除有云打算营业的企业外,美团正在AI上的加入范畴,大要率是邦内企业里最大的,且依然坚决组织三年众。”

  往后,美团重点当地贸易(CLC)实现结构架构调理,正式创建AI Transformation部分,与外卖、闪购等部分平行,由前群众点评总司理牧遥担负,直接向CLC CEO王莆中请示。

  美团的野心,是成为将来当地生存需求的 “AI超等入口” 。这请求AI能精准知道用户需求并高效实行职责。王兴众次吐露,要争取把美团App率先升级成“AI-powered App”。

  做万亿参数大模子,是计谋的一个别。王兴曾用一个比喻分析题目:“固然大模子越来越灵巧。但咱们可能联思,就算爱因斯坦当秘书,让他订一个餐厅,他已经不领略阿谁餐厅有没有座位。这不是智力题目,而是音信题目。”

  基于当地生存场景的杂乱性,通用AI目前还无法牢靠地统治和保险实际天下中的任事体验。美团众年积聚的构造性数据上风——笼罩全品类的当地任事、及时音信、海量用户评判,以及履约根底办法,正好可能成为大模子熬炼的根底。

  这也闭乎一笔“经济账”。跟着营业对AI依赖加深,API挪用费将成为不小的加入。通过打制“本领闭环”,也有助于加强营业的聪明性与安适性。

  LongCat-2.0的代价,正在于为美团的AI计谋供应了底层才能撑持,助助造成“基座模子+当地生存Agent+AI生态投资”的三层系统。

  接下来,就要看AI才能究竟众大水平与营业肌理统一。事实,大模子的代价历来不正在于它自己有众大,而正在于它最终处置了什么实质题目。