凯时AG

2026-07-24 17:25:36 设为首页 | 加入珍藏

美团LongCat-2.0开源推理代码 大模子总参数达1.6万亿

2026-07-24 17:25:36 宣布 泉源:中关村在线下载 作者:陈俊婷 浏览:5389次

泉源:环球网

【环球网科技报道 记者 李文瑶】7月6日 ,,美团宣布将万亿参数大模子LongCat-2.0正式开源 ,,并同步开放针对国产算力芯片深度优化的推理代码。。。。该模子总参数达1.6万亿 ,,平均激活约48B ,,专为真实的Agentic Coding使命设计。。。。

LongCat-2.0在架构上引入了LongCat希罕注重力机制(LSA)和N-gram Embedding ,,前者通过流感知索引、跨层索引等战略提升百万级长上下文的训练与推理效率 ,,后者以135B参数投入新????? ,,在MoE希罕度靠近97%的配景下进一步强化代码明确与天生能力。。。。后训练阶段 ,,模子接纳多西席在线蒸馏 ,,将专家分为Agent、推理和交互三类 ,,兼顾自主执行、自顺应推理与清静对齐。。。。

值得关注的是 ,,官方透露 ,,LongCat-2.0是业界首个在五万卡国产算力集群上完成推理的万亿参数模子。。。。团队从模子架构、芯片适配到安排战略举行深度协同优化:通过Super Kernel镌汰算子启动开销、Weight Prefetch隐藏I/O延迟 ,,并接纳PD疏散安排与KV-cache切分 ,,有用缓解显存与带宽瓶颈 ,,实现百万上下文在国产芯片上的稳固推理。。。。

美团此次开源同步提供BF16、FP8及INT8等多精度版本 ,,笼罩差别算力平台安排需求。。。。官方体现 ,,希望以开源为纽带 ,,盘活存量国产算力 ,,让更多国产卡包括老卡都能流通安排万亿大模子推理服务 ,,释放国产算力生态的恒久价值。。。。

现在又再度变得温顺了。。。。

责任编辑:陈书妹    校对:张雅慧

今日热门

  1. 最高检挂牌督办湖南浏阳烟花爆炸重大责任事故案
  2. 商务部:将从三方面发力 推动扩大服务消耗
  3. 西藏航空免费承运“爱心盒子”返藏 架起高原公益“空中走廊”
  4. 全球电力生长指数报告在联合国宣布 中国领跑手艺立异
  5. 今年上半年柬埔寨向中国出口大米17万吨
  6. 爆款频出客商云集 义乌为何这么“热”
  7. 国际最新研究开发入迷经假系一切 助力瘫痪患者恢复手部运动和感受
  8. 美军称对伊朗实验攻击以回应商船遭袭事务
  9. 看病从“往上跑”到“家门口”:四川自贡医共体建设视察
  10. 两年来北京累计买通百余条“断头路” 流通交通微循环

相关推荐

【网站地图】