凯时AG

2026-07-22 09:29:13 设为首页 | 加入珍藏

AI内存V-Die亮相:侧立放置DRAM吞吐540 tokens/s

2026-07-22 09:29:13 宣布 泉源:凤凰下载 作者:张虹伦 浏览:9605次

IT之家 7 月 11 日新闻,,科技媒体 Tom's Hardware 昨日(7 月 10 日)宣布博文,,报道称在 6 月召开的 IEEE / JSAP 超大规模集成电路手艺钻研会上,,针对 AI 加速器的内存散热与带宽瓶颈,,研究团队提出 V-Die 与 MOSAIC 两种 HBM 集成方案。。

IT之家注:高带宽内存(HBM)是面向高性能盘算与 AI 加速器的近封装内存手艺,,通过多层 DRAM 堆叠,,并借助超宽总线与处理器近距离互连,,以较短数据路径提供极高带宽。。典范应用包括 GPU、AI 训练与推理加速器、超等盘算节点等高吞吐场景。。

图源:AMD

为了缓解 AI 加速器 HBM 内存散热与带宽瓶颈,,韩国蔚山国立科学手艺院(UNIST)研究职员提出 V-Die 解决方案,,而日本东京大学牵头团队提出 MOSAIC 两种解决方案。。

两者配合思绪是将 DRAM 芯片由古板向上堆叠,,改为侧立放置,,以缓解更高堆叠带来的散热压力。。

V-Die 竖直放置 DRAM Die 芯片,,作废 TSV(硅通孔),,改用每片裸片底边 I/O 毗连,,并在相邻裸片间加入液冷通道。。

研究团队称,,在与 HBM4 等容量比照下,,V-Die 在 GPT-3 规模事情负载中抵达 540 tokens/s,,而 HBM4 为 296 tokens/s,,前者横跨 82.43%。。V-Die 底边毗连间距为 20 微米,,毗连数目可达 HBM4 的 4 倍,,内存读取时间下降 37%。。

在一组与 H100 级硬件匹配的 16 层堆叠仿真中,,该方案将首 Token 时延降低 32%,,约 24 毫秒。。散热方面,,团队称微流体冷却可将堆叠温度维持在约 45°C,,低于高密度 HBM 系统常见的 80°C 以上区间。。

MOSAIC 方案由东京大学牵头团队提出,,重点在于提升侧立堆叠的可制造性。。该方案接纳正交裸片堆叠与无接触裸片互连,,用微型感应线圈替换严酷瞄准的金属信号接触。。

研究职员称,,该原型接口速率最高达 4 Gbps / 通道,,并可在 DRAM-on-GPU 结构中实现 HBM4 级容量的 2 倍。。

另一组相关的 bump-MOSAIC 硬件演示在 ECTC 聚会披露,,接纳 100 微米间距微凸点,,X 射线 CT 验证堆叠瞄准误差控制在 6 微米以内。。研究团队称,,该设置热导率抵达古板堆叠的 3 倍,,并可特殊增添最高 30% 内存容量。。

中原证券以为,,市场短期仍处调解期,,外部扰动麋集释放,,指数可能延续震荡名堂。。中期来看,,AI工业趋势未变,,二季度上市公司盈利在PPI上行支持下有望一连改善,,市场经由震荡蓄力后,,中期向上运行趋势依然稳固。。预计上证指数维持震荡整理的可能性较大,,亲近关注宏观经济数据、外洋流动性转变以及政谋划向。。短线建议关注通讯装备、半导体、元件以及玻璃玻纤等行业的投资时机。。(中新经纬APP) -->

责任编辑:陈文军    校对:柳家齐

今日热门

  1. 宁波至高雄直飞航线复航
  2. 笔直起降复合翼无人机亮相2026中国石油石化信息手艺交流大会
  3. 重庆江北国际机场启用渝东北地区首个航空物流前置站点
  4. 商务部回应中美关税谈判希望:双方经贸团队将商定详细安排并尽快推动实验
  5. 全球海事论坛CEO:中国孝顺全球已宣布绿色航运走廊的五分之一
  6. 武契奇向人民英雄纪念碑敬献花圈
  7. 具身智能测试实验室长三角中心正式启用
  8. 我国完成首次制品油管道顺序运送甲醇试验
  9. 光大期货:6月24日软商品日报
  10. 空调竟已变身成了中国“手办”

相关推荐

【网站地图】