凯时AG

2026-07-23 06:36:29 设为首页 | 加入珍藏

AI内存V-Die亮相:侧立放置DRAM吞吐540 tokens/s

2026-07-23 06:36:29 宣布 泉源:百度软件中心 作者:李思勇 浏览:3359次

IT之家 7 月 11 日新闻,, ,,科技媒体 Tom's Hardware 昨日(7 月 10 日)宣布博文,, ,,报道称在 6 月召开的 IEEE / JSAP 超大规模集成电路手艺钻研会上,, ,,针对 AI 加速器的内存散热与带宽瓶颈,, ,,研究团队提出 V-Die 与 MOSAIC 两种 HBM 集成方案。。。。

IT之家注:高带宽内存(HBM)是面向高性能盘算与 AI 加速器的近封装内存手艺,, ,,通过多层 DRAM 堆叠,, ,,并借助超宽总线与处理器近距离互连,, ,,以较短数据路径提供极高带宽。。。。典范应用包括 GPU、AI 训练与推理加速器、超等盘算节点等高吞吐场景。。。。

图源:AMD

为了缓解 AI 加速器 HBM 内存散热与带宽瓶颈,, ,,韩国蔚山国立科学手艺院(UNIST)研究职员提出 V-Die 解决方案,, ,,而日本东京大学牵头团队提出 MOSAIC 两种解决方案。。。。

两者配合思绪是将 DRAM 芯片由古板向上堆叠,, ,,改为侧立放置,, ,,以缓解更高堆叠带来的散热压力。。。。

V-Die 竖直放置 DRAM Die 芯片,, ,,作废 TSV(硅通孔),, ,,改用每片裸片底边 I/O 毗连,, ,,并在相邻裸片间加入液冷通道。。。。

研究团队称,, ,,在与 HBM4 等容量比照下,, ,,V-Die 在 GPT-3 规模事情负载中抵达 540 tokens/s,, ,,而 HBM4 为 296 tokens/s,, ,,前者横跨 82.43%。。。。V-Die 底边毗连间距为 20 微米,, ,,毗连数目可达 HBM4 的 4 倍,, ,,内存读取时间下降 37%。。。。

在一组与 H100 级硬件匹配的 16 层堆叠仿真中,, ,,该方案将首 Token 时延降低 32%,, ,,约 24 毫秒。。。。散热方面,, ,,团队称微流体冷却可将堆叠温度维持在约 45°C,, ,,低于高密度 HBM 系统常见的 80°C 以上区间。。。。

MOSAIC 方案由东京大学牵头团队提出,, ,,重点在于提升侧立堆叠的可制造性。。。。该方案接纳正交裸片堆叠与无接触裸片互连,, ,,用微型感应线圈替换严酷瞄准的金属信号接触。。。。

研究职员称,, ,,该原型接口速率最高达 4 Gbps / 通道,, ,,并可在 DRAM-on-GPU 结构中实现 HBM4 级容量的 2 倍。。。。

另一组相关的 bump-MOSAIC 硬件演示在 ECTC 聚会披露,, ,,接纳 100 微米间距微凸点,, ,,X 射线 CT 验证堆叠瞄准误差控制在 6 微米以内。。。。研究团队称,, ,,该设置热导率抵达古板堆叠的 3 倍,, ,,并可特殊增添最高 30% 内存容量。。。。

以法治系统为支持,, ,,健全民族事务治理制度系统。。。。高标准推进《青海省增进民族团结前进条例》修订,, ,,统筹各自治州民族领域配套规则立改废释,, ,,构建上下衔接、完整配套的民族事情执律例则系统。。。。把民族团结前进增进法精神嵌入地方立法、行业规范、村规民约等社会治理系统。。。。依法提防化解民族领域种种风险隐患,, ,,以法治护航全省民族团结前进事业高质量生长。。。。

责任编辑:李佳轩    校对:戴良花

今日热门

  1. 百年米轨摄影展亮相昆明 见证铁路历史变迁
  2. 日本民众在宰衡官邸前聚会抗议高市早苗政府军事扩张政策
  3. 买个包先查二手价????? 奢侈品消耗逻辑生变
  4. 粤港澳游艇自由行要来了 港澳游艇北上免担保,, ,,租赁市场亦有望迎来“松绑”
  5. 水利部7月7日升级宣布洪水橙色预警
  6. (活力中国调研行)广东硬科技工业化迈入“加速跑”模式
  7. 特朗普称美伊;;;;鹣怠坝ζ渌乙蟆
  8. 美媒:特朗普已至少37次说“美伊协议即将告竣”
  9. 中亚多国人士谈中国印象:在生长与文明传承中感知中国履历
  10. 光大期货:5月20日金融日报

相关推荐

【网站地图】