凯时AG

2026-07-23 09:15:35 设为首页 | 加入珍藏

AI内存V-Die亮相:侧立放置DRAM吞吐540 tokens/s

2026-07-23 09:15:35 宣布 泉源:360搜索 作者:王峻汉 浏览:5994次

IT之家 7 月 11 日新闻, ,,,,科技媒体 Tom's Hardware 昨日(7 月 10 日)宣布博文, ,,,,报道称在 6 月召开的 IEEE / JSAP 超大规模集成电路手艺钻研会上, ,,,,针对 AI 加速器的内存散热与带宽瓶颈, ,,,,研究团队提出 V-Die 与 MOSAIC 两种 HBM 集成方案。。

IT之家注:高带宽内存(HBM)是面向高性能盘算与 AI 加速器的近封装内存手艺, ,,,,通过多层 DRAM 堆叠, ,,,,并借助超宽总线与处理器近距离互连, ,,,,以较短数据路径提供极高带宽。。典范应用包括 GPU、AI 训练与推理加速器、超等盘算节点等高吞吐场景。。

图源:AMD

为了缓解 AI 加速器 HBM 内存散热与带宽瓶颈, ,,,,韩国蔚山国立科学手艺院(UNIST)研究职员提出 V-Die 解决方案, ,,,,而日本东京大学牵头团队提出 MOSAIC 两种解决方案。。

两者配合思绪是将 DRAM 芯片由古板向上堆叠, ,,,,改为侧立放置, ,,,,以缓解更高堆叠带来的散热压力。。

V-Die 竖直放置 DRAM Die 芯片, ,,,,作废 TSV(硅通孔), ,,,,改用每片裸片底边 I/O 毗连, ,,,,并在相邻裸片间加入液冷通道。。

研究团队称, ,,,,在与 HBM4 等容量比照下, ,,,,V-Die 在 GPT-3 规模事情负载中抵达 540 tokens/s, ,,,,而 HBM4 为 296 tokens/s, ,,,,前者横跨 82.43%。。V-Die 底边毗连间距为 20 微米, ,,,,毗连数目可达 HBM4 的 4 倍, ,,,,内存读取时间下降 37%。。

在一组与 H100 级硬件匹配的 16 层堆叠仿真中, ,,,,该方案将首 Token 时延降低 32%, ,,,,约 24 毫秒。。散热方面, ,,,,团队称微流体冷却可将堆叠温度维持在约 45°C, ,,,,低于高密度 HBM 系统常见的 80°C 以上区间。。

MOSAIC 方案由东京大学牵头团队提出, ,,,,重点在于提升侧立堆叠的可制造性。。该方案接纳正交裸片堆叠与无接触裸片互连, ,,,,用微型感应线圈替换严酷瞄准的金属信号接触。。

研究职员称, ,,,,该原型接口速率最高达 4 Gbps / 通道, ,,,,并可在 DRAM-on-GPU 结构中实现 HBM4 级容量的 2 倍。。

另一组相关的 bump-MOSAIC 硬件演示在 ECTC 聚会披露, ,,,,接纳 100 微米间距微凸点, ,,,,X 射线 CT 验证堆叠瞄准误差控制在 6 微米以内。。研究团队称, ,,,,该设置热导率抵达古板堆叠的 3 倍, ,,,,并可特殊增添最高 30% 内存容量。。

中新网澳门7月11日电 (记者 郑嘉伟)澳门特区政府旅游局10日在议事亭前地推出全新互动空间——“麦麦”体验馆, ,,,,连系旅游、文创、科技与故事叙事, ,,,,为旅行者带来陶醉式体验。。

责任编辑:林盈秀    校对:谢静宜

今日热门

  1. 5月2日中国跨区域职员流动量预计超3亿人次
  2. 国际能源署署长:全球石油市场或将进入“危险区域”
  3. “清年阁”首创人高考总分682分
  4. 云南文投集团原党委书记、董事长陶国相接受审查视察
  5. 泰兰尼斯客服回应“广告被指诱导行贿”:品牌被网络账号恶意抹黑
  6. 东盟30项工业AI需求在广西宣布 印尼占比最高
  7. 多国媒体人士在南京参访:传承历史影象、播撒清静之种是人世正道
  8. 三亚海关765羁系艇年检及维修采购项目(二次招标)成交通告
  9. 共筑工业相助新平台 “中韩经济友好相助中心”在渝揭牌
  10. 今年一季度中外洋债规模略升

相关推荐

【网站地图】