凯时AG

2026-07-22 08:07:03 设为首页 | 加入珍藏

HBM之父金正浩:AI实质是内存,,GPU真正使用率仅10%-30%

2026-07-22 08:07:03 宣布 泉源:非凡软件站 作者:洪宗翰 浏览:5578次

IT之家 7 月 6 日新闻,,被誉为“HBM 之父”的韩国科学手艺院(KAIST)电气系教授金正浩克日接受《东亚日报》采访时体现,,AI 的焦点竞争力正在从 GPU 转向内存。。。。。

金正浩以为 AI 的实质是内存,,GPU 在 AI 推理中的使用率远低于理论水平。。。。。AI 每次输出效果,,都必需先从 HBM 读取数据、传到 GPU 举行盘算,,再将效果写回内存。。。。。就算安排 100 万块 GPU,,真正用于盘算的时间也只有 10%-30%。。。。。

并且已往的 AI 主要集中在训练阶段,,因此 GPU 是决议性能的焦点。。。。。而着眼现在和未来,,AI 将进入推理时代,,此时真正能决议性能的,,是一次能处理几大都据、能以多快速率处理数据,,因此内存能力将直接决议 AI 性能。。。。。

虽然,,现在已经有 HBM 这种专门适配 AI 的高带宽内存方案。。。。。但随着 AI 迈入多模态化和 Agentic AI(署理式人工智能)泛起,,人们将越来越需要生涯视频、文档、恒久影象等海量冷数据。。。。。因此,,将 NAND 闪存像 HBM 一样堆叠的 HBF 手艺将在未来成为主流。。。。。金正浩更是展望,,10 年后 HBF 的市场需求将凌驾 HBM。。。。。

到了更远的未来,,HBS(高带宽 SRAM)将成为主流。。。。。这种手艺将接纳读写速率比 DRAM 快 1000 倍的 SRAM,,其构想包括在整片 12 英寸晶圆上铺设 SRAM、将容量提升至约 1600GB,,实现大容量高速数据处理。。。。。

别的金正浩设想,,未来的 AI 盘算机将演酿成一个重大的“三维修建”:HBM 将充当阛阓角色,,HBF 层相当于住宅区,,HBS 则肩负高速缓存功效。。。。。种种形态的 HBM、HBF、HBS 组合在一起,,给 GPU 供应数据,,形成约 100 层规模的 3D 复合架构。。。。。

IT之家注:金正浩恒久致力于高带宽内存(HBM)与 2.5D/3D 集成封装研究。。。。。他从 2010 年最先和 SK 海力士研发 HBM1,,并在去年加入 HBM4-HBM8 恒久生长蹊径图妄想,,

王恩敏说,, 医院将依托乐城先行区“真实天下研究”政策和国际多中心研究便当,,通过积累临床数据,,向羁系部分申报装备和药品在岛外销售,,将装备、药品更快进入其他省份的医院,,让更多的患者更早享受到先进的医疗装备,,充分验展出“先行先试”的作用。。。。。(完)

责任编辑:吴侑秋    校对:方婉菁

今日热门

  1. 专家剖析:大陆海警一连两天执法巡查金门海域,,释放何种信号???
  2. 梅西姆巴佩哈兰德1天射进7球
  3. 国台办批赖清德谬论:假话说1000遍照旧假话 绝对成不了真
  4. 在结交软件上求职是另辟蹊径照旧剑走偏锋???
  5. 粤黔工具部协作赋能 镇宁蜂糖李走俏湾区市场
  6. 2026“粤BA”半决赛打响 广州队主场迎战深圳队
  7. 江西本轮降水历程趋于竣事 各重点江河站均在警戒水位以下
  8. 江西南昌:萌童自主游戏、创意走秀庆“六一”
  9. 第二十七届“贝贝杯”青少年足球赛在江苏张家港开赛
  10. 吉林辉南要求住民就近就高转移

相关推荐

【网站地图】