凯时AG

谷歌推出DiffusionGemma文本扩散AI模子, ,,外地推理效率实现大幅提升

作者:林家豪
宣布时间:2026-06-17 05:30:33
阅读量:278

谷歌推出DiffusionGemma文本扩散AI模子, ,,外地推理效率实现大幅提升

泉源:环球网

【环球网科技综合报道】6月11日新闻, ,,谷歌克日正式宣布全新开放人工智能模子DiffusionGemma。。 。该模子依托文本扩散机制打造, ,,相较古板自回归大语言模子, ,,外地AI推理速率提升4倍, ,,为端侧、外地人工智能应用优化提供了新路径。。 。

目今GPT、Gemini等主流大语言模子多接纳自回归架构, ,,这类模子按顺序逐一天生文本单位, ,,在云端批量处理场景中体现稳固, ,,但受硬件内存带脱期制, ,,应用于外地推理时易造成盘算资源消耗。。 。DiffusionGemma立异接纳扩散模子手艺蹊径, ,,摒弃逐一天生文本单位的模式, ,,通过对噪声逐步去噪、并行处理所有文本单位的方式完成内容天生, ,,可同步优化整体输出效果, ,,完善适配外地低带宽运行情形, ,,速率优势突出。。 。

据先容, ,,DiffusionGemma整体能力与同系列Gemma 4模子持平, ,,同时兼顾高效推理与内容质量。。 。模子支持天生历程迭代纠错, ,,输出内容稳固性、一致性更强, ,,采样速率可达每秒1479个文本单位, ,,单次天生耗时仅0.84秒, ,,天生效率大幅升级。。 。

在综合性能测试中, ,,该模子各领域体现各有亮点。。 。代码天生领域, ,,其在LiveCodeBench、BigCodeBench、HumanEval三项测试中划分取得30.9%、45.4%、89.6%的效果, ,,综合体现与Gemini 2.0 Flash-Lite旗鼓相当。。 。数学推理方面, ,,DiffusionGemma在AIME 2025测试中得分23.3%, ,,优于同期比照模子, ,,充分彰显出扩散架构在数理推理使命中的生长潜力。。 。与此同时, ,,模子仍保存一定提升空间, ,,在科学推理、高难度综合推理相关测试中, ,,效果暂缺乏主流比照模子。。 。

硬件适配层面, ,,DiffusionGemma的架构设计可充分释放英伟达GPU并行盘算性能。。 。实测数据显示, ,,单块H100 GPU情形下, ,,模子每秒可天生1000个文本单位;;;;;在DGX Spark装备上速率为每秒150个文本单位;;;;;DGX Station装备中天生速率可达每秒2000个文本单位, ,,整体速率约为一律运行条件下自回归模子的4倍。。 。

据悉, ,,DiffusionGemma已凭证Apache 2.0开源协议正式对外开放, ,,宽大开发者可前往Hugging Face平台下载模子权重, ,,开展二次开发与落地应用。。 。

 

文章点评

未盘问到任何数据!

揭晓谈论

◎接待加入讨论, ,,请在这里揭晓您的看法、交流您的看法。。 。

最新文章

热门文章

随机推荐

【网站地图】