中国企业首次实现ChatGPT级模子端侧安排 手机离线也能用AI

中国企业首次实现ChatGPT级模子端侧安排 手机离线也能用AI
2026-09-13 07:20:32 快科技 作者 天天吃点豆可防高血压 琼剧悠扬茶烟袅袅 意大利青少年的海南“老爸茶”初体验 黄家弘 新浪网官方账号

一家国产AI芯片企业今日宣布了业界首个在手机端外地运行的ChatGPT级大模子方案。。。。 。该方案可以在不联网的情形下,,在手机上运行130亿参数的大语言模子,,响应速率抵达每秒30个token。。。。 。

这一突破依赖于两方面的手艺立异:一是高效的模子压缩手艺,,将原本需要数十GB显存的模子压缩到4GB以内且性能损失不凌驾5%;;;;;;二是专用的AI加速芯片,,提供了强盛的端侧推理算力。。。。 。

端侧大模子的最大优势是隐私;;;;;;。。。。 。用户的对话数据完全在外地处理,,不会上传到云端服务器。。。。 。这关于涉及商业神秘、医疗隐私等敏感场景尤为主要。。。。 。

多家手机厂商已确认将在下一代旗舰机中接纳该方案。。。。 。剖析师展望,,端侧AI将成为2027年智能手机的焦点卖点,,推下手机行业的新一轮换机潮。。。。 。

特殊声明:以上文章内容仅代表作者自己看法,,不代表新浪网看法或态度。。。。 。若有关于作品内容、版权或其它问题请于作品揭晓后的30日内与新浪网联系。。。。 。
来自于:新浪网官方
网友谈论
新闻1+1丨“巴威”进入24小时警戒,,怎样“顶格”应对???
(友城故事)浙江绍兴国际友城增至59个
分享到微博
宣布
最热谈论
最新谈论
暂无谈论

举报邮箱:[email protected]

Copyright ? 1996-2026 SINA Corporation

All Rights Reserved 新浪公司 版权所有