中国企业首次实现ChatGPT级模子端侧安排 手机离线也能用AI

中国企业首次实现ChatGPT级模子端侧安排 手机离线也能用AI
2026-09-14 08:28:02 快科技 作者 黄土高原定边白萝卜首销台湾市场 男子宣布涉台风不实信息被行拘 张玮荣 新浪网官方账号

一家国产AI芯片企业今日宣布了业界首个在手机端外地运行的ChatGPT级大模子方案。。。该方案可以在不联网的情形下,,,, ,,在手机上运行130亿参数的大语言模子,,,, ,,响应速率抵达每秒30个token。。。

这一突破依赖于两方面的手艺立异:一是高效的模子压缩手艺,,,, ,,将原本需要数十GB显存的模子压缩到4GB以内且性能损失不凌驾5%;;;;;二是专用的AI加速芯片,,,, ,,提供了强盛的端侧推理算力。。。

端侧大模子的最大优势是隐私;;;;;ぁ。。用户的对话数据完全在外地处理,,,, ,,不会上传到云端服务器。。。这关于涉及商业神秘、医疗隐私等敏感场景尤为主要。。。

多家手机厂商已确认将在下一代旗舰机中接纳该方案。。。剖析师展望,,,, ,,端侧AI将成为2027年智能手机的焦点卖点,,,, ,,推下手机行业的新一轮换机潮。。。

特殊声明:以上文章内容仅代表作者自己看法,,,, ,,不代表新浪网看法或态度。。。若有关于作品内容、版权或其它问题请于作品揭晓后的30日内与新浪网联系。。。
来自于:新浪网官方
网友谈论
(粤港澳大湾区)“跨境理财通”加入人数逾18万 资金汇划超1400亿元人民币
三部分印发消耗类网联摄像头网络清静标识实验规则
分享到微博
宣布
最热谈论
最新谈论
暂无谈论

举报邮箱:[email protected]

Copyright ? 1996-2026 SINA Corporation

All Rights Reserved 新浪公司 版权所有