中国企业首次实现ChatGPT级模子端侧安排 手机离线也能用AI

中国企业首次实现ChatGPT级模子端侧安排 手机离线也能用AI
2026-09-18 07:14:46 快科技 作者 新中协会青年团主席:人工智能时代,,,,中国-东盟青年协同立异大有可为丨天下观 澳门大学生福建宁德参访:感受工业生长活力 探寻海洋经济新貌 陈佳云 新浪网官方账号

一家国产AI芯片企业今日宣布了业界首个在手机端外地运行的ChatGPT级大模子方案。。。 。该方案可以在不联网的情形下, ,,,在手机上运行130亿参数的大语言模子, ,,,响应速率抵达每秒30个token。。。 。

这一突破依赖于两方面的手艺立异:一是高效的模子压缩手艺, ,,,将原本需要数十GB显存的模子压缩到4GB以内且性能损失不凌驾5%;;;;;;二是专用的AI加速芯片, ,,,提供了强盛的端侧推理算力。。。 。

端侧大模子的最大优势是隐私保唬;;;;ぁ!。 。用户的对话数据完全在外地处理, ,,,不会上传到云端服务器。。。 。这关于涉及商业神秘、医疗隐私等敏感场景尤为主要。。。 。

多家手机厂商已确认将在下一代旗舰机中接纳该方案。。。 。剖析师展望, ,,,端侧AI将成为2027年智能手机的焦点卖点, ,,,推下手机行业的新一轮换机潮。。。 。

特殊声明:以上文章内容仅代表作者自己看法, ,,,不代表新浪网看法或态度。。。 。若有关于作品内容、版权或其它问题请于作品揭晓后的30日内与新浪网联系。。。 。
来自于:新浪网官方
网友谈论
卫星通讯事情组在京正式建设
四川万源八台山夏日现绝美银河星空景观
分享到微博
宣布
最热谈论
最新谈论
暂无谈论

举报邮箱:[email protected]

Copyright ? 1996-2026 SINA Corporation

All Rights Reserved 新浪公司 版权所有