一家国产AI芯片企业今日宣布了业界首个在手机端外地运行的ChatGPT级大模子方案
。。。
。该方案可以在不联网的情形下，
，，在手机上运行130亿参数的大语言模子，
，，响应速率抵达每秒30个token
。。。
。

这一突破依赖于两方面的手艺立异：一是高效的模子压缩手艺，
，，将原本需要数十GB显存的模子压缩到4GB以内且性能损失不凌驾5%；；
；；二是专用的AI加速芯片，
，，提供了强盛的端侧推理算力
。。。
。

端侧大模子的最大优势是隐私保唬
；；
。。。
。用户的对话数据完全在外地处理，
，，不会上传到云端服务器
。。。
。这关于涉及商业神秘、医疗隐私等敏感场景尤为主要
。。。
。

多家手机厂商已确认将在下一代旗舰机中接纳该方案
。。。
。剖析师展望，
，，端侧AI将成为2027年智能手机的焦点卖点，
，，推下手机行业的新一轮换机潮
。。。
。