一家国产AI芯片企业今日宣布了业界首个在手机端外地运行的ChatGPT级大模子方案。。该方案可以在不联网的情形下，
，在手机上运行130亿参数的大语言模子，
，响应速率抵达每秒30个token。。

这一突破依赖于两方面的手艺立异：一是高效的模子压缩手艺，
，将原本需要数十GB显存的模子压缩到4GB以内且性能损失不凌驾5%；；
；；二是专用的AI加速芯片，
，提供了强盛的端侧推理算力。。

端侧大模子的最大优势是隐私；；
；；。。用户的对话数据完全在外地处理，
，不会上传到云端服务器。。这关于涉及商业神秘、医疗隐私等敏感场景尤为主要。。

多家手机厂商已确认将在下一代旗舰机中接纳该方案。。剖析师展望，
，端侧AI将成为2027年智能手机的焦点卖点，
，推下手机行业的新一轮换机潮。。