一家国产AI芯片企业今日宣布了业界首个在手机端外地运行的ChatGPT级大模子方案。。
。该方案可以在不联网的情形下，，，，，，在手机上运行130亿参数的大语言模子，，，，，，响应速率抵达每秒30个token。。
。

这一突破依赖于两方面的手艺立异：一是高效的模子压缩手艺，，，，，，将原本需要数十GB显存的模子压缩到4GB以内且性能损失不凌驾5%；；；；；；二是专用的AI加速芯片，，，，，，提供了强盛的端侧推理算力。。
。

端侧大模子的最大优势是隐私；；；；；；。。
。用户的对话数据完全在外地处理，，，，，，不会上传到云端服务器。。
。这关于涉及商业神秘、医疗隐私等敏感场景尤为主要。。
。

多家手机厂商已确认将在下一代旗舰机中接纳该方案。。
。剖析师展望，，，，，，端侧AI将成为2027年智能手机的焦点卖点，，，，，，推下手机行业的新一轮换机潮。。
。