AI算力进入“多元协同”时代,,中昊芯英携手OpenCSG加速企业级大模子落地
克日,,中昊芯英TPU算力正式完成与OpenCSGCSGHub平台的适配接入。。。双方充分验展国产AI专用算力与开源AI基础设施的协同优势,,为大模子开发、模子服务安排及企业级AI应用落地提供越发开放、无邪的底层算力支持。。。
目今,,大模子与智能体应用正加速迈向工业落地阶段。。。企业不再只关注模子自己,,更关注模子怎样治理、安排、运行和一连迭代;;;与此同时,,AI算力正从以GPU为主流逐步生长为TPU、NPU、DCU等多元算力协同生长的名堂。。。其中,,TPU作为针对张量盘算和AI事情负载深度优化的专用架构,,通过优化盘算单位维度与数据传输路径,,在AI盘算场景中展现出高于古板通用架构的能效比与盘算密度,,是降低AI算力本钱、提升模子迭代及智能体应用效率的要害路径,,也是国产AI算力生态中极具战略价值的手艺偏向。。。
中昊芯英现已向OpenCSG开源社区孝顺TPU适配代码并合入CSGHub主客栈,,CSGHub平台已实现对中昊芯英TPU算力资源的识别与调理,,在硬件资源模子、资源类型校验、安排调理、运行时资源请求天生、集群节点标签识别等要害链路中新增TPU支持,,进一步富厚国产AI算力生态。。。
中昊芯英恒久专注于高性能TPUAI芯片、AI盘算集群与算力平台的设计与研发,,是海内最早实现全自研高性能TPU架构AI专用算力芯片流片与量产的企业。。。其芯片产品「刹那?」、「须臾?」拥有100%自研的IP核、指令集与盘算平台,,AI算力性能逾越同期外洋着名主流GPU产品近1.5倍,,能耗降低30%,,单位盘算本钱降低近50%,,可承载万亿参数大模子漫衍式训练、多智能体协同运算、全平台海量token并发推理等重负载营业。。。
OpenCSG则聚焦开放AI基础设施建设,,面向模子、数据集、应用、智能体和算力资源,,提供统一治理、安排与运营能力。。。作为面向大模子与智能体时代的开源AI基础设施平台,,OpenCSG通过CSGHub、AgenticHub等产品,,资助企业、园区和都会客户构建可治理、可安排、可运营的AI能力底座,,并以开放架构一连毗连模子生态、开发者生态与算力生态。。。
此次相助,,双方手艺团队完成了中昊芯英TPU芯片与CSGHub平台的全流程联合适配测试,,涵盖模子上传与安排、单机与多卡推理、大模子微调、算子调理、稳固性一连负载以及量化加速等焦点场景。。。测试效果批注,,中昊芯英TPU算力芯片可原生兼容、稳固流通运行OpenCSG开源平台所有焦点功效,,软硬件协同性能达标,,知足商用安排、开源生态接入需求。。。
基于此,,CSGHub平台即将上线中昊芯英TPU算力租赁规格,,提供从单卡128GB至八卡1024GB共八档设置。。。中昊芯英TPU算力将成为CSGHub平台上可供开发者和企业用户按需挪用的一种标准算力资源,,用户无需在底层硬件适配和集群治理上特殊投入精神,,通过平台即可直接选择和调理中昊芯英TPU算力,,完成从模子开发、微调训练到推理安排的全流程事情。。。
此次中昊芯英TPU算力接入OpenCSGCSGHub平台,,是国产AI专用算力芯片与开源AI基础设施协同立异的再进一步,,也将助力国产AI生态从单点手艺突破走向平台化、标准化的规模协同。。。
关于中昊芯英而言,,TPU算力进入OpenCSG开放AI基础设施生态,,将让这种专为AI而生的高性能算力,,通过开放平台,,将其在盘算密度、能效比及综合本钱上的显著优势真正释放至AI开发者和企业应用场景;;;关于OpenCSG而言,,新增TPU算力支持进一步完善了平台对国产异构算力的毗连能力,,也强化了OpenCSG作为开放AI基础设施平台的生态属性。。。
随着国产大模子、国产AI芯片和企业级AI应用加速生长,,开放、兼容、可一连演进的基础设施平台将成为毗连上层应用与底层算力的要害枢纽,,而以TPU为代表的立异型AI专用芯片架构,,正在成为这一枢纽中不可或缺的算力基石。。。未来,,中昊芯英与OpenCSG将一连深化相助,,推动立异架构的国产AI专用算力资源进入统一、开放、可运营的AI基础设施系统,,为企业AI转型和工业智能化升级提供坚实底座。。。
文章点评
未盘问到任何数据!
揭晓谈论
◎接待加入讨论,,请在这里揭晓您的看法、交流您的看法。。。