允中 发自 凹非寺量子位 | 公众号 QbitAI
写代码、做研究、处理日常事务,,,,,Agent已经渗透进人们事情与生涯的方方面面。。
但能通过试点验证、真正进入生产系统的,,,,,仍是少数。。
从服务个人到支持数万名员工7×24小时运行,,,,,中距离着一整套工程与治理问题:
集群怎样弹性扩展、资源怎样有用使用、疏散的多智能体怎样统一治理、数据与权限怎样隔离,,,,,以及规;;诵械谋厩跹刂啤。
克日,,,,,由华为2012实验室、华为云、终端、盘算等团队联合构建的openJiuwen开源AI Agent平台宣布了企业级漫衍式蜂群架构,,,,,把JiuwenSwarm蜂群能力,,,,,扩展到企业级漫衍式集群。。
架构还内置了openJiuwen独吞的算力亲和能力,,,,,与底层昇腾、鲲鹏算力基础设施亲和,,,,,有用降低智能体规;;诵斜厩⑻嵘诵行省。
中国邮政储备银行也已基于该架构构建了金融领域蜂群智能体平台,,,,,并落地到其生产情形——这也是漫衍式蜂群架构首次乐成落地企业级生产情形。。
关于一个以合规严苛著称的行业来说,,,,,这是一个值得关注的信号。。
企业Agent规;;,,,,,必需跨过四道门槛
单机蜂群已经证实晰一件事:多个智能体通过使命分工和协同执行,,,,,确实能够提升重大使命的处理效率。。
但企业需要的历来不但是“组建一支智能体团队”,,,,,而是同时支持多部分、多场景、多用户使用,,,,,并包管服务一连性。。
第一道是规模。。
单机算力是硬约束,,,,,智能体数目、并发使命数、单使命时长都被物理资源锁死,,,,,难以支持企业岑岭期的大规模会见和长时间运行。。
第二道是本钱。。
按用户或按营业划分安排自力实例,,,,,是最直接的做法,,,,,也是本钱最高的做法:低峰期资源闲置,,,,,岑岭期又容量缺乏;;随着应用增多,,,,,重复建设和运维本钱一连上升。。
别的,,,,,大规模智能体长时运行,,,,,其Token消耗也是一笔禁止忽视的本钱。。
第三道是治理。。
权限、设置、资源、运行战略需要统一口径,,,,,跨部分协作、变换要留痕,,,,,全链路要可审计。。
疏散的单机实例自然形成孤岛,,,,,难以建设一致的治理系统。。
第四道是清静。。
金融这类高合规行业,,,,,对身份认证、数据隔离、手艺准入、敏感信息;;ず托形匪荻加醒峡嵋蟆。
当差别用户、部分、营业共享统一套情形,,,,,数据界线必需清晰、权限必需最小化、操作必需可回溯。。
这四条并不自力,,,,,反而相互制约:控制本钱要求资源共享,,,,,包管清静要求强隔离;;实现弹性要求动态调理,,,,,落实治理要求设置收口。。
openJiuwen这次给出的方案,,,,,实质上是在这四者之间追求可落地的工程平衡。。
openJiuwen企业级漫衍式蜂群架构
企业级漫衍式蜂群架构不是把单机版本简朴搬到云上,,,,,而是围绕企业生产要求构建整套漫衍式蜂群组网系统
平台以企业集群资源为基础,,,,,统一承载智能体接入、运行、协作、治理与清静能力,,,,,让差别部分和营业场景共享基础设施,,,,,同时坚持各自清晰的权限与数据界线。。
如下图所示,,,,,整套架构自上而下分为接入层、框架层、漫衍式运行时层与系统服务层,,,,,笼罩从用户与治理入口、网关与焦点引擎、漫衍式调理执行,,,,,到清静沙箱与存储的完整链路。。
企业知识库、手艺客栈等已有能力可通过企业中心件与系统直接接入与复用。。
值得一提的是openJiuwen特有的算力亲和设计,,,,,即与底层昇腾、鲲鹏算力基础设施亲和:
支持Agent运行历程中上下文与KV Cache自动亲和,,,,,缓解长时运行中上下文频仍刷新导致的缓存失效问题,,,,,同时对通算、智算资源统一调理,,,,,使命优先级动态排布,,,,,降时延、提吞吐、省Token,,,,,是企业级规;;诵薪当驹鲂У囊ι杓啤。
在生产安排形态上,,,,,这套系统与企业存量情形的衔接同样有明确设计:
企业用户与治理员统一通过JiuwenSwarm Gateway接入,,,,,网关对接企业已有的用户身份系统完成认证鉴权,,,,,无需另建账号;;
Agent实例按个人专用单容器、部分共用容器集群两种形态安排,,,,,既可以是单个Swarm Agent,,,,,也可以是一个TeamLeader向导多个Teammate的协作团队,,,,,每个成员绑定自力workspace(事情空间);;
手艺与工具统一下沉到沙箱资源池中隔离执行,,,,,通过API可挪用企业存量营业服务与自建SkillHub。。
从组网架构到安排形态,,,,,整套设计围绕的是统一个焦点命题:
怎样让蜂群智能体在共享企业集群资源的同时,,,,,守住每个租户、每个用户、每个实例的界线。。
落到企业最体贴的问题上,,,,,这套系统体现为四方面能力。。
弹性扩展,,,,,支持多场景并行运行。。
智能体不再受单台机械限制,,,,,可按使命规模挪用集群资源。。稳固支持重大长时使命、批量处理或营业会见岑岭。。
资源共享,,,,,降低规;;褂帽厩。
疏散安排转变为共享资源池,,,,,按营业需求动态分配与接纳资源,,,,,既镌汰恒久空闲铺张,,,,,也阻止为每个场景重复搭建情形。。
统一治理,,,,,让规模增添坚持可控。。
平台对组织、用户和智能体举行统一治理,,,,,治理员与营业用户分级授权,,,,,要害操作全程留痕,,,,,可监控、可审计、可追溯。。
纵深防护,,,,,知足高合规行业要求。。
认证、授权、隔离和数据;;す岽悄芴逶诵腥鞒,,,,,差别租户、用户和实例之间明确界线,,,,,为金融等行业的生产安排建设清静底线。。
通过这套能力,,,,,企业可以在统一平台上建设面向差别部分的智能体应用:既让资源获得复用,,,,,又让权限、数据和营业责任相互隔离;;既支持快速扩展新场景,,,,,也能坚持统一治理。。
落地邮储:打造清静可靠的金融AI平台底座
此次生产落地要解决的焦点问题,,,,,不在于让某个Agent跑通一次使命,,,,,而在于让蜂群智能体融进一套已经运行多年的营业系统,,,,,并同时知足金融行业在规模、清静与治理上的严酷要求。。
中国邮政储备银行已有员工SSO(企业单点身份验证机制)、自建SkillHub和大宗存量营业系统。。
openJiuwen将邮储这些数据资源、企业手艺和营业服务接入统一的蜂群智能体平台,,,,,整个对接在不改变原有系统与权限界线的条件下完成,,,,,让Agent在授权规模内挪用存量能力,,,,,把智能体协作嵌入现实营业流程
在此基础上,,,,,平台逐一回应了金融生产情形的三方面要求。。
面临大规模使用需求,,,,,平台通过资源共享和按需弹性调理,,,,,承接高并发会见与多智能体协作,,,,,在包管稳固运行的同时提升资源使用效率、控制使用本钱。。
面临金融级清静要求,,,,,平台对工具和手艺实验统一准入与授权,,,,,在隔离情形中执行,,,,,并对使命、协作和挪用全历程举行全链路视察与审计——每一次挪用由谁提倡、经由哪个Agent、会见了哪个系统,,,,,均可回溯。。
面临企业治理要求,,,,,平台支持手艺统一上下架、用户与群组动态设置、Agent设置集中下发,,,,,让差别营业共享平台能力,,,,,同时坚持清晰的权限和数据界线。。
现在,,,,,邮储已将蜂群智能体平台周全投入生产,,,,,重点应用于三类场景。。
智慧办公:协助员工预约聚会、建设准时使命、整理聚会纪要,,,,,并在授权规模内挪用企业自界说手艺与工具。。这类使命单项规模不大,,,,,但频次高、笼罩面广,,,,,对日常办公效率的改善最为直接。。情报监测:智能体一连开展信息收罗、剖析研判与多渠道推送,,,,,缩短从信息泛起到营业职员获知的链路。。风险预警:一连跟踪风险信号并实时触达相关职员,,,,,推动风险识别前移。。
邮储的生产实践批注,,,,,蜂群智能体规;;涞氐囊,,,,,在于与存量系统顺畅衔接,,,,,并在规模、本钱、清静和治理之间取得平衡。。
一个多租户、可共享、强隔离、可审计的企业级Agent平台,,,,,由此得以在金融生产情形中稳固运行。。
从「能用」走向「规;;涞亍
回到开头的判断:Agent的企业级竞争已经越过Demo阶段。。
能否从试点验证走向规;;,,,,,比拼的不再是单个智能体有多智慧,,,,,而是底层平台能否同时跨过规模、本钱、治理、清静四道门槛。。
openJiuwen给出的谜底,,,,,是以高扩展、低本钱、强管控和高清静为焦点的企业级蜂群架构。。
这四个要害词逐一对应四道门槛,,,,,为企业建设统一智能体基础设施提供了一条清晰路径。。
邮储的生产落地则把这条路径放到了真实压力下磨练,,,,,作为蜂群智能体在企业级生产情形的首次落地,,,,,它给出的不但是一张架构图,,,,,更是一份可复制的工程实践样本。。
而这份样本的最终指向,,,,,是让AI Agent真正成为可一连创立营业价值的新型生产力。。
从个人事情台到企业集群,,,,,从试点验证到生产落地,,,,,这条路径已经被完整走通了。。
随着openJiuwen与更多行业同伴推进企业级智能体协作能力建设,,,,,从「能用」到「规;;涞亍沟目缭,,,,,将在更多行业爆发。。
openJiuwen已所有开源,,,,,接待到社区体验与共建
GitHub: https://github.com/openJiuwen-aiAtomGit: https://atomgit.com/openJiuwen