2026年,智能体(AI Agent)的爆发掀起了新一轮AI热潮。企业纷纷引入各类Agent,以提升业务效率,拓展业务形态。但随着海量Agent涌入,无序部署、权限滥用及数据合规等问题集中爆发,业界亟需明确的治理标准,规范Agent应用边界。
就在行业亟需指南针之际,“国家定调”如期而至。近日,国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》(以下简称《意见》)。这标志着Agent跨越了“野蛮生长”阶段,被全面纳入国家治理视野。
《意见》不仅划定了“底线与红线”,更向政企释放了明确信号:作为需要被严格识别、授权与溯源的数字主体,建立Agent安全与治理体系刻不容缓。如何将宏观治理要求转化为落地的IT安全基础设施,已成为企业数智化转型的必答题。
宏观定调:产业与治理蓝图重塑企业AI合规边界
《意见》全面构建了智能体规范应用与创新发展框架,绝非简单的监管条文,而是直接重塑了企业未来应用AI的底层逻辑与合规边界。
1.确立安全可控底线,划定业务运行红线
《意见》明确将安全、可靠、可信作为底线要求,贯穿技术研发与应用部署全过程,并提出根据应用场景潜在影响实施分级治理,对敏感领域实行严格备案。这要求企业在规划AI战略时,必须建立与之匹配的前置安全审查与实时风控机制,让“治理跑在应用前”,否则将面临严峻的合规风险。
2.推进标准协议构建,终结内部“技术孤岛”
《意见》提出探索建立智能体注册平台,提供数字身份管理、检索发现等服务,并系统布局数据交换、安全保障等标准体系。这要求企业必须升级IT架构,建立统一身份标准、具备可信互联能力的AI基础设施,实现跨部门高效协同,保障Agent规模化落地。
3.强化全场景应用牵引,指引数智化投资方向
《意见》重点推动科研、制造、政务、金融等领域的典型应用,特别是探索具备自主执行能力的具身智能体在灾害救援、安防巡检及商业运营等场景的落地。这为企业的数智化转型指明了高价值赛道,但也意味着企业必须具备极强的权限管控与异常阻断能力,以满足严格的安全合规要求,让Agent在商业化场景真正落地。
微观落地:企业智能体安全治理的“实操指南”
除了宏观层面,《意见》还对Agent的身份管理、决策权限、行为管控、供应链安全等层面提出了更为明确、更为具体的要求:
1.探索数字身份管理:构建唯一标识,统一生命周期治理
《意见》提出,要研究建立智能互联网体系架构,探索建立智能体注册平台,提供智能体数字身份管理、检索发现、能力声明等服务;同时研究智能体身份标识、可信互联、合规支付、安全防护、冲突解决等基础技术。
为了管好Agent的身份,企业必须建立标准化的企业级Agent注册机制,实现从凭证颁发、角色分配到监控注销的全生命周期自动化治理,确保所有接入系统的Agent身份清晰、责任到人。
2.厘清决策权限边界:落实最小化授权,引入人机协同机制
《意见》明确提出,要厘清仅限用户本人决策、需由用户授权决策和智能体自主决策等不同决策方式的合理边界,确保用户对智能体自主决策享有知情权和最终决策权,智能体执行操作不得超出用户授权范围。
企业必须按照“最小化授权”原则,建立针对Agent的权限管理机制,确保Agent的每一次操作行为都经过严格验证。对于财务审批、删除数据等高危动作,强制引入人机协同(HITL)的委托授权机制。Agent仅负责意图理解与流程编排,最终的“执行按键”需由人类员工按下,守住关键业务的决策红线。
3.提升内生安全能力:统一AI资源接入,防范供应链与原生风险
《意见》在“提升内生安全能力”中明确提出,要研究智能体数据安全、个人信息保护、密码防护、攻击检测、权限管理、行为控制等安全技术,提升智能体系统安全保障能力,防范数据投毒、隐私泄露、算法篡改、系统漏洞、运行失控等安全风险。
企业应当建立统一的AI资源接入和控制枢纽,对外统一纳管不同架构的大模型,对内建立严格的系统组件准入机制。同时,必须在输入与输出的双向通道中部署实时的语义风险检测与动态过滤,有效防范提示词(Prompt)注入等AI原生攻击,从源头阻断内部敏感信息泄露与外部恶意投毒。
4.加强行为管控与追溯:部署动态行为围栏,构建全链路审计黑匣子
《意见》在“加强行为管控”中明确提出,发展规则内嵌、行为围栏等技术,确保智能体在公共场所、隐私场所、专门场所等的行为合法合规。探索利用区块链等技术,建立重要应用场景智能体行为可验证、可追溯机制,防范智能体不当行为引发重大风险。
为防止智能体沦为敏感数据外泄的“漏斗”,企业需要在知识库检索(RAG)、模型调用与数据流转等关键节点,部署动态的安全行为围栏,实现风险的秒级阻断。同时,必须建立覆盖全流程的合规审计机制,详细记录每一次交互与调用,让所有违规事件有迹可循。
破局之道:芯盾时代助力企业构建智能体安全治理基座
数智化时代,企业的竞争不只是AI算力的竞争,更是AI安全治理能力的竞争。为了落实《意见》要求,全面升级Agent安全与治理能力,企业必须构建新型的AI安全治理体系,让Agent在合规、可信、可控的框架下运行。
作为领先的业务安全产品方案提供商,芯盾时代凭借前瞻性的技术布局,基于零信任架构,打造了“IAM AI Agent身份与访问管理方案”与“智域·AI安全治理平台”等AI安全产品方案,精准承接《意见》要求,助力企业构建AI安全治理基座,充分释放Agent效能。
IAM AI Agent方案:重塑智能体时代的身份信任体系
针对Agent的身份和权限管理难题,芯盾时代将Agent作为“类人身份”纳入IAM管理范畴,以全生命周期身份管理、细粒度权限管控、标准化认证鉴权、全链路操作审计四大核心能力,为企业打造Agent身份与访问管理体系。
Agent全生命周期管理:为每个智能体分配唯一不可更改的ID,并精准区分助手智能体与自主智能体,实现覆盖Agent身份创建、凭证颁发、角色分配、集成部署、策略配置、监控审计、停用删除的全生命周期管理,打造身份管理闭环。
基于MCP的细粒度权限管控:提供MCP应用模板,定义MCP应用角色与资源权限,落实“最小化授权”原则,管理用户、智能体访问MCP应用的细粒度资源权限,杜绝权限过度分配与滥用风险,守住业务资源访问边界。
全链路认证鉴权与操作审计:采用OAuth 2.0等国际标准协议,实施大规模M2M身份验证。同时,提供全覆盖的可视化操作审计体系,确保每一次请求都能溯源至特定的底层策略,全面满足合规审查要求。
智域·AI安全治理平台:全景式的AI治理控制枢纽
针对模型接入碎片化、数据泄露与算力成本失控等核心痛点,芯盾时代打造了“智域·AI安全治理平台”,整合统一接入、安全治理、行为审计、合规报告、成本优化、身份管理六大核心能力,助力企业构建全链路AI安全治理体系,破解Agent安全治理难题。
大模型统一接入:平台提供统一的标准接口,兼容主流协议并屏蔽底层技术差异,支持各类公有云大模型与企业私有化模型的统一纳管,将模型接入能力升级为标准化、可调度的算力资源,为Agent提供坚实的算力基座。
输入输出双向语义防护:平台构建了动态安全护栏,在不影响业务响应的前提下,对大模型的输入输出内容进行实时语义检测,精准识别并高效拦截提示词注入、违规内容输出及敏感数据外泄,确保AI输出安全合规。
大模型API成本管控与优化:针对Agent带来的大模型API调用成本,平台提供了精细化的配额管理功能,可按租户、项目、用户进行预算与额度控制。同时,依托“智能路由”和“语义缓存”技术,智能为不同类型的请求匹配最优模型,高效拦截相似请求并复用语义缓存,有效降低Token消耗,优化AI成本。
全链路追踪与自动化合规审计:平台支持对用户、应用、模型及Token用量的全链路记录。通过对交互行为日志的精细化聚合,可自动生成专业、标准的合规审计报表,大幅提升企业的合规申报效率与内部治理透明度。
《智能体规范应用与创新发展实施意见》的出台,为智能体的健康有序发展点亮了航标。企业唯有构建坚实的AI安全治理基座,让治理跑在风险之前,才能在智能化浪潮中行稳致远。芯盾时代将持续以技术驱动,为企业提供可控、可信、可持续的智能体治理能力,为企业数智化转型保驾护航。
全部0条评论
快来发表一下你的评论吧 !