开源鸿蒙城市技术沙龙杭州站圆满落幕

2026年4月11日，由OpenHarmony安全委员会主办、浙江大学网络空间安全学院承办的“智能攻防·安全共治”论坛在浙江杭州·浙江大学玉泉校区顺利举办。论坛以“聚焦智能攻防、共筑安全生态”为核心宗旨，深入剖析AI安全的核心热点与技术难点，分享前沿研究成果与实践案例，探索可信AI的实现路径，推动构建全方位、多层次的AI安全治理体系。来自各大高校、企业、研究机构的专家、学者及行业代表齐聚一堂，共议AI时代的安全挑战与应对之策。

OpenHarmony安全委员会副主席杨开封在开幕致辞中围绕“智能攻防·安全治理”这一主题，指出人工智能给网络安全带来的巨大挑战与机遇。致辞强调了AI对于安全领域的双刃剑作用：一方面，AI的高效能力可提升漏洞挖掘与利用，使攻防对抗达到新高度，需加强国家数字安全防线；另一方面，需在AI发展过程中同步强化安全防护机制，包括“安全for AI”和“AI for安全”。同时呼吁用AI的方式革新安全治理、漏洞管理及工作流的各环节，提高效率与安全性，并期待会议中各方深入探讨相关议题。

浙江大学申大坤作为本场论坛的主持人，介绍了论坛的主旨，并对演讲嘉宾表示感谢。

当前推理大模型与智能体系统面临新兴复杂安全威胁，传统防御机制依赖已知攻击库，缺乏动态迭代能力，难以适配攻防对抗的持续演化，严重制约AI系统安全落地。北京邮电大学网络空间安全学院副院长张熙教授提出以认知学习为主导的AI安全防护框架。传统防御机制依赖已知攻击库，难以满足攻防对抗快速演化的现实需求。新方法赋予系统持续自主推理与优化的能力，推动AI从“知识层”跃升至“智慧层”，为构建自适应、自进化的AI安全体系奠定基础。

大模型技术的发展对供应链安全治理带来了挑战与机遇。复旦大学计算与智能创新学院陈碧欢副教授系统介绍了软件供应链安全所面临的主要挑战，以及团队在大模型赋能软件供应链安全的初步尝试，包括漏洞传播影响分析、投毒与漏洞检测等；同时，报告还介绍了大模型供应链安全所面临的主要问题，以及团队在大模型溯源分析与MC生态风险检测等方面的初步探索。

随着大模型的兴起，大模型生成代码与多智能体应用也逐步取代了传统的代码实现范式。与此同时，AI代码生成与智能体应用仍然存在着诸多安全与实用性问题。浙江大学计算机科学与技术学院百人计划研究员李松指出对AI生成代码隐藏的安全问题进行了深入剖析，并提出代码生成的实用性与安全性的应对建议。

当LLM从实验室走向生产环境，安全威胁正沿技术栈向纵深演进。华中科技大学网络空间安全学院慕冬亮副教授聚焦底层推理引擎的Token注入攻击模型。该攻击通过构造特定Token序列触发LLM推理框架的未捕获异常，实现服务崩溃。此外，报告还讨论了OpenClaw框架安全风险及具体防御策略。

随着生成式人工智能的爆发式增长，深度伪造音频技术已从实验室研究走向大规模应用。该技术能够以极高的逼真度模拟特定个体的音色、语调及情感。然而，这种能力的“双刃剑”效应日益凸显，给身份认证、电信诈骗防控及社会舆论安全带来了严峻挑战。兰州大学信息科学与工程学院刘新副教授对深度伪造音频技术进行系统性分析，指出其逼真音色模拟对身份认证和电信行业带来的挑战。团队分析“矛”与“盾”的对抗现状，为构建更具鲁棒性的语音安全体系提供初步参考。

传统的软件物料清单（SBOM）难以适应AI模型复杂的集成特性；另一方面，以 PeatMOSS为代表的现有静态分析工具主要依赖抽象语法树（AST）层面的浅层分析，难以处理跨文件调用与复杂的参数传递，从而无法精准追踪风险模型在下游软件系统中的实际调用路径与真实触发情况。为突破这一瓶颈，东北大学王莹副教授提出并实现了一种基于数据流分析的风险模型调用识别框架。为大语言模型供应链安全提供了系统性的实证依据与分析视角。

在自动化漏洞分拣已能实现秒级响应的当下，安全研究者的工作重点正在发生变化。AI究竟是效率倍增器，还是隐蔽的干扰源？这是目前闭源系统安全领域需要面对和解决的问题。安全研究员王宇分享了AI如何在漏洞研究中成为效率倍增器和干扰源的双重角色。通过原创漏洞案例，展示了AI在漏洞挖掘中的实际成效与局限性。呼吁建立与AI有效协作的方法，同时加强技术细节的独立判断。

随着人工智能技术的不断发展，AI安全已经成为关乎数字时代全局的基础环节。OpenHarmony安全委员会将继续秉持“开放共享、协同创新”的理念，与全球开发者、企业及学术机构深化共建，共同攻克安全技术难题，推动安全技术的创新、治理理念的融合以及生态体系的共建。期待更多伙伴加入开源鸿蒙安全生态建设，共创更安全、更智能的未来，共筑AI安全的治理之路。