商汤科技在可信AI领域的建设再获权威认可

近日，商汤科技在可信AI领域的建设再获权威认可，于“2022可信AI峰会”上，斩获得多个奖项。

商汤科技AI训练平台(AutoLink)荣获人工智能产业发展联盟(AIIA)“可信AI平台应用标杆案例”奖，伦理治理体系、算法评测工具，获“可信AI实践优秀案例”奖。

“可信AI”评测体系自 2018 年起建设以来，逐渐成为国内人工智能的权威评测体系，并已成为政府支撑、用户选型、企业智能转型的重要参考。

一直以来，商汤积极参与国内外各项推动AI可信的工作中，获得了大量成果与实践经验。这些奖项是对商汤实践的有力认可，商汤也将持续发展负责任、可评估的AI技术，助力经济社会数字化转型。

多维共筑 推动AI可信应用

当前，AI应用的广度和深度不断拓展，正在成为信息基础设施的重要组成，但在此过程中，AI技术也暴露出一些风险与隐患。

比如算法安全、算法歧视、不可控、不可解释等，可能导致AI在医疗诊断、金融、司法等行业的应用中，出现算法“偏见”、“失效”、“黑箱”等问题。对算法进行功能、性能、安全性、伦理等方面的评测势在必行。

对此，商汤科技一直主动承担算法开发者的主体责任，倡导发展“负责任且可评估的人工智能”，从多个维度，打通技术研发与安全管理、伦理审核的壁垒，强化了AI技术的可信应用。

从研发的初始阶段，商汤便将可信AI融入其中。

在规模化模型生产中，商汤自研了高度自动化的深度学习训练平台(AutoLink)，该平台定义了全新的标准化训练表达，自研了训练任务图执行引擎、训练资源可视化引擎、训练开发套件、高效安全的模型及代码管理、高精度自动训练等技术能力，提供出一套专业的AI开发可信平台。

在技术测评中，商汤通过算法测评工具，在产品研发的关键节点对算法运行性能、鲁棒性、算法后门等指标进行检测评估，基于真实场景下的数据集算法验证与评测，提升算法及模型的可信能力。

此外，对于技术应用可能带来的社会影响，商汤通过加强AI伦理治理体系建设，推动全员共同参与，实现健康可持续发展。

商汤提出“可持续发展、以人为本、技术可控”三项伦理原则，并基于此，在AI伦理治理方面采用多维度的治理策略，包括组建AI伦理与治理委员会、构建人工智能伦理与治理风险控制机制、积极制定AI伦理标准等。

针对产品及相关解决方案研发全生命周期的关键节点，商汤建立了AI伦理审查程序，通过可描述、可操作、可评价的方式，推动AI伦理的价值观渗透到生产过程的各个环节。

可信人工智能是AI工程化应用的必经之路，商汤在坚持原创的同时，将积极探索“技术标准化、标准产业化”的可信路径，打造具有产业标杆的解决方案。

　　审核编辑：汤梓红