IBM公司推出了一项提高人工智能透明度的技术

美国纽约 Armonk，2018年9月19日 —— 今天，IBM 公司推出了一项提高人工智能透明度的技术，使企业能够更全面地驾驭人工智能的力量。

这一基于IBM云计算的软件服务，能够在人工智能进行决策时自动检测偏向性并能够对决策过程进行解释，从而帮助各行各业的组织管理人工智能系统。IBM服务部门也将与企业一同合作，帮助他们更好地利用这一全新的软件服务。

此外，IBM研究院还将面向开源社区发布人工智能偏向性检测和纠偏控制工具包，旨在通过先进的工具和培训促进全球协作，以进一步解决人工智能偏见问题。

IBM Watson AI总经理Beth Smith 表示：“IBM曾引领行业确立了开发新型人工智能技术的信任原则和透明度原则，现在我们将这些原则付诸了实践。任何有缺陷的决策都会给使用人工智能的企业带来极大的潜在风险，而我们为企业提供了提高透明度和加强控制的方法。”

在此之前，IBM商业价值研究院的研究结果表明，虽然有82%的企业正在考虑运用人工智能，但有60%的企业都担心责任问题，63%的企业都缺乏能够可靠管理这种技术的内部人才。

提高人工智能的决策透明度

基于IBM云计算的全新信任和透明度功能，适用于多样的机器学习框架和人工智能构建环境，例如Watson、Tensorflow、SparkML、AWS SageMaker、AzureML等。也就是说，企业可以将这些新的控制工具用于大部分流行的人工智能框架。该软件服务还可根据用户需求提供定制化服务，企业可对其进行编程，以监视任何业务工作流的独特决策因素。

这种完全自动化的软件服务能够解释决策并在运行时（也就是进行决策时）及时检测出人工智能模型中的潜在偏向性。重要的是，它还能自动建议应添加到模型的数据，帮助减少测到的偏差。

它使用通俗易懂的术语提供解释，说明是哪些因素的权重使决策朝某一方向倾斜，决策建议的置信度有多大，置信度是由哪些因素构成的。此外，它还会记录模型的准确性、性能和公正性以及人工智能系统的谱系，以便用户追溯和调阅，用于客户服务、监管或合规用途，例如GDPR合规。

所有这些功能都是通过可视化操作面板来访问的，使企业用户获得前所未有的理解、解释和管理人工智能主导型决策的能力，并降低对专业人工智能管理技能的需求。

IBM还提供新的咨询服务，来帮助公司设计业务流程和人机交互界面，从而进一步减小决策偏向性的影响。

赋能开源社区，构建更公正的人工智能

此外，IBM研究院还将向开源社区提供AI Fairness 360工具包，其中包括一系列新型算法、代码和教程的资源库，可为专业学者、研究者和数据专家提供在构建和部署机器学习模型时整合偏向性检测功能的工具和知识。开源社区中的其他资源往往只是着眼于检查训练数据中的偏向，而IBM研究院创建的IBM AI Fairness 360工具包将能帮助使用者检查并减少人工智能模型中的偏向性。IBM希望借助这一举措，邀请全球开源社区携手推动人工智能的进步，降低解决人工智能偏向性问题的难度。更多信息详见IBM博客。

研究揭示了主流人工智能部署中的优先级和障碍

IBM 最近发布了IBM 商业价值研究院 2018 人工智能报告 ，这份面向5000名企业高管的调研结果表明，对于人工智能推动商业价值和收入增长的潜力，商界领袖的看法正在发生重大变化。

报告中的重要结果包括：

82%的企业，以及93%的高绩效企业正在考虑采用人工智能应用，以增加利润收入。

60%的企业担心责任问题，63%的企业缺乏能够可靠利用人工智能潜力的技能。

首席执行官们认为在IT、信息安全、创新、客户服务和风险管理方面采用人工智能可以获得最大的价值。

人工智能的应用范围正在扩大，在金融服务等数字化程度较高的行业很可能会加速推广。

关于IBM与人工智能

IBM在人工智能软件、服务和技术领域引领全球，已经与遍及20种行业、80个国家和地区的客户达成成千上万项部署Watson AI 解决方案的协议。IBM Watson AI 解决方案广泛应用于各行各业，客户包括全球十大汽车公司中的七家和十大石油天然气公司中的八家。