防范人工智能给决策带来风险

　　指出，“人工智能是引领这一轮科技革命和产业变革的战略性技术，具有溢出带动性很强的‘头雁’效应。”人工智能的快速发展不仅推动经济社会的深刻变革，同时也为政府决策模式的变革提供了新路径，对于建立健全大数据辅助科学决策机制、全面提升政府决策科学化民主化水平具有重要意义。

　　信息是决策的基础，但信息规模越大，结构性越复杂，意味着处理难度也越大。与人类决策相比，人工智能技术可以更加高效、快速、准确地搜集和处理海量非结构化数据，并将主次矛盾、因果关系、约束条件等呈现出来，为确定政策目标提供有价值的参考，便于决策者把握决策需求、认清问题症结、抓准主要矛盾、科学制定对策。

　　人工智能的机器学习方法可以通过分析数据中的模式和规律，自动训练和模拟模型，更加精准地预测潜在问题和风险的发生概率、复杂性与严重程度，事前预估不同政策方案实施后果，从而帮助决策者设置政策议程、优选政策方案。同时，人工智能的自然语言处理技术和文本情感分析技术使政府与公众可利用文字、声音、图片等多种形式进行互动，这不仅拓宽了公众参与决策的渠道，还丰富了政府回应民众诉求的途径，提高政府决策的透明度。政府还可利用计算机识别技术和深度学习技术对海量民意进行识别、整理、分析，了解公众共同的利益诉求、把握“最大公约数”，进而制定更符合民意的政策，实现价值聚合，提高政府信任度。

　　尽管人工智能提高了政府的决策能力，但也给政府决策带来诸如决策失灵等相关问题。

　　一是公平性风险。公平是政府决策的核心价值之一，但数据偏见和算法偏见使人工智能辅助政府决策面临公平性风险。一方面，大数据虽是海量数据，但却不是全数据。与理想化的全数据相比，大数据反映的现实是不完备的，例如，一些数字素养较弱群体的数据信息就难以被人工智能抓取。在带有“参与者偏差”的不完备数据基础上进行的决策可能会延续数据本身蕴含的价值偏差，加剧社会不公平。另一方面，算法决定了海量数据的应用方向及其计算效果，而算法设计过程中难免受到研发者价值倾向的影响。当前绝大多数算法由经营主体开发，其价值导向与公共部门未必完全一致，加之算法黑箱的存在使政府决策的公平性难以得到有效保证。

　　二是安全性风险。利用人工智能技术辅助政府决策通常需要收集大量数据，其中包含涉及个人隐私、商业机密、国家安全等敏感信息。有些信息单个或少量的存在并不敏感，但海量汇聚和挖掘分析后可能具有一定的敏感性。如果这些数据未能受到足够保护，可能会造成数据滥用甚至泄露，不仅损害个人和企业的隐私权，还可能对国家安全构成威胁。

　　三是伦理风险。算法和技术的加入使政府决策的影响因素日益复杂，原有的权责配置发生变化，造成责任主体虚化，带来伦理风险。运用人工智能辅助政府决策在一定程度上赋予了算法与技术决策权，一旦出现算法失灵，就会导致决策失误，公共利益受损。由于人工智能算法并不拥有责任主体地位，因此，决策失灵的责任追究和政治问责出现困境。

　　为防范人工智能技术给政府决策带来的风险，更好地推动人工智能赋能政府决策，需要在审视现行决策模式和制度基础上，针对人工智能技术的特点，采取多方面措施。

　　一是建立参与式算法决策框架。公共的价值观既包括决策结果的公平公正，也包括决策过程的公开参与。为化解因数据偏见和算法偏见带来的公平性风险，一方面，吸纳政策利益相关主体代表参与算法设计与构建，提高算法的公开性和透明性，将公共价值融入到算法设计中去。另一方面，加强对算法决策的前期审核与后期评估，建立人工智能辅助政府决策的伦理审查机制，组织技术专家、公众和协会等定期参与伦理审查，防范人工智能辅助政府决策的伦理风险。

　　二是加强适配算法决策的制度建设。一方面，建立算法救济制度。算法的不透明性与不可解释性客观上压缩了公众遭遇算法不公时的申诉与反馈渠道。为此，在制度上保障公众的知情权、选择权与要求人工介入权，畅通算法决策的救济渠道，及时根据公众意见修正算法缺陷，矫正价值偏差。另一方面，建立算法问责制度。当基于特定算法决策严重损害公众利益时，立即开展算法问责，清晰判定算法开发者、审查者和实施者责任，倒逼各方以更高价值标准开发、审查和执行决策算法。

　　三是注重复合型人才的分散化储备。兼具技术能力和决策能力的复合型人才是推动人工智能赋能政府决策的关键，可以有效降低决策人员与技术专家之间的沟通成本，预估并规避算法决策的潜在风险。而复合型人才在少数组织的过度集中可能阻碍技术进步，更可能导致掌握人工智能前沿技术的大企业不当介入和影响政府决策。为此，政府积极设立专门的人工智能技术部门，促进复合型人才的分散化储备，建立与经营主体的日常性互动及合作，掌握前沿技术进展，增强利用人工智能技术辅助决策的主动性。

　　四是动态选择决策模式。根据算法对决策过程主导性的高低，可将决策模式分为算法主导型、算法辅助型和算法咨询型三类。虽然人工智能为提高政府决策能力提供了重要的技术价值，但目前的算法决策仍然是一种有限理性的决策输出，还需要发挥人类决策在价值判断和自由裁量上的优势。因此，既要在制度上明确算法决策的地位和权限，赋予算法决策应有的权威，也要根据决策任务的复杂性审慎选择决策模式，实现人类决策与算法决策的耦合协同，有效防范政府决策风险。