中兴通讯CDO崔丽：AI本无善恶，更需人类负责

2023年，当世界的重心从抗击疫情转向经济复苏，我们看到一系列复杂的挑战，历史证明，在充满挑战的时期，女性总能发挥出重要的作用，她们擅长化解分歧，消弭鸿沟，并努力让复苏具有包容性和可持续性，尤其在坚守长期主义的艰难时刻，女性的智慧和力量不可或缺。

 12月8日，《财富》在上海举办一年一度的商界女性峰会，本次活动以“女性智慧，引领复苏”为主题，邀请顶尖企业家、优秀创业者和意见领袖共聚一堂，讨论当下最紧迫、最受关注的话题。  中兴通讯首席发展官崔丽受邀参与“构建负责任的AI”圆桌论坛，与受邀嘉宾就如何构建负责任的AI，如何克服AI发展导致的“幻觉”现象，AI技术发展中为何需要更多女性参与等热点话题展开探讨。  此外，本次峰会还进行了2023年《财富》中国最具影响力的商界女性榜单及未来榜的颁奖仪式，崔丽凭借其卓越的领导力和对移动通信产业发展的积极贡献第三次荣登该榜单的未来榜。  技术本无善恶要负责任的构建、使用和监管AI  关于如何构建负责任的AI，崔丽认为，首先，大模型或生成式AI还处于技术发展初期，技术、生态、市场都在快速迭代之中，因此，仅凭预判和思考来提前解决未来可能出现的问题是非常困难的，为此，她主张“摸着石头过河”，在底线之上，在发展中，结合应用场景持续解决问题。    其次，“技术没有善恶，善恶在人。”崔丽强调，AI的本质依然是硅基、无机、数学范畴，而人类则是碳基、有机生物，除了自然科学还有社会科学等，其认知、决策和行为都有深刻的文化、历史、价值观等背景，AI本身甚至可能不理解什么叫“责任”，更谈不上“负责”，因此，她更主张负责任的构建、使用和监管AI。     关于负责任的界定，崔丽表示，针对当前人工智能的主要挑战，产业界对于AI设定了一个3H的理想目标：Helpful即帮助使用者解决他们的问题，Honest即不捏造资讯或误导使用者，Harmless是不能对人或环境造成物理、心理、社会危害，与人类价值观对齐。  “然而，这些原则非常宽泛，我们需要更具体地考虑当前面临的挑战，比如幻觉、黑盒带来的不可解释性和不可控性，隐私、偏见、滥用和资源消耗等问题。”崔丽指出，为应对这些挑战，我们需在四大方面去努力，依次是安全、公平、透明和高效，此外，还需结合应用场景来考虑问题，例如，面向大规模公众的应用需要更多的关注安全和公平，而面向特定领域的应用则需要同时关注准确、安全、透明和高效。  “对抗”AI“幻觉”  关于如何对抗人工智能发展导致的AI“幻觉”，崔丽提出了三点建议：一是“换位思考，因材施教”，比如将我们虚拟的概念或对齐要求，转化成它的语境，压缩空间或联合概率，彻底回归到对它更有效的工作方式上，因材施教，提高输出更准确内容的概率；  二是“原型知识萃取，加强数据治理”，比如在给予虚拟概念时需要谨慎，同时常识或原型类知识优先级应该提升，而不是完全平等地考虑精调；  最后是“用魔法打败魔法”，我们可以采用Agent或多个优秀大模型联合决策，对各自形成制衡。合理的组织设计可以减少犯错的次数。构建负责任的AI需要产业、企业、政府和个人的协同努力
崔丽呼吁，构建负责任的AI需要产业、企业、政府和个人的协同努力，在产业方面，各方应共同努力，持续在数据集治理、算法优化、测试及审核、攻击防御、合规检测与保护等技术手段上进行优化创新；在企业侧，需加强自律，避免动机瑕疵，从数据集、算法、模型测试、人工审核、监测迭代着手构建负责任的大模型。  而在立法及监管侧，可强制要求对AI生成的内容做标识，同时应区别对待客观问题和主观问题，比如幻觉、黑盒等偏客观问题，隐私、IPR、滥用等偏主观问题。法规也要与时俱进，加强对偏主观问题的约束，而对于偏客观问题，则应给予一定的容错空间以促进创新，此外，我们可以尝试将现有的大模型纳入立法建设中，尊重大模型的知识来赋能现有的监管体系；对于使用方，则应不过度依赖，保持独立思考和批判性思维。  在推动AI发展的过程中女性是不可或缺的力量  崔丽强调，在推动AI发展的过程中，女性是不可或缺的力量且有可能发挥更大的作用：“当下是不确定性常态化的激变时代，感知及适应性行动胜于预测。无论是数据的治理、算法的制定还是最终各方面的应用，我们都应充分发挥女性的优势。例如，女性的敏感带来的高感知，直觉往往源于常识，而且女性通常更包容及有同理心，如果能够有效的将这些特点与男性的优势相结合，可以共同推动AI向更好的方向发展。”   

---

原文标题：中兴通讯CDO崔丽：AI本无善恶，更需人类负责

文章出处：【微信公众号：中兴通讯】欢迎添加关注！文章转载请注明出处。