关于人工智能和物联网带来的隐私和安全问题

冠状病毒大流行正在加速数字化转型，以及人工智能工具和物联网设备在社会许多领域中的广泛应用。人们非常重视利用这些技术来抗击这一流行疾病，并且这些技术也将带来更广泛和更长期的好处。正如《纽约时报》所介绍的那样，“社会隔离指令可能会在危机平息后继续以某种形式存在，这可能会促使更多行业加速使用自动化。”

对于准备在接下来几周和几个月内重新开放的企业来说，在冠状病毒危机期间及之后，人工智能和物联网技术可以极大地改善他们的运营方式，安全地与客户接触并保护员工。但企业也应采取措施确保其对人工智能和物联网技术的使用符合不断变化的法律要求，这些法律要求可能因多种因素而有所不同，包括技术部署的行业和使用技术的司法管辖区。企业还希望建立适当的机制来帮助正确使用该技术，包括适当的监督、员工培训以及其他措施。

企业如何利用人工智能和物联网应对冠状病毒危机

企业可能希望利用人工智能和物联网技术以多种方式支持其运营。关于重新开放，正如本系列前面讨论的，许多企业将部署人工智能和物联网技术，以保护其员工的健康和安全。新的和现有的工具正在用于健康监测、远程交互和“非接触式”访问和安全，例如，一些企业正在制定需要通过可穿戴式人工智能（即由AI驱动的可穿戴式物联网设备）进行体温扫描或其他健康指标监测的重返工作场所政策。企业还可以使用人工智能和物联网技术来实现办公任务的自动化，使一些员工能够继续在家工作，远程进行会议和培训，或者通过使用面部识别技术代替前台安保人员来促进工作场所的社交距离。

除了最初的重新开放步骤之外，制造商和其他企业也在考虑如何扩大机器人和自动化的使用，以提高效率、改善员工安全，并促进“非接触式”运输和交付。企业也越来越多地使用人工智能工具来帮助改善物流和供应链管理，为决策提供输入并支持客户参与。在某些情况下，人工智能和物联网工具是由企业自己开发的，但越来越多的企业正转向云服务提供商和其他第三方来获取这些技术和服务。

部署人工智能和物联网解决方案之前要问的关键问题

当企业实施人工智能和/或物联网技术时，如机器人、可穿戴设备、人工智能供应链管理和人力资源管理工具、健康监测设备和其他人工智能或连网产品或服务，他们应考虑现有和拟议的法律义务，以及使用这些工具可能带来的利益和风险。企业应该问，例如：

▲使用该技术是否会给我们的运营带来任何新的利益或风险，例如在工作场所或公共安全、网络安全或质量控制方面？这些利益和风险对企业以及可能受影响的个人和实体有何影响？我们是否已采取适当措施，通过文件、合同、流程、监督、培训和保险来降低风险？利益是否证明了风险的合理性？

▲该技术能满足我们的需求吗？它足够可靠吗？可以验证其操作吗？

▲考虑到人工智能应用或物联网设备的性质和功能，以及它收集、生成、处理或传输的数据类型，它是否具有合理的安全特性？在发生实际或可疑的安全漏洞时，是否有适当的反应机制？

▲就人工智能而言，正在采取哪些步骤来提高其可信度（例如，准确性、无意外偏见、可解释性、安全性、可靠性和责任感）？

▲如果该技术的使用涉及监控员工的行为、活动或属性，我们是否考虑过与员工监控相关的适用法律和指南？

▲是否评估和管理因司法管辖权而异的隐私和数据保护义务和风险？

▲我们将如何意识到该技术的潜在问题，以及如何应对这些问题？ 如何确定问题的优先级并加以解决？

▲我们的合同是否恰当地解决了与我们获取、部署和使用人工智能和物联网技术或服务相关的问题？

▲我们是否有适当的机制来识别和及时响应新的人工智能和物联网法律发展，特别是考虑到以下所述的不断变化的环境？

人工智能/物联网法律环境

在人工智能领域，今年早些时候，欧盟委员会就一份描述人工智能监管框架的白皮书征求了公众意见。白皮书采用了基于风险和适度的方法，并认为应该对高风险AI应用应与低风险AI应用进行不同的监管。除其他外，欧盟委员会白皮书还提出了针对“高风险”人工智能的上市前评估要求。此外，欧盟委员会还提议修改人工智能责任法。在美国，美国总统在2019年2月签署了一项关于人工智能的行政命令，该命令要求采取协调一致的联邦人工智能战略。2020年初，美国政府提出了人工智能监管的10项原则，与欧盟委员会的白皮书相比，它采取了较为宽松的监管方式。根据行政命令，美国国家标准技术研究院已经提交了制定AI标准的计划。同时，4月，联邦贸易委员会提供了有关在自动决策中使用AI和算法的指南。国会中也有各种有待通过的人工智能立法，一些州和地方政府继续努力审查人工智能的法规。

在物联网方面，尽管美国国会正在考虑立法，但各州也越来越积极，例如，加州和俄勒冈州的物联网安全法均于2020年生效。加州目前也在考虑一项关于从自动驾驶汽车和其他移动应用中收集出行移动数据的法案。该法案将要求自动驾驶车辆的运营商为了交通规划和安全目的，包括为了应对冠状病毒大流行，共享出行数据。美国之外的标准也在不断发展。例如，英国一直积极提供有关消费物联网设备安全的指导。2018年10月，数字、文化、媒体和体育部发布了《消费者物联网安全业务守则》，2020年3月，国家网络安全中心发布了关于在家中安全使用智能摄像头的指南。

人工智能和物联网带来的隐私和安全问题

企业应积极管理因使用人工智能和物联网技术而引起的与隐私相关的法律事务。为了发挥作用，许多物联网工具必须从个人那里收集大量数据，例如，可用于健康监测的可佩戴设备可以收集地理位置信息、关于个人身体运动的数据、心率和血压指标、诸如指纹和面部特征的生物信息以及其他个人信息。其中一些设备还可能会收集和存储比实际使用更多的数据，或者长时间保留数据。此外，当与人工智能一起使用时，这些设备还可以创建关于个人的新数据，例如基于先前存在的条件，个人可能会出现严重的冠状病毒症状。

任何涉及收集、生成或使用个人数据的解决方案，都应具备足够的隐私和数据安全保护措施。企业应制定隐私政策，并应遵守此类政策和适用法律。如果所收集的数据本质上特别敏感，则可能需要提高隐私要求，例如，生物特征和健康信息的收集可能受到联邦法律（如《健康信息可移植性和责任法案》或《美国残疾人法案》和规范生物特征信息收集的州法律的约束，如伊利诺伊州生物信息隐私法案。同样，如果在未经个人同意的情况下进行录音，则记录音频或视频数据的自动化技术可能会牵涉国家窃听法。

FDA监管问题

某些人工智能和物联网技术受FDA监管。例如，数字健康筛查工具可能会询问员工接触冠状病毒的风险（例如，员工家庭中成员的冠状病毒情况、冠状病毒检测历史、社交疏离行为）

或个人症状（如疾病控制和预防中心确定的症状）。某些技术可能只是简单将该数据传输给医疗专业人员进行评估，而其他工具可利用人工智能和物联网技术，直接向个人和/或雇主提供个人接触风险的评估。

根据该技术的功能和预期用途，它可能作为医疗设备受到监管。FDA通常不会监管将用户特定信息（例如症状）与已建立的参考信息（例如CDC指南）相匹配的工具。同样，旨在帮助患者记录其健康状况并与医疗保健专业人员交流健康信息的工具也不作为医疗设备进行管制。另一方面，FDA很可能将人工智能和物联网技术作为一种医疗设备进行监管，如果它不仅仅是自动执行卫生当局的指导方针，而且它还能为患者提供关于冠状病毒的诊断建议。

员工和劳动力问题

尽管有些技术解决方案可能是临时性的，但在许多情况下，企业只是在加速对其运营方式进行永久性变革，因此，重要的是要考虑这些技术在短期和长期内可能对劳动力产生的影响。

自动化和机器人可以保护员工免受与病毒相关的健康危险，但它们也需要自己的安全预防措施。尽管劳工部职业安全与健康管理局（OSHA）尚未发布有关在工作场所使用机器人的规定，但它已发布了指南，解释现有的工作场所安全法规如何影响机器人，以及关于机器人安全的最佳实践指南。这些指南解释了如何在工作场所机器人技术的背景下思考工人培训、危险评估和保护工作场所。将来，工作场所的健康和安全可能会受到与AI和机器人技术有关的其他法规约束，企业应密切关注这些发展。

雇主还应注意员工培训的必要性。为了帮助确保人工智能和物联网的正确部署，可能需要对员工进行培训，例如，在返回工作场所时使用健康监测系统的企业可能需要对一些人员进行有关如何正确使用此类系统的培训。此外，随着企业继续其数字化转型，他们可能需要将更多的员工注意力放在数据管理上。

当然，企业在实施人工智能和物联网技术解决方案时，还应该考虑更广泛的就业法律问题，包括与偏见、医疗保密性、记录保存、员工监控、工资和工时要求、劳动法保护相关的潜在问题。
       责任编辑:pj