电子说
从2014年11月亚马逊推出第一款智能音箱Echo到今天,这个行业已经经历了四年多的迭代发展。智能音箱正试图成为你身边一个无所不能的私人助手,改变你与你的家、你的智能设备之间的互动方式……
但有些讽刺的是,这位智能音箱的开山鼻祖,正在经历着前所未有的信任危机。
据彭博社报道,七名曾经参与过亚马逊Alexa语音识别系统改进项目的员工透露,这款产品背后的语音识别服务自动录制了使用者的部分对话,并发送至亚马逊设立在海外多地的工作站,进行人工识别与标记。爆料员工称,他们所监听到的录音中,有相当一部分并非在识别到有效唤醒词后才开始录制,很多音频文件以难以识别的各种噪音开始!
细思极恐。
人工智能技术在高速的发展中,在带来新奇优质体验的同时,安全和隐私问题,确实是当前面临的并且需要亟待应对的问题。用户的“安全和隐私”如何保护?
“目前智能设备的发展与隐私保护是近年来越来越倍受关注的话题,在直面这一问题的过程中,还需要通过行业标准化制定、国家政策层面的牵引、企业自身的安全举措等方面的共同努力。”思必驰品牌策划总监赵燕燕表示,涉及语音数据的安全维护,从价值观的角度,思必驰绝对尊重用户的数据隐私和安全;从技术层面来说,思必驰拥有专业的语音数据团队,并且在不断增强研发实力的技术壁垒,严把数据收集、管理、处理的流程安全,让数据在整个生命周期得到保护。真正尊重技术、尊重用户、尊重行业道德的企业才拥有更好的发展空间。
云知声副总裁李霄寒从算法和代码角度分析了这个问题。他认为,首先作为算法提供商,不希望软件搭载在一个芯片上提供给用户之后,被人拷贝,这样知识产权遭到损害,企业将受到很大的损失。第二是代码的完整性。在物联网时代,所有的设备都可以联网。这意味着在一个开放的环境,任何人都可以访问你的设备。以智能音箱为例,如果遭受黑客恶意篡改地址,用户就相当于在和黑客对话,这意味着你的邮箱、家庭照片甚至银行账户以及更多的隐私被黑客掌握。这样的事件一旦发生,对家庭、对企业都是灾难。云知声在所有设计工作中都考虑到机密性和完整性。确保芯片所有代码是加密的,所有在NTO运行的代码都是原始提交的部分,而不是被人篡改过的。这项工作是芯片设计过程必须考虑的问题。
360 IoT创新产品部总监孙浩表示,智能设备的“安全和隐私”的核心还在于厂商自身的能力,以360为例,除了基本云端防护、通讯加密外,针对硬件设备在发布前做渗透和攻击测试,通过后才能推向市场。除此之外,也有一些附加途径可以实现智能设备的安全防护。360的家庭防火墙,能够一键扫描联网智能硬件设备的安全隐患,去发现设备后门漏洞、web服务器和ssh弱口令漏洞这类常见的漏洞,内置的BNI引擎能够分析智能硬件设备的行为,及时提醒用户防止隐私泄露。
都说AI时代无隐私。你的脸、你的声音、你的指纹……在AI算法眼中,你就是行走的数据流。随着AI应用越来越方便,人越来越离不开AI,AI会搜集到越来越多的个人数据。那么,在追求智能设备比我们自己更加了解自己的过程中,隐私与便利如何平衡?
天猫精灵方面表示,大多数厂商采用的是数据脱敏的方法。不同数据脱敏的方法不一样,但至少要把个人信息、账户信息隐藏掉,更多的还有图像数据、地理位置这些。这样脱敏后的都是结构化的数据,不会有隐私问题。
欧盟出台的一般数据保护条例(GDPR)中有几条关于隐私数据的保护原则很有参考性:其中不仅包括隐私数据的处理过程需公正透明,使用场景和保留期限需明确限定,数据需保证完整、准确和保密等要求;而且还要求对隐私数据的获取要满足最小化原则,也即只获取必要的、相关的、限定的隐私数据。
但是,也有人认为欧盟出台的一系列措施可能会限制这一领域自然的创新本能与发展机遇。当前AI刚刚起步,在很多领域的应用并不成熟。在此过程中就引入监管机制是否恰当?尤其是AI技术与过往的经验并不相同。没有人知道,最终这一领域的监管体制会是怎样的。
AI的未来具备无限可能,并不局限于此。深度学习之父Geoffrey Hinton就曾公开号召摒弃现有深度学习范式,转向不过度依赖数据的无监督学习算法。有业内人士认为,满足下面条件的算法将是主要方向:需要更少隐私数据的AI算法;基于加密数据的训练算法;同时,提高算法应用的透明度,使人类能够轻松理解AI算法,提高AI认知智能在人类活动中的可信度。
全部0条评论
快来发表一下你的评论吧 !