欧盟对数据安全出手,AI/深度学习将被套上枷锁?

非常在线2018年2月2日消息    据外媒报道,一项欧盟出台的《一般数据保护条例》(GDPR)将在5月25日正式生效,届时GDPR将在欧盟全面实施。这意味着在人工智能/深度学习的发展浪潮下,欧盟对民众保护和授权数据隐私方面正常再次收紧,AI/深度学习或将被套上枷锁。

据悉,即将出台的《欧盟一般数据保护条例》,将 取代已实施20年的《欧盟个人资料保护指令》,来协调全欧洲的数据隐私律法。在即将实施的GDPR中,要求所有科技公司对其算法自动决策进行解释,这将使大量依赖深度学习算法的AI应用不合法。

这条法规的实施,无疑是给当前火热的全球人工智能市场浇了一盆冷水,起码在欧盟是这样。对于普通欧盟公民来说,科技公司在收集他们的数据时将变得慎之又慎,不敢轻易逾越法律红线,这有效的保护了公民的隐私权利。不过,因为人工智能/深度学习的发展本质就是基于用户大数据而工作,这可能也会影响科技公司开发AI应用的积极性。

对于即将实施的GDPR,《终极算法》一书作者,华盛顿大学Pedro Domingos教授 在社交网络上表示,“自 5 月 25 日起,欧盟将会要求所有算法解释其输出原理,这意味着深度学习成为非法的方式。”

对于GDPR要点,我们做了大概摘录。《条例》中包含三大项:数据转移权、被遗忘权、算法公平性。

据转移权—规定用户可随时不受阻碍的迁移个人数据至新的服务商, 像类似于谷歌、Facebook等依赖于用户数据进行创新服务的公司而言将无疑是重大打击;被遗忘权—规定用户有权要求数据控制者删除个人数据,且不能过分延长数据保存时间。像依赖 cookie 数据收集、广告投放的技术公司将受损失;算法公平性—规定用户有权要求服务商就算法自动决策给出解释,并在解锁不满意时有权退出。

这样一来伴随着GDPR的实施,欧洲将呈现两大阵营:拥抱数据隐私和算法公平性原则的社会公民;对法规不满的技术巨头。用户这边,我们不再多说。对科技公司而言,诸如处理AI黑箱问题需征求用户同意,相关AI应用可能也不再合法。

与此同时,科技公司还面临发展高性能AI和面临AI黑箱难解释问题。目前,大多数科技公司都借助人工智能/深度学习,利用大量数据从中获益。另外,当前业界普遍认为神经网络存在黑箱问题,其架构高复杂性令科技公司需花费巨大成本去解释这个问题。因而,GDPR带来的不仅是用户隐私权与服务商利益的较量问题,还有人工智能技术本身受政策影响减缓发展的问题。

发表评论
你可能也喜欢