AI与隐私不是对立面

2019-09-11

近日,“ZAO”APP火了!

这款换脸软件先是火爆社交网络,其在苹果应用商店免费APP的下载排名中甚至跃居第二。但随后引发的隐私安全话题引爆热议,甚至有网友评论:“有手机号,有面部图像,通过技术合成,犯罪分子可以替你和你家人通话了。”因此,这款换脸软件因涉嫌隐私安全问题被工信部约谈。

针对用户关于隐私和安全问题的担忧,换脸应用“ZAO”在官方微博发布了声明,但却难解用户对隐私安全的远虑近忧,在各大手机应用市场上,用户评分已急速下降。这场将“换脸”推到风口浪尖的“ZAO ”是一系列融合了亿宝娱乐平台AI技术的仿真视频,已超越单纯的APP领域。在AI飞速发展的今天,技术作为双刃剑引发隐私安全隐患,更是悬在AI发展之路上的达摩克利斯之剑。

AI已是新风口,但随之而来的AI音箱“偷听”讲话、AI算法“监听”手机打字……甚至通过大数据分析衍生的出行纪录、生活轨迹、消费喜好等大量隐私数据,让广大普通人在大数据下无处遁形。AI之下再无隐私?实际上,AI与隐私不是对立面,如何把握好高度智能化与高度隐私化之间的平衡值得思考。

首先,“科技向善”已是当下最热的衍生话题, AI技术既是盾又是矛,令相关立法问题值得关注。清华大学法学院院长申卫星指出,人工智能武器化,这个全局风险使得人工智能的国际治理成为必要。

6月,欧盟网络与信息安全局发布了题为《建立网络安全政策发展框架——对自主代理的安全和隐私考虑》的报告,旨在为欧盟成员国提供一个政策制定框架,以应对AI引发的安全和隐私问题。8月,我国在全国人大常委会审议的民法典人格权编草案稿中,针对收集、处理自然人个人信息有了明确规定,要求必须“征得该自然人或者其监护人同意”等。

其次,通过给AI划线、为隐私“上锁”。目前,AI已进入场景落地的关键时间点,面对诸多AI问题,在法律尚未完善的环境下,更多需要依靠企业道德约束。正如中科院院士何积丰强调,人工智能技术的开发应该有边界,不能无限开发。

技术发展没有边界,但技术应用必须有边界。对此,清华大学教授唐杰提到分级问题,对于人工智能目前的发展状态,是否需要像自动驾驶一样分级,在哪个领域隐私保护里面需要做到什么级别,业界亟需探讨分级问题。

再次,如何找寻A1时代隐私保护、政府监管、商业诉求的平衡点,值得关注。如近日,一张视频监控图像也意外“走红”网络,上面显示着两位身着校服坐在教室中的女学生,她们身边显示着诸多标签,记录着趴桌子、玩手机、睡觉、听讲、阅读、举手等行为的次数。人脸签到、课堂状态监测是否侵犯隐私,存在较大的争议与质疑。

AI发展离不开大数据,AI需要在应用潜能和隐私数据保护之间寻找更适合的平衡点。

正如《人民日报》评论所说“AI换脸好玩,如果丢了信息安全,即使有‘爆款’潜质,这样的APP也走不远。”AI给全社会带来的价值和改变是科技发展的必然。在各种AI算法和模型得到越来越广泛应用的今天,反思现代科技带来的伦理问题和隐私问题,在精准和隐私之间舞好AI这把“双刃剑”,任重而道远。

在线咨询
联系电话