三峡探索

当前位置: 分类 › 环境与法 › 正文 ← 返回首页

人脸识别遍地开花,谁来守护我们的脸?

发表于 03/12/2019 环境与法| 转发给朋友 | 浏览次数:29

本文二维码,微信扫描分享。

一位安装工人站在一个黄色工具箱上,对着电梯门的上方忙活,地上散落着钳子等工具,狭窄的电梯空间中很难再挤进第二个人。目睹这一场景的业主有点疑惑,她并不清楚经常乘坐的电梯里正在安装什么。面对业主的询问,安装工人回答:“这是电梯广告投影设备,给人的感觉是广告,但里面是人脸识别,很隐蔽的。”

这一幕发生在2019年9月,上海市长宁区在电梯内推广人脸识别安防系统。出于资金的考虑,部分小区选择了用电梯广告位置换免费安装人脸识别设备的方式。

几乎同一时间,位于南京的中国药科大学在一些教室安装了人脸识别设备,除具有考勤功能外,这种设备据称还可以追踪、识别学生听讲、发呆、睡觉等上课状态。这些功能是否侵犯学生隐私,数据安全能否得到保障?在媒体追问下,教育部科技司司长雷朝滋9月初公开回应称:“包含学生的个人信息都要非常谨慎,能不采集就不采,能少采集就少采集,尤其涉及到个人生物信息的。”

此后不久,杭州一家动物园因强制游客“刷脸”入园被告上法庭。该案被媒体称作“人脸识别第一案”,引发了公众对个人信息采集过度,存在商业化滥用、误用等有关数据安全和个人权利的长久讨论。

从刷脸支付、门禁考勤、金融远程开卡到安防反恐、智慧社区、轨道交通等领域,人脸识别技术正在密集拓展商业版图,在公众或熟视无睹或未曾注意到的应用场景中迅猛生长。

比如,诸多企事业单位门口的刷脸门禁,酒店、交通站点的人脸识别设备已为公众所熟知,但数据去向和应用边界却鲜有人发问;又比如,在一些商场超市,顾客从踏入大门的一刻就在不知情情况下被抓拍人脸信息,以此为商家“贡献”提高销量的“秘籍”。当人脸识别技术进一步走进课堂、电梯等非传统公共场所的时候,公众终于开始警惕,人脸面部信息与身份证号码、购物习惯、金融贷款等个人信息互联互通带来的潜藏风险已经不由自己掌握。

中国关于保护个人信息的专门立法尚未出台,对个人信息收集、使用以及侵权进行规制的条款,散见于《网络安全法》《消费者权益保护法》《刑法》《民法总则》等法律中,缺乏系统性和可操作性。受访安全专家、法律学者认为,技术本身不是洪水猛兽,但法律规则及配套监管措施仍有缺陷,需要加强法律和伦理规制。在政府、企业乃至个人都能成为人脸识别应用者和个人面部特征收集者的当下,技术应用的边界究竟在哪里?

遍地开花

人脸识别指的是一种基于人脸面部特征进行身份识别的生物识别技术,具体表现为利用抓取给定的静止或动态图像,和已有的人脸数据库进行比对,以此确认图像中的个人或多个人的身份。根据《反恐怖主义法》《网络安全法》等法律,公民无论是住宿、出行,还是使用即时通讯服务,身份真实性的核查都是硬性规定。人脸识别技术由于其安全、便捷的特性,广泛应用于人证一致的核验当中。

受访专家告诉财新记者,由于面部特征在理论上具有惟一性,又与个人身份信息挂钩,人脸识别有着广阔的应用前景。中商产业研究院的《2019年中国人脸识别行业市场前景研究报告》显示,据测算,2018年中国人脸识别行业市场规模突破100亿元大关,随着人脸识别技术在各行业应用渗透的不断深入,预计2019年人脸识别市场规模在120亿元左右。

公众对酒店住宿、机场和火车站等地的人脸识别认证,高校、居民小区、企事业单位等场所的人脸识别门禁已习以为常,2018年以来“刷脸支付”已经成为主流支付方式之一。其他深度应用的场景也在推进,比如,为打击黄牛号贩扰乱医疗秩序的行为,北京卫健委披露,截至2019年2月,北京市已将2100多名号贩子信息录入北京市各大医院人脸识别系统。来自上海卫健委的消息也称,复旦大学附属肿瘤医院已于近日推出专家号预约人脸识别系统,确保现场号源留在患者手中。

2019年2月14日,浙江嘉兴,在桐乡经济开发区一家科技企业,工人“刷脸”通过闸机进入生产车间。

人脸识别的广泛应用也和政府部门的大力扶持不无关系。前述上海罗马花园小区社区居委会干事称,电梯内安装人脸识别是《上海市推进智慧城市建设“十三五”规划》《关于加强本市城市管理精细化工作的实施意见》和《上海智慧公安建设五年规划(2018—2022)》的明确要求。

当人脸识别摄像头与人们“相处”时间更长,算法对人作出更多分析,不安与焦虑争议也随之而来。

作为目前公众能参与的深度应用场景,人脸识别在进入学校、课堂时引发的争议就屡次进入聚光灯下。安徽马鞍山市第二中学学生得知教室内即将安装人脸识别设备的消息,还是在社交媒体上。“今天在学校看到了一堆标有‘监控器材’的箱子,明天大家上课的时候看到国旗边的这个玩意儿不要慌,这只是个人脸识别系统。”2018年12月18日,马鞍山二中的“学生校长助理”社交账号发布这一消息。

这是一个由白色底板和监控探头组成的设备,安装在教室前上方,和一个悬挂于教室门口的显示屏配套使用。这套“智慧课堂”新设备,很快被学生们冠以“天眼系统”之名——名字出自媒体对杭州市第十一中学同类事件的报道。2018年5月,杭州十一中因使用名为“智慧课堂行为管理系统”的类似设备引起热议。马鞍山二中的学生们从公开报道的图片中辨认出,两套系统的监控摄像头一模一样。

部分学生就此提出质疑,未经自己同意的情况下,学校就安装带有人脸识别功能的摄像头,是否会侵犯自己的隐私。多名马鞍山二中学生介绍说,为表达抗议,曾有学生试图用纸和胶带堵住摄像头,或者在抓拍瞬间做鬼脸、竖中指,并把显示屏的照片翻拍上传到社交媒体上。

马鞍山二中一名曾担任“学生校长助理”的同学告诉财新记者,监控摄像头在每节课上课20分钟左右时会抓拍所有学生的照片,然后与入校时登记的证件照片识别比对,确定学生们是否进入教室。抓拍的每张照片都可以在班级门口的显示屏上查看。如果没有识别出学生,显示屏会将对应学生的证件照标注“未识别”。

“旋转摄像头每30秒扫描完一次全班,一节课结束后显示屏会显示系统对睡觉、玩手机、阅读、听课、书写等行为的人次统计。”这名学生说,针对同学的意见,校方给出的说法是一方面方便走班制签到点名,另一方面也是对老师进行评教,不收集学生个人数据。如果运行顺利,可利用大数据为每位同学在学期末生成一份学习报告交给班主任,利于学生学习的调整。

不过,马鞍山二中的这套系统并未完全落地。财新记者获悉,因走班制尚未实行,目前大部分班级已将教室外的显示屏“锁屏”,且不再显示上课时抓拍的学生人脸照片。

“意见最大的其实是一些已经毕业了的学长学姐,他们觉得这种侵犯隐私的行为不应该出现在二中。”前述学生说。马鞍山二中教科处工作人员则表示,“锁屏”后系统实际还在运行,但该校的课堂行为识别功能使用的并不多,因为“还需要进行系统扩容”。

中国药科大学人脸识别事件引发舆情后,校方的回应是,学校之前已向公安部门和法务部门咨询,由于教室属于公开场所,因此不存在“侵犯隐私”的说法。

人脸不由自己掌握

隐私问题是人脸识别技术推广中最为普遍的质疑。多位受访专家表示,人脸识别可能导致的隐私泄露风险需要结合配套算法的其他数据进行考量。“人脸识别不是简单地获取人脸信息,是将人脸面部特征作为识别要素进行身份验证与识别,并结合其他数据进行数据画像等,从而得出个人情绪、性格、购买力、兴趣爱好等信息。当数据画像中包含个人不愿意对外展示的内容时,便与个人隐私产生交集。”中国信息通信研究院安全研究所研究员葛鑫说。

人脸面部特征本身并不是隐私信息,但其直观的可识别性、天然的惟一性和不可更改的特点,潜藏了诸多风险。2018年5月1日实施的推荐性国家标准《信息安全技术 个人信息安全规范》(GB/T 35273-2017,下称《个人信息安全规范》)通过附录列举的方式,已经明确将“面部识别特征”列入了个人信息中的生物识别信息,同时进一步指出其属于个人敏感信息,即“一旦泄露、非法提供或滥用,可能危害人身和财产安全,极易导致个人名誉、身心健康受到损害或歧视性待遇等的个人信息”。

与虹膜、指纹等其他生物识别信息相比,人脸信息还具有自然性和非接触性的特点。“采集和使用人脸信息时,不需要个人直接与设备接触,这就导致个人往往并未意识到自身的人脸信息已经被采集和使用了。”葛鑫说。

这确实让人不寒而栗。“前几年人脸还掌握在自己手中,比如手机刷脸支付相当于指纹支付换了一种方式,起码我对这个场景熟悉,而且是我主动提供的、自愿的,谁也没有逼着我刷脸,不刷脸还可以用密码,但今年这个发展形势就有点奇怪。”中国电子技术标准化研究院信息安全研究中心审查部技术总监何延哲坦言,人脸识别应用越来越广,公众的选择权却越来越少,无论是基于安防等公众利益的采集,还是商业场景中的应用人脸设备,都藏得越来越隐秘,“人脸变得不由自己掌握了”。

即便是某些可见的场景,选择权无形中也被忽视了。在“人脸识别第一案”中,杭州野生动物世界强制将入口门禁的指纹识别升级为人脸识别,身为年卡会员的浙江理工大学法政学院副教授郭兵被告知只能登记人脸信息,不提供退卡,于是将该动物园告上法庭。

“这实际上就没得选,要进去就只能刷脸。以个人信息的角度看,应该用一些别的方法来弥补他权益上的损害,比如给他提供一个备选项,用传统的指纹识别或者刷卡。”何延哲认为,推广人脸识别不能一刀切,而应该在充分告知的情况下,提供备选项以减少对立情绪。但引发争议的多个场景中,学生或社区居民都被强制刷脸。

某些场景中,公众不知情而进行的人脸信息收集可能隐藏更大的风险。一位从事客流统计的人脸识别设备经销商透露,许多商场超市、线下门店出入口安装的人脸识别设备,能无差别抓拍区域内所有的顾客,其内置的算法可以分析性别、年龄、客流量、回头客、着装习惯等。

这名经销商提供了一个测试账号。财新记者试用发现,后台支持对抓拍信息进行标注、录入会员信息,还可重点跟踪顾客消费习惯,设置完成后顾客一踏入商场大门,员工立刻就能收到提醒。“普通顾客可以直接抓拍,下次来了就能识别。” 这位经销商认为,现在没有法律规定,也不用向任何部门报备,设备买了直接就可以用。换言之,装有类似设备的场所均有可能出现未经许可而采集进入者人脸信息的情况。

“大量的数据被采集,这些数据不一定是隐私,但依然让人有一种莫名的焦虑,这种焦虑是基于信息不对称导致的。你了解了我那么多的信息,你要用来做什么?你会不会滥用?这些信息是不是安全的?就算你不乱用,被别人盗取了怎么办?”北京大学法学院教授王锡锌认为,这实际上和作为身份验证的人脸识别技术本身关系不大,公众真正担心的是数据的采集和转卖、安全保障、运用和监管等问题。

你的脸被卖了

在人脸信息和其他数据互联互通的情况下,数据泄露和转卖的风险和危害也就变得更大。“当你采集了这么多信息时,所有的数据系统本身都会增加风险,这在国际上也发生了很多次。”王锡锌说,信息越敏感,它的风险越高。

《北京青年报》此前披露,某网络商城存在公开兜售人脸数据的情况,数据多达17万条,涵盖2000人肖像,每人约有50到100张照片。每张照片搭配一份数据,包括人脸的106处关键点,如眼睛、耳朵、鼻子、嘴等轮廓信息,甚至还标注了性别、情绪、颜值等具体信息。售卖商家称,这些人脸样本一部分是从搜索引擎上抓取,另一部分来自境外一家软件公司的数据库。报道还提及,记者联系到了两名数据包中的当事人,两人均称自己是在不知情情况下被收集了相关信息。

何延哲介绍,目前的确存在倒卖人脸数据的黑产,但其影响需要放到具体场景中评估。“人脸和其他信息结合起来叫卖,这恐怕是比较糟糕的事。”他认为,AI换脸应用ZAO此前曝出的问题,就揭示了这样一种风险:他人获取自己的人脸信息后既可以转卖牟利,也可以用来损害自己的名誉权或从事诈骗。

中国裁判文书网记载了多个相关案例。在一起侵犯公民个人信息的案件中,有被告人称其按10-15元一张的价格倒卖人脸照片,然后在获取对应驾驶证和行驶证等个人信息的情况下,帮人代为注册滴滴车主账号进行牟利;另一起侵犯公民个人信息案中,一名获刑的被告人用制作3D人脸动态图的方式突破了支付宝的人脸认证系统;在一起抢劫案中,当被害人表示忘记了密码,行凶者利用被害人的身份证和支付软件人脸识别功能将支付密码修改,最后造成财产损失。

2019年2月,GDI基金会荷兰安全研究员Victor Gevers在社交媒体上发文称,总部位于深圳的AI视频公司深网视界科技有限公司(下称深网视界)出现信息“裸奔”,造成257万的个人信息泄露,其中包含身份证号码、性别、国籍、地址、生日、照片、雇主等信息,以及这些人过去24小时内经过的地点,合计约668万条记录。深网视界是一家主要从事智能视频业务,将人脸识别、人群分析、行人追踪等技术应用到安防领域的企业。据Victor Gevers所言,被泄露信息的个人主要是其视频系统里的监控对象。

中央电视台制作的纪录片《辉煌中国》曾提到,2017年时中国就已经建成世界上最大的视频监控网,视频镜头超过2000万个,整个大工程就是“中国天网”,利用人工智能和大数据进行警务预测,在中国不仅全面普及,而且水平位居世界前列。

当智能算法与人脸识别设备搭配,后者的功能得到极大拓展。何延哲举例说,在部分场景中可以通过人脸识别的配套算法分析对方是否患病,识别其种族,甚至预测犯罪率等。他认为,这已经不是单纯的人脸识别,也不仅是隐私保护的问题,而是一种监测行为。“这会让被抓拍对象产生心理负担,带来一种未知的恐惧。”

葛鑫进一步解释说,人脸属于人们在社会交往中必然会展现于外的部分,公开性很强,这就意味着通过人脸识别信息可以最便捷、最大限度地记录人们的行为,包括真实、详尽地记录个人的行踪轨迹等信息,从而得出更为立体化的个人数据画像。这就意味着,“人脸识别的滥用将会导致个人受到不必要的追踪、窥探、监控等,或基于人脸识别相关的自动化决策引发歧视性待遇等”。

地铁系统计划利用人脸识别技术实现分类安检,便是一个颇有争议性的实例。10月29日,北京市轨道交通指挥中心主任战明辉在2019年城市轨道交通运营发展论坛上透露,北京将应用人脸识别技术实现乘客分类安检,要研究建立人员分类标准,形成对应的人脸库,依托人脸识别系统对乘客进行判别,并将信息推送给安检人员,安检人员据此对应采取不同的安检措施。

“分类安检的核心还是在公共场所抓取你的图像,这种做法好像是要提高效率的,实际上是进入信用系统进行评估。”王锡锌认为,评估实际上是在数据库里面把人做了区分,在比对的库里,按安全级别对人做区分,这会引发公民歧视的问题。

中国社会科学院科学技术和社会研究中心主任段伟文告诉财新记者,这实际上是根据以往的数据来判断未来的一种可能性,其中包括了两层意思:一方面它的判断不一定准确,另外一方面它会影响到决策或评价,可能是自我评价,也可能包括了他人对自身的评价。

“既然是一种评价,它就会影响到你的就业、保险等等各个方面。”段伟文认为,这种情况下如果评价失实,造成的后果是难以估量的。

作为《个人信息安全规范》的起草专家组成员,何延哲认为:“打着提升效率的名义,来引入人脸识别要更加慎重。它的必要性有没有请专家论证过?是不是有点杀鸡用牛刀?你是解决了一点小问题,但可能产生了更大的新问题。”

何以规制

葛鑫介绍,目前对于收集面部特征等生物识别信息的规制,主要依据《网络安全法》有关个人信息收集使用的“合法、正当、必要”原则,“知情-同意”框架、明示收集使用目的等透明度要求。此外,国家标准《个人信息安全规范》中,也有对个人敏感信息的规范要求。不过,包括葛鑫在内的多位受访者表示,原则性的规定并不足以规制人脸识别产生的问题,不少商业机构在做到形式合法后,仍会想方设法钻法律漏洞。

比如,被视为人脸识别应用合规参考书的《个人信息安全规范》是推荐性的国家标准,并非强制使用,只有在同意将其纳入合同后,才具有法律上的约束力。

何延哲透露了《个人信息安全规范》起草时专家们的考虑——相比强制性国家标准,推荐性标准留出了一定空间,有利于各方在未统一认识的情况下指导实践。“比如说正当、合法、必要,界限是什么,具体怎么落地,各人解释不同,这时由国家标准化机构发布的规范价值就非常大了,不只是企业,政府部门、司法机构都要参考。”

推荐即意味着可以不采用。不过,人脸面部特征作为典型的个人信息,其采集与使用还要受到其他法律法规的限制:现行《刑法》《网络安全法》《民法总则》《消费者权益保护法》,以及《征信管理条例》《电信和互联网用户个人信息保护规定》中均有保护个人信息的条款。在备受关注的“人脸识别第一案”中,原告郭兵将动物园起诉至法院,援引的便是《消费者权益保护法》对经营者收集、使用消费者个人信息的限制条款。

正在制定中的民法典也试图在保护个人信息方面迈出步伐。2019 年4月20日提交立法机关第二次审议的民法典人格权编草案对个人信息范围作了规定,个人信息包括自然人的姓名、出生日期、身份证件号码、个人生物识别信息、住址、电话号码等。8月22日第三次审议时,草案又将电子邮箱地址、行踪信息纳入个人信息范围,并且明确收集、处理自然人个人信息时,必须“征得该自然人或者其监护人同意”,并明示搜集目的。

在多数国家,因面临侵犯隐私、涉嫌歧视少数族裔和女性等质疑,立法和监管机构对人脸识别技术的落地均持谨慎态度。

2019年8月,瑞典北部的谢莱夫特奥市政府因允许该市Anderstorp高中试用人脸识别技术进行考勤,而被瑞典数据保护局以违反欧盟《通用数据保护条例》(下称GDPR条例)为由,处以20万瑞典克朗(约合2万美元)罚款。瑞典数据保护局称,虽然学校的某些场合可以被视为“公开场合”,但学生何时进入教室,依旧是个人隐私,学校完全可以通过其他“干预性更小”的方式检测学生的出勤情况。

这是自GDPR条例2018年5月在欧盟28个成员国生效后开出的首张罚单。GDPR条例规定,违规收集身份信息、网络数据、生物识别数据、医疗保健和遗传数据以及种族等个人信息的企业,最高将会受到全球年营业额4%或2000万欧元的罚款。因其对个人信息的保护和监管力度前所未有,而被称为“欧洲史上最严隐私保护条例”。

人脸识别在美国一些城市也受到严格禁止。2019年5月14日,加利福尼亚州旧金山市立法机构监事会通过《停止秘密监视条例》,禁止该市的警察、交通管理等53个市政部门使用人脸识别技术,条例还对监控设施的使用进行了限制。6月27日,马萨诸塞州萨默维尔市议会投票通过一项法案,禁止当地警方和市政部门使用面部识别软件。

而在五个月前,马萨诸塞州参议员辛西娅·斯通·克里姆和众议员大卫·M·罗杰斯提交州议会讨论的法案称,要求宣布政府暂停使用生物识别监控技术。大卫·M·罗杰斯在法案中写道:“政府机构使用面部识别技术对马萨诸塞州居民的公民权利和公民自由构成了独特而重要的威胁。”

不过,严格的监管措施也受到了批评。10月22日,马萨诸塞州参众两院联合委员会针对前述两项法案举行了听证会。有不少民众表示支持,亦有不少反对意见。美国安全行业协会的代表在听证会上称,急于对这项有重要且有益用处的技术加以禁止为时过早,人脸识别技术并非天生就有缺陷,公众讨论的应该是如何在不消除人脸识别技术益处的前提下,保证这项技术被负责任地使用。

多位受访学者称,目前中国对个人信息保护的法律法规较为分散,治理格局缺乏系统性和一致性,这使得人脸面部特征等个人敏感信息的保护往往缺乏实际效力。

“原则性规定可能并不足以完善规范人脸识别的应用,因此未来还需要通过出台细化的法律规范和国家标准,进一步加强对人脸识别技术应用尤其是商用的规制。”葛鑫曾参与《个人信息保护法(专家意见稿)》起草工作,她认为,个人信息保护问题不仅关涉到公民的私权利保护,也关系到公私领域对于个人信息的利用,涉及国家、信息产业从业者、个人等多方主体利益,不能单纯考虑个人信息保护与利用的利益衡量。

“要尊重自然人的人格、隐私和信息权益,但在整个立法的宏观框架里,在《个人信息保护法》的制定过程中,应该要考虑的是一组法益,即不仅有个体权利的保护,还应该考虑包括公共利益的增进、产业的发展,以及国家安全等其他因素。”王锡锌认为,数据已经被看作一种资源,被称为“现代石油”,换言之,数据采集后应该允许综合地开发和利用,如此才能产生更大公共利益。

他举例说,在医疗领域,通过大数据研究能促进医学的进步和发展,但这又属于病人的敏感信息。因此法律要做的不是一刀切“不许搜集”,而是考虑如何完善网络安全与数据保护,比如去识别化、加密存储或只存储该信息的关键摘要部分等。

近来“科技向善”成为多家科技巨头的口号,如何平衡个人权益保护和行业发展、政府治理等合理需求,是新技术应用中的永久课题。伦理学者提供了另一种思考角度,段伟文认为,人脸识别技术在某些情况下较为敏感,应该将其作为监管性的行业。“说简单点,不是随便谁都可以装一个摄像头,任何一个识别装置的安装使用都要有法可依。”

8月21日,全国人大常委会法工委发言人臧铁伟在记者会上表示,《个人信息保护法》已经列入本届全国人大常委会的立法规划,法工委正在会同有关部门研究论证,加紧推进起草工作,将适时提请常委会审议。

11月27日,AI 领域头部企业北京市商汤科技开发有限公司发布消息称,全国信息技术标准化技术委员会生物特征识别分技术委员会换届大会11月20日在北京举办。会上由该公司担任组长单位、27家企业机构共同组成的人脸识别工作组宣告成立,人脸识别国家标准制定工作启动。

  财新见习记者陈竹沁对此文亦有贡献

 

 


除非注明,本站文章均为原创或编译,转载请注明: 文章来自三峡探索← 返回首页
返回顶部 ^