AI时代,你被监控了吗(2)
监控面临的“拉锯战”
在工作效率、有益人们的健康以及其他理由面前,AI监控已经大行其道,也成为现代人頭上的紧箍咒,谁也逃不掉。每个人的隐私,包括私人信息和私人活动都要退而成为次要的因素。
在此情况下,人们的工作和职位也受到威胁。2019年初,媒体曝光亚马逊公司利用计算机系统,自动跟踪数百名未能完成生产指标的配送中心员工,这个系统还会自动生成任何关于质量或生产率的警告,而无需上级的输入。在获知这些员工的情况后,亚马逊公司解雇了他们。尽管亚马逊公司事后予以否认,但这已表明,无处不在的监控已经“降临”,稍有懈怠,就有可能失业失学。
不过,也有一些国家认定用人脸识别监控学生是违法行为。瑞典数据保护监管局(DPA)对瑞典北部城市谢莱夫特奥开出了该国的第一张依据欧盟《通用数据保护条例》(GDPR)的罚单,金额相当于1.9万欧元(约15万元人民币),原因是该市的一所高中使用人脸识别技术来监控在校学生的出勤情况,之前既没有向DPA报备,而且又非法处理了学生敏感的生物特征识别数据。![](/images/paper/1002-9567/201922/20192202-2-l.jpg)
人脸识别
尽管学校辩称事前争得了学生的同意,但律师认为,学生是在学校董事会管理之下,无法判断学生的“同意”是否为学生的独立意志。DPA坚持认为,在日常环境中对学生进行摄像监控侵犯了学生的隐私。
现在,欧盟正在探索控制和监管人脸识别技术的立法,希望制定一套“AI监管的世界性标准”,建立起“足以保护个人的、明确的、可预测和统一的规则”。这样的立法将在GDPR的现有基础上更进一步,主要针对可能“带来特定风险”的人脸识别等技术。
同时,美国的亚马逊人脸识别系统由于难以识别肤色、性别和年龄而将28名国会议员识别为罪犯,由此引发了争论。为此,美国旧金山议会及时立法,禁止政府购买以及使用人脸识别技术,使得旧金山成为美国第一个禁止人脸识别技术的城市。
科技进步使得人类进入了以人工智能为代表的信息时代,这固然让人们的生活更为方便、舒适;但是科技发展的一个悖论也出现了,AI越发达,人们的隐私越容易被暴露,以科技来改善生活和提高自由度的理想反而渐行渐远。这样的AI技术真的是人类想要的吗?, 百拇医药(田地)
在工作效率、有益人们的健康以及其他理由面前,AI监控已经大行其道,也成为现代人頭上的紧箍咒,谁也逃不掉。每个人的隐私,包括私人信息和私人活动都要退而成为次要的因素。
在此情况下,人们的工作和职位也受到威胁。2019年初,媒体曝光亚马逊公司利用计算机系统,自动跟踪数百名未能完成生产指标的配送中心员工,这个系统还会自动生成任何关于质量或生产率的警告,而无需上级的输入。在获知这些员工的情况后,亚马逊公司解雇了他们。尽管亚马逊公司事后予以否认,但这已表明,无处不在的监控已经“降临”,稍有懈怠,就有可能失业失学。
不过,也有一些国家认定用人脸识别监控学生是违法行为。瑞典数据保护监管局(DPA)对瑞典北部城市谢莱夫特奥开出了该国的第一张依据欧盟《通用数据保护条例》(GDPR)的罚单,金额相当于1.9万欧元(约15万元人民币),原因是该市的一所高中使用人脸识别技术来监控在校学生的出勤情况,之前既没有向DPA报备,而且又非法处理了学生敏感的生物特征识别数据。
![](/images/paper/1002-9567/201922/20192202-2-l.jpg)
人脸识别
尽管学校辩称事前争得了学生的同意,但律师认为,学生是在学校董事会管理之下,无法判断学生的“同意”是否为学生的独立意志。DPA坚持认为,在日常环境中对学生进行摄像监控侵犯了学生的隐私。
现在,欧盟正在探索控制和监管人脸识别技术的立法,希望制定一套“AI监管的世界性标准”,建立起“足以保护个人的、明确的、可预测和统一的规则”。这样的立法将在GDPR的现有基础上更进一步,主要针对可能“带来特定风险”的人脸识别等技术。
同时,美国的亚马逊人脸识别系统由于难以识别肤色、性别和年龄而将28名国会议员识别为罪犯,由此引发了争论。为此,美国旧金山议会及时立法,禁止政府购买以及使用人脸识别技术,使得旧金山成为美国第一个禁止人脸识别技术的城市。
科技进步使得人类进入了以人工智能为代表的信息时代,这固然让人们的生活更为方便、舒适;但是科技发展的一个悖论也出现了,AI越发达,人们的隐私越容易被暴露,以科技来改善生活和提高自由度的理想反而渐行渐远。这样的AI技术真的是人类想要的吗?, 百拇医药(田地)