安全·伦理·争议
任何一项技术的快速突破,在推动行业、社会发展的同时,也在衍生出一系列问题,这是硬币的两面,也是我们全面认识技术发展意义的关键。
上周,被媒体称为「中国人脸第一案」一审宣判,新华网援引法院的说明对事件做了介绍:
2019年4月,原告郭兵支付1360元购买野生动物世界“畅游365天”双人年卡,确定指纹识别入园方式。郭兵与其妻子留存了姓名、身份证号码、电话号码等,并录入指纹、拍照。后野生动物世界将年卡客户入园方式从指纹识别调整为人脸识别,并更换了店堂告示。2019年7月、10月,野生动物世界两次向郭兵发送短信,通知年卡入园识别系统更换事宜,要求激活人脸识别系统,否则将无法正常入园。
此后,双方就入园方式、退卡等相关事宜协商未果,郭兵遂提起诉讼,要求确认野生动物世界店堂告示、短信通知中相关内容无效,并以野生动物世界违约且存在欺诈行为为由要求赔偿年卡卡费、交通费,删除个人信息等。
最终,法院判决杭州野生动物世界赔偿郭兵合同利益损失及交通费共计 1038 元,删除其办理指纹年卡时提交的包括照片在内的面部特征信息。
值得注意的是,在法院对于该案的审理中,援引了几个要点:
- 个人信息采集要坚持「合法、正当、必要」的原则和征得当事人同意;
- 个人信息的利用要遵循确保安全原则,不得泄露、出售或者非法向他人提供;
- 个人信息被侵害时,经营者需承担相应的侵权责任;
这其中,「合法、正当、必要」的原则有者诸多探讨空间,站在公共安全的角度,或许高铁机场对面部信息采集符合这个原则,那么公园与广场的面部信息收集是否符合呢?
「中国人脸第一案」远未结束,接下来的二审还会有更多值得关注的方面。
在流行的即时通讯平台 Telegram 上,大量由 AI 机器人,生产、传播数万张未经许可的女性照片。Wired 援引研究者的话表示,这些图像基于 DeepNude,将女性照片「移除衣服」,并生成裸体图片,然后分享到群组、频道等。
自 2013 年上线以来,Telegram 一直秉承不审查的理念,从而也成为诸如成人内容、恐怖主义等内容的传播平台,2018 年苹果曾一度下架 Telegram,目前包括意大利在内的欧洲多个国家,已经针对该平台的 AI 机器人展开调查。
针对互联网上越来越多的「fake faces(假脸)」,《纽约时报》调查后发现这是一个巨大的市场需求,只需 2.99 美元就可以获得一张机器学习模型生成的假脸,而花费 1000 美元则能得到 1000 张假脸。
更进一步,《纽约时报》做了一个人脸生成系统,以了解更多关于生成「假脸」的细节。正如该报记者所言,人脸生成系统本质就是一个复杂的数学模型,调整几个参数,就能获得性别、年龄、情绪不同的照片。
《纽约时报》在其网站上提供了一个有趣的互动模型,非常推荐各位自行感受。
联合国区域犯罪与司法研究所近期发布的一份报告称,基于 AI 技术的文本、图像造假,使得整个社交媒体上充斥着太多虚假信息,这在全球疫情的背景下尤为突出,报告不仅勾勒出正在面临的巨大威胁,还提出了诸多解决方案。
你可以通过我提供的国内镜像免费获取这份 44 页的报告。
在同样敏感的网络安全领域,机器学习会给这个领域带来怎样的变化呢?乔治城大学的这个报告展现了机器学习在网络安全中技术潜力,比如与传统自动化的区别,并且强调机器学习在发现、改善网络安全漏洞中的应用价值。但与此同时,机器学习也成为网络攻击中的新技术,报告的结论相对保守了一些。
你可以在这里快速获取这份 48 页的报告。
|