安基网 首页 资讯 安全报 查看内容

伟大的技术带来巨大的责任 面部识别技术的便利性与安全性

2019-2-12 01:06| 投稿: xiaotiger |来自: 互联网


免责声明:本站系公益性非盈利IT技术普及网,本文由投稿者转载自互联网的公开文章,文末均已注明出处,其内容和图片版权归原网站或作者所有,文中所述不代表本站观点,若有无意侵权或转载不当之处请从网站右下角联系我们处理,谢谢合作!

摘要: 面部识别准确吗?它会被黑客攻击吗?这些只是立法者,公民自由主义者和隐私倡导者提出的一些问题,因为去年夏天发布的ACLU报告声称亚马逊的面部识别软件Rekognition错误地将28名国会议员定为犯罪分子。它是一种通用 ...

原创不易 请随手点击关注

本文由Rehoo团队Leery原创,无授权禁转!(图片来自网络)

图片来自网络

面部识别准确吗?它会被黑客攻击吗?这些只是立法者,公民自由主义者和隐私倡导者提出的一些问题,因为去年夏天发布的ACLU报告声称亚马逊的面部识别软件Rekognition错误地将28名国会议员定为犯罪分子。它是一种通用的应用程序编程接口(API),开发人员可以使用它来构建可以检测和分析图像中的场景,对象,面部和其他项目的应用程序。争议的来源是一个试点项目,亚马逊与佛罗里达州奥兰多市和俄勒冈州华盛顿县两个城市的警察部门合作,探讨在执法中使用面部识别。

在2019年1月,每日邮报报道说,FBI自2018年初以来一直在测试Rekognition。该项目对政府监督还透露通过信息行动请求自由。

图片来自网络

亚马逊通过注意到Rekognition的默认信心阈值80%(虽然非常适合社交媒体标记)为自己的API辩护,“不适合识别具有合理确定性的个人。”对于执法应用程序,亚马逊建议信心阈值为99%或更高。但该报告更大的担忧是面部识别可能被滥用,对少数民族的准确性较低,或对人权隐私构成威胁,仍有争议。

ACLU提出的问题是否合理?是耸人听闻的媒体炒作吗?或者说,真实就像生活中的大多数事情一样,是否需要包含在一层细微差别中,而这种细微差别需要的不仅仅是对基础技术的表面层面理解,而是首先引发了争论?要深入了解这个问题,让我们深入了解面部识别,准确性,黑客攻击的脆弱性及其对隐私权的影响。

图片来自网络

面部识别的准确度如何?

在评估ACLU报告的准确性之前,首先介绍面部识别系统如何工作的一些背景,它会有所帮助。神经网络的准确性取决于两件事:您的神经网络和您的训练数据集。

  • 该神经网络需要有足够的层和计算资源通过地标识别,归一化并最终面部识别来处理来自面部检测的原始图像。还可以在每个阶段采用各种算法和技术来提高系统的准确性。
  • 训练数据必须足够大和多样,以适应潜在变化,例如种族或照明。

此外,还有一个称为置信度阈值的东西,可用于控制结果中的误报和漏报数量。一个较高的置信度阈值导致较少的假阳性和更多的假阴性。较低的置信度阈值会导致更多的误报和更少的假阴性。

图片来自网络

重新审视ACLU对Amazon Rekognition的准确性

让我们回到ACLU报告,看看我们是否无法澄清辩论。亚马逊的回应强调不正确使用置信度阈值。使用较低的置信度阈值,如ACLU报告所做的那样增加了误报的数量。ACLU可能没有考虑到应该更正API的默认设置以匹配预期的应用程序。亚马逊的评论置信度阈值并未直接解决系统中显示的偏差。关于少数群体的面部识别准确性问题是机器学习社区所熟知的。谷歌在其图像识别应用程序在2015年将非洲裔美国人称为“大猩猩”时,不得不道歉。

早在2018年,麻省理工学院媒体实验室研究员Joy Buolamwini进行的一项研究测试了微软的面部识别产品,IBM和中国的Megvii。微软肤色女性的错误率为21%,而IBM和Megvii的错误率接近35%。对于浅肤色男性,所有三种产品的错误率接近1%。在这项研究中,Buolamwini指出,一组数据用于给美国一家大型科技公司提供超过97%的准确率,其中男性占77%,白人占83%以上。

图片来自网络

这突出了面部识别算法的广泛可用的基准数据不够多样化的问题。正如微软高级研究员Hanna Wallach在一篇博客文章中所述,该文章重点介绍了该公司最近为提高所有肤色的准确性而做出的努力:如果我们正在训练机器学习系统来模仿在社会偏见中做出的决策,使用该社会产生的数据,那么这些系统必然会重现其偏见。面部识别系统(几乎完全是白人和男性)设计者的无意识偏见使少数群体面临被执法机构误导的风险。

关注用于训练神经网络的数据的质量和大小可以提高面部识别软件的准确性。简单地训练具有更多不同数据集的算法可以减轻一些对错误导致少数民族错误的担忧。

图片来自网络

面部识别能被黑客攻击吗?

是的,面部识别可以被黑客攻击,更好的问题是如何被入侵。作为一种图像识别软件,面部识别具有许多相同的漏洞。图像识别神经网络不会“看到”我们的方式。

您可以通过用特殊贴纸覆盖标志来欺骗自驾车超速停车标志。在学校公共汽车的照片中添加一个人类不可见的数据噪声层,以说服图像识别技术。您甚至可以使用特殊的眼镜架模仿演员或女演员,以绕过面部识别安全检查。安全公司Bkav用“ 3D打印塑料,硅胶,化妆品和简单的纸质切口复合面膜 ”攻击了iPhone X的Face ID 。

公平地说,欺骗面部识别软件需要有关底层神经网络和您希望冒充的面孔的广泛知识。也就是说,北卡罗来纳大学的研究人员最近表明,没有什么可以阻止黑客拉动公共图片和构建3D面部模型。这些都是安全研究人员称之为“对抗性机器学习”的例子。随着AI开始渗透到我们的日常生活中,对于网络安全专业人员来说,了解明天黑客的寻找利用神经网络的方法以便他们制定对策非常重要。

图片来自网络

面部识别和数据隐私

据Facebook去年发布的三起最大数据泄露报道,有大约1.47亿个账户被曝光,你可能会因为失去隐私的详细信息而被忽略,俄罗斯公司在这些网站上搜集了足够的数据。这些数据是由SocialDataHub收集的,用于支持公司Fubutech,后者正在为俄罗斯政府建立面部识别系统。在剑桥分析公司的丑闻中,Facebook已经发现自己在一个国家的监督工作中发现了一个不知情的资产。

Facebook站在技术进步和数据隐私之间更大辩论的中心。提升的倡导者认为面部识别有望在安全,娱乐和广告等行业中提供更好,更个性化的解决方案。航空公司Qantas希望有一天能将情绪分析技术融入他们的面部识别系统,以更好地满足乘客和飞行员的需求。

但隐私权倡导者担心奥威尔监视国家存在的危险。更广泛地说,我们作为一个社会必须决定我们如何使用面部识别和其他数据驱动技术,以及这种用法如何与“世界人权宣言”第12条相叠加:任何人不得对其隐私,家庭,住宅或通信进行任意干涉,也不得侵犯其荣誉和名誉。每个人都有权保护法律免受此类干扰或攻击。

图片来自网络

凭借出色的技术带来了巨大的责任

我已经涵盖了面部识别技术的许多问题,但重要的是要记住我们作为一个社会可以获得的东西。在许多方面,面部识别是提升的下一个合乎逻辑的步骤:

  • 社交媒体带来了更强的社区意识,分享了经验,改善了沟通渠道
  • 广告,面部识别可以将个性化,客户参与和转换提升到一个新的水平
  • 安全性,生物识别技术为最终用户提供增强的安全性和便利性的独特包
  • 客户服务,面部识别可以与情感分析配对,以提供卓越的客户体验
  • 智能城市,通过道德使用监控,情感分析和面部识别,可以创建更安全的城市,尊重个人的隐私权
  • 机器人技术,如果我们掌握了神经网络识别面孔的能力,那么只有具有机器人助手

隐私倡导者和开发人员都有义务改进数据集和算法并防止篡改。解决人权隐私与在便利性,在其安全性方面获得的优势之间的冲突是值得的。我们如何选择使用面部识别,这才是真正重要的。



小编推荐:欲学习电脑技术、系统维护、网络管理、编程开发和安全攻防等高端IT技术,请 点击这里 注册账号,公开课频道价值万元IT培训教程免费学,让您少走弯路、事半功倍,好工作升职加薪!

本文出自:https://www.toutiao.com/a6656522205058302467/

免责声明:本站系公益性非盈利IT技术普及网,本文由投稿者转载自互联网的公开文章,文末均已注明出处,其内容和图片版权归原网站或作者所有,文中所述不代表本站观点,若有无意侵权或转载不当之处请从网站右下角联系我们处理,谢谢合作!


鲜花

握手

雷人

路过

鸡蛋

相关阅读

最新评论

 最新
返回顶部