金融界

首页 » 常识 » 问答 » 人脸识别设备也脸盲360AI安全研究
TUhjnbcbe - 2024/10/21 16:33:00

来源:金融界网站

自人脸识别设备进入民用市场以来,就一直备受争议——它安全吗?这个答案在一场大会中得到解释。“我们最终可以在一些人脸识别设备中实现任意人员都能通过验证的效果。”AI安全研究院研究员刘昭在ISC大会上讲到。

据了解,AI安全研究院隶属于未来安全研究院,一直专注于人工智能与安全的前沿技术研究,涉及AI基础设施安全、AI算法安全、AI数据安全等方向的研究工作。在AI基础设施安全方面,目前已累计发现多个人工智能基础软硬件漏洞。

此外,AI安全研究院曾联合清华、西安交大的研究人员发现AI应用中图像缩放模块存在的漏洞,提出了一种新型的数据流降维攻击方法,影响国内外主流的AI云服务。这一研究成果发表在信息安全领域顶级国际会议USENIXSecurity上。

在此次ISC大会的人工智能与安全论坛上,刘昭以某款人脸识别设备能让任意人通过为例,说明不仅AI算法存在漏洞,其所依赖的关键基础设施也同样会被攻击,并进一步揭露了AI关键基础设施存在的安全风险。

白帽黑客“骗过”人脸识别设备

年底,工业和信息化部发布的《促进新一代人工智能产业发展三年行动计划(-年)》中提出,年,复杂动态场景下人脸识别有效检出率超过97%,正确识别率超过90%。

也是在这一年,刷脸支付入选《麻省理工科技评论》的全球十大突破性技术榜单,苹果新品iPhoneX发布的FaceID,更是将人脸识别技术推向高潮。

3年来,对人脸识别技术的安全风险讨论已经不计其数。在ISC大会上,AI安全研究院介绍了某款人脸识别设备存在的诸多安全问题,比如给终端特定的端口发送一些后门指令,终端设备在接收云端数据时存在栈溢出问题,以及在云端服务器部分存在未授权访问、目录穿越等风险。

正是通过攻击上述漏洞,最终可以在某人脸识别设备中实现任意人员都能通过验证的效果。

值得

1
查看完整版本: 人脸识别设备也脸盲360AI安全研究