人工智能未必真的安全

人工智能未必真的安全，人工智能算法及系统的安全性缺乏科学评测手段，无法有效评测完整的人工智能模型和算法能力，应形成从安全性测试到安全性分析与安全性加固的完整技术手段，无法形成标准化测试流程，应该围绕从数据、算法到系统各个层次上的全面评测，需要从硬件到软件的安全可信计算环境，问题是，技术局限或恶意应用导致人工智能安全问题日益突出。

由于人工智能仍属于新兴方向，专项人才少，缺乏系统性的研究队伍，对人工智能安全问题认识不足，深度伪造安全、自动驾驶安全、人脸识别安全，是公众高度关注的领域，人工智能安全风险更普遍、复杂程度高、战略意义凸显，要实现人工智能发展和安全的良性互动，需要在数据安全、算法可靠、应用可控方面着手。

1、将一张神奇的贴纸放置在面部，使人脸识别门禁系统误认为是你，轻而易举打开大门；

2、将一张神奇的贴纸放在眼镜上，1秒解锁你的手机人脸识别，获得你的隐私。

作为人工智能技术的典型应用，人脸识别已广泛渗透于社会生活的多个领域，如金融场景的刷脸支付、安防场景的人脸闸机验证等，问题是，通过在输入数据中添加扰动，使得系统作出错误判断。

人工智能未必真的安全，在大规模落地的同时，人脸识别系统也面临安全挑战，通过对人脸图像做微小的改动，就能够欺骗识别系统作出错误的判断，破坏人脸认证系统，引发重大损失，要推动人工智能技术由场景拓展向安全可信发展转变，通过参与标准制定，推出产品服务，持续探索人工智能安全实践及解决方案。

人脸识别流程依次是动作活体检测、现场人脸采集、人脸特征上送、静默活体检测、人脸比对，对应的典型攻击分别是打印照片攻击、ROM注入摄像头劫持攻击、报文篡改攻击、高精度伪造攻击、人脸融合对抗攻击。

人工智能安全治理需要广泛协作和开放创新，需加强政府、学术机构、企业等产业各参与方的互动合作，建立积极的生态规则，加快人工智能的立法进程，加强对人工智能服务水平、技术支撑能力等专项监督考核力度，加大对人工智能安全研究的激励投入，通过产学研合作模式加快科研成果的转化与落地。

人工智能未必真的安全，正常情况下，在识别到路障、指示牌、行人等目标后，自动驾驶车辆就会立即停车，问题是，一旦在目标物体上添加干扰图案后，车辆的感知系统就会出现错误判断，直接撞上去。

特别是，在恶劣天气、强日光照射等极端场景中自动驾驶车辆极易发生误判，对抗样本等算法漏洞的存在，导致能够通过修改道路车辆等目标物的颜色、纹理特征，使车辆目标检测模型失效。

去年被广泛讨论FacePlay等应用，只需用户上传一张人脸照片，就可快速生成不同服装场景的图片和视频，不法分子利用生物特征生成软件伪造特定信息，用于电信诈骗、编造虚假新闻等。

人工智能对抗攻防包括对抗样本、神经网络后门、模型隐私问题等多方面技术，通过定位引发错误的神经元，进行精准微创修复，不同于传统的模型修复工作需要重新训练模型，或者依赖于较大量的数据样本，这种方式只需极少量或无需数据样本，就能大幅提升模型修复效果。

人工智能未必真的安全，安全大于天，没有安全的人工智能没有出路，只有统筹发展和安全发展，才能实现高水平发展和高水平安全良性互动，安全是人工智能产业发展的重要课题。