佰联学校
新闻详情

人工智能未必真的安全

发表时间:2022-09-18 13:13

2.jpg


人工智能未必真的安全,人工智能算法及系统的安全性缺乏科学评测手段,无法有效评测完整的人工智能模型和算法能力,应形成从安全性测试到安全性分析与安全性加固的完整技术手段,无法形成标准化测试流程,应该围绕从数据、算法到系统各个层次上的全面评测,需要从硬件到软件的安全可信计算环境,问题是,技术局限或恶意应用导致人工智能安全问题日益突出。

由于人工智能仍属于新兴方向,专项人才少,缺乏系统性的研究队伍,对人工智能安全问题认识不足,深度伪造安全、自动驾驶安全、人脸识别安全,是公众高度关注的领域,人工智能安全风险更普遍、复杂程度高、战略意义凸显,要实现人工智能发展和安全的良性互动,需要在数据安全、算法可靠、应用可控方面着手。

1、将一张神奇的贴纸放置在面部,使人脸识别门禁系统误认为是你,轻而易举打开大门;

2、将一张神奇的贴纸放在眼镜上,1秒解锁你的手机人脸识别,获得你的隐私。

作为人工智能技术的典型应用,人脸识别已广泛渗透于社会生活的多个领域,如金融场景的刷脸支付、安防场景的人脸闸机验证等,问题是,通过在输入数据中添加扰动,使得系统作出错误判断。


9.jpeg


人工智能未必真的安全,在大规模落地的同时,人脸识别系统也面临安全挑战,通过对人脸图像做微小的改动,就能够欺骗识别系统作出错误的判断,破坏人脸认证系统,引发重大损失,要推动人工智能技术由场景拓展向安全可信发展转变,通过参与标准制定,推出产品服务,持续探索人工智能安全实践及解决方案。

人脸识别流程依次是动作活体检测、现场人脸采集、人脸特征上送、静默活体检测、人脸比对,对应的典型攻击分别是打印照片攻击、ROM注入摄像头劫持攻击、报文篡改攻击、高精度伪造攻击、人脸融合对抗攻击。

人工智能安全治理需要广泛协作和开放创新,需加强政府、学术机构、企业等产业各参与方的互动合作,建立积极的生态规则,加快人工智能的立法进程,加强对人工智能服务水平、技术支撑能力等专项监督考核力度,加大对人工智能安全研究的激励投入,通过产学研合作模式加快科研成果的转化与落地。

人工智能未必真的安全,正常情况下,在识别到路障、指示牌、行人等目标后,自动驾驶车辆就会立即停车,问题是,一旦在目标物体上添加干扰图案后,车辆的感知系统就会出现错误判断,直接撞上去。

特别是,在恶劣天气、强日光照射等极端场景中自动驾驶车辆极易发生误判,对抗样本等算法漏洞的存在,导致能够通过修改道路车辆等目标物的颜色、纹理特征,使车辆目标检测模型失效。


0.jpg


去年被广泛讨论FacePlay等应用,只需用户上传一张人脸照片,就可快速生成不同服装场景的图片和视频,不法分子利用生物特征生成软件伪造特定信息,用于电信诈骗、编造虚假新闻等。

人工智能对抗攻防包括对抗样本、神经网络后门、模型隐私问题等多方面技术,通过定位引发错误的神经元,进行精准微创修复,不同于传统的模型修复工作需要重新训练模型,或者依赖于较大量的数据样本,这种方式只需极少量或无需数据样本,就能大幅提升模型修复效果。

人工智能未必真的安全,安全大于天,没有安全的人工智能没有出路,只有统筹发展和安全发展,才能实现高水平发展和高水平安全良性互动,安全是人工智能产业发展的重要课题。

分享到:
佰联学校拥有党建、人工智能,人力资源开发、职业技能提升、技能培训、技能鉴定、资质认证、劳务派遣、灵活用工、专家咨询等综合性服务体系,佰联学校欢迎各界精英合作加盟!
佰联学校地址:安徽省淮北市相山区相山北路26号      电话:0561-3323698      邮箱:liu_lcf@126.com