?!DOCTYPE html>
在h工智能时代,属于杀毒Y件的“黄金年代“是不是已经q去?jin)?人工作?f)引领C轮科技革命和业变革的颠覆性技术,已经渗透到?jin)社会(x)生zȝҎ(gu)面面。可在新技术ؓ(f)Z生活带来U种便利的同Ӟ其带来的的安全风险也备受xQ诸如数据泄漏、算法偏见、算法漏z等问题Q给l济和社?x)安全带来?jin)多种挑战?/span>
“安全是发展的前提,保人工安全、可靠、可控,才是守卫人工E_发展的根本。”瑞莱智慧CEO田天说?/span>
4?日,q一来自清华大学人工研究院的创业团队推出?jin)国内首个针对算法模型本w安全的(g)^台——RealSafe人工安全q_。作Zh工智能时代的“杀毒Y件”,该^台可提供从测评到防M完整的解x案,快速缓解对抗样本攻d胁。h工智能诞?0多年来,技术取得了(jin)长的进步,但仍存在着模型~陷、算法不可解释性、数据强依赖性等“Y肋”。随着数据量、算力的大幅提升Q未来h工智能技术的应用场景?x)日益增多,q且从语音识别、h脸识别等领域逐步延向金融决{、工业生产运营、医疗诊断、自动驾驶等更高价值的应用领域Q这对人工技术的安全性、可靠性提出更高要求,提升法安全性成为新一轮h工智能智能业升U下的新方向?/span>
2018q_(d)中国信息通信研究院安全研I编制的《h工智能安全白皮书》中提到Q“算法安全”是人工六大安全风险之一Qƈ着重指Z(jin)“对抗样本攻击诱使算法识别出现误判漏判“这一法模型~陷为算法安全的重要风险V田天介l,Ҏ(gu)h是机器学?fn)模型的一个有现象,但通过在源数据上增加hc难以通过感官辨识到的l微改变Q可以让机器学习(fn)模型接受q做出错误的分类军_。例如,在一张“阿?dng)卑斯山”的囄上加上一些h眼无法察觉的噪音Q正常情况下肉眼仍然能判断这张图昄的是山峰Q但是图像分cL型却?x)将它错误识别?f)狗?/span>
l过不断的升U演化,Ҏ(gu)hd已经不仅仅停留在数字世界Q针对物理世界的d也开始出现。如在\面上_脓(chung)Ҏ(gu)h贴纸模仿合ƈ条带Q误导特斯拉自动N汽R拐进逆行车道Q佩戴对抗样本生成的眼镜Q轻易破解手机面部解锁;胸前张脓(chung)Ҏ(gu)h贴纸卛_实现“隐w”等。“在|络安全时代Q网l攻ȝ大规模渗透倒g(jin)杀毒Y件的诞生。”田天说Q“针对算法漏z这一‘新型病毒’,Z同样需要开展安全评估评能力徏设,打造h工智能时代的‘杀毒Y件’,以技术手Dؓ(f)支撑Q切实规避h工智能算法缺陷可能带来的安全风险。?/span>
依托于清华大学h工智能研I?qing)自w多q来的技术积累,瑞莱智慧研发的h工智能安全^収ͼ内置?jin)先q的攻防法模型Qؓ(f)政府、企业等提供安全评测与安全防护,高效应对法威胁。相较于常见的开源工具需要自行部|Ӏ编写代码,q个“杀毒”^台只需要用者提供相应的数据Q就能够在线完成评估Q降低了(jin)法评测的技术难度。该q_支持五种去除Ҏ(gu)噪声的通用防MҎ(gu)Q可对输入数据进行自动去噪处理,破坏d者恶意添加的Ҏ(gu)噪声。经试Q部分第三方Ҏ(gu)应用E序接口在用^台的防MҎ(gu)加固后,安全性可提高40%以上?/span>
“推出安全检^台是规避人工风险的一条\径,未来我们q需要联合各界力量,共同推动人工安全相关的国家标准、行业标准、联盟标准的制定Qؓ(f)人工产品安全评估评测的统一参考。”田天最后说?/span>