加强基于人工智能的防御,进攻性AI的结构优势.doc
《加强基于人工智能的防御,进攻性AI的结构优势.doc》由会员分享,可在线阅读,更多相关《加强基于人工智能的防御,进攻性AI的结构优势.doc(3页珍藏版)》请在三一文库上搜索。
1、加强基于人工智能的防御,进攻性AI的结构优势人工智能的真实世界中的应用增长得如此之快,并且变得如此普遍,以至于很难在日常生活中遇到。例如开车或发短信的朋友,并没有看到它们的影响。网络安全领域也是如此,攻击者和捍卫者都希望AI能够占上风。它的崛起恰逢数据本身的激增, 随着我们越来越依赖于用人工智能来理解这个以数据为中心的全新世界,我们还需要对其安全性进行了解和认识。几十年来,防御者通过检测签名或指示恶意活动的特定模式来抵御攻击。这种自下而上的方法是被动的。新的攻击需要部署新的签名,所以攻击者总是在数字混战中领先一步。下一代,基于人工智能的解决方案通过采用自上而下的方法并将大量活动数据集提供给统计
2、模型来解决这个问题。从签名到统计数据的这种转变意味着防御措施可以是积极主动的,并可以更好地推广到新的攻击。人工智能防御技术蓬勃发展,现在普遍应用于垃圾邮件过滤,恶意文件或URL检测等经典问题。这些模型通常依赖于受监督的机器学习算法,该算法将来自它们输入的函数(例如,“https:/google”或“http:/ google phishpage”的域名)映射到输出(例如,“良性“或”恶意“)。虽然监督式学习可能清晰地映射到辩护人区分良性和恶意的需要,但由于其依赖于预先存在的标签,实施起来也很昂贵和耗时。数据标签需要前期努力,要求领域专业知识,并且不能在其他地方重新使用,这意味着构建有效的基于A
3、I的防御存在根本瓶颈。进攻性AI的结构优势基于人工智能的防御遭受其他可利用的弱点。由于模型的准确性受其标签保真度的控制,当模型的创建者在由有目的地损坏的标签注入的数据集上训练它时,攻击者可以毒害模型。这允许攻击者构建绕过检测的特定样本。其他模型系统地容易受到轻微干扰的输入,导致它们产生令人尴尬的高置信度的错误。所谓的对抗例子最好通过物理攻击来说明,比如在停车标志上放置贴纸来欺骗自动驾驶汽车中使用的物体识别器,以及植入隐藏的声音命令来欺骗智能扬声器中使用的语音识别器来报警。虽然这些例子可能接近普通公民的家,但对于网络安全专业人员来说,类似的错误可能意味着违规和促销之间的差异。攻击者越来越多地转向
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 加强 基于 人工智能 防御 进攻性 AI 结构 优势
链接地址:https://www.31doc.com/p-3395606.html