网站首页 科技 > 正文
它们有看似复杂的结果,但也可能被愚弄,从相对无害的错误识别一种动物为另一种动物,到引导自动驾驶汽车网络将停车标志误解为指示停车标志的潜在危险。
在《自然机器智能》年发表的一篇论文中,休斯顿大学的一位哲学家提出,关于这些假设故障背后原因的常见假设可能是错误的,而这些信息对于评估这些网络的可靠性非常重要。
随着机器学习和其他形式的人工智能越来越深入地融入社会,从自动柜员机到网络安全系统,它们得到了广泛的应用。UH哲学副教授卡梅隆巴克纳说,了解由什么引起的明显错误的来源非常重要。
研究人员称之为“对抗性例子”,这意味着当深度神经网络系统遇到除了用于构建网络的训练输入之外的信息时,它会误判图像或其他数据。它们之所以罕见,被称为“对抗”,是因为它们通常是由另一个机器学习网络创建或发现的——这是机器学习领域的一项边缘技术,介于创建复杂示例的更复杂方法和检测和避免它们的更复杂方法之间。
巴克纳说:“其中一些对抗性事件可能是人为产物。为了更好地了解这些网络的可靠性,我们需要更好地了解它们是什么。”
换句话说,失火可能是由网络需要处理的内容和涉及的实际模式之间的交互引起的。这和被完全误解不完全一样。
巴克纳写道:“为了理解对立例子的含义,我们需要探索第三种可能性:至少一些模式是人工制品。”".因此,目前,简单地丢弃这些模式既有成本,也有天真地使用它们的风险。”
导致这些机器学习系统出错的对抗事件,不一定是故意玩忽职守造成的,但这是风险最高的。
巴克纳说:“这意味着恶意行为者可能会欺骗依赖其他可靠网络的系统。”“有安全的应用程序。”
郑重声明:本文版权归原作者所有。转载文章只是为了传播更多的信息。如果作者信息标注有误,请第一时间联系我们修改或删除。谢谢你。
标签:人工智能机器学习神经网络。
免责声明: 本文由用户上传,如有侵权请联系删除!
- 上一篇: 情感计算可以让医疗AI更接近人类的感受
- 下一篇: 高通推出第四代骁龙驾驶平台
猜你喜欢:
- 2023-07-05 酸梅四物饮怎么做(酸梅饮料怎么做的)
- 2023-07-05 英雄联盟手游光明哨兵活动任务怎么做(英雄联盟手游光明哨兵活动任务怎么做视频)
- 2023-07-04 叠杯子教程玩法(叠杯子教程玩法6个)
- 2023-07-04 微信怎么直接向手机号转账(微信怎么直接向手机号转账了)
- 2023-07-04 如何学习蹲踞式跳远:[1]助跑与起跳(蹲踞式跳远助跑的动作要领)
- 2023-07-04 360安全浏览器和极速浏览器哪个好(360安全浏览器和360极速浏览器哪个更好)
- 2023-07-04 mac地址怎么查(mac地址怎么查命令)
- 2023-07-04 怎么在去哪儿网上订酒店?(网上订酒店在哪里)
最新文章:
- 2023-07-05 新倩女幽魂端游一条龙任务之大盗宝藏副本玩法(倩女大盗宝藏攻略)
- 2023-07-05 CDR怎么填充多种颜色渐变(cdr渐变色填充)
- 2023-07-05 页边距怎么设置(页边距怎么设置在哪里Word)
- 2023-07-05 win10兼容模式怎么设置在哪(win10兼容模式怎么设置在哪里)
- 2023-07-05 网易126邮箱如何设置黑名单?(网易邮箱126解除黑名单)
- 2023-07-05 英雄联盟手游凯南怎么出装(英雄联盟手游凯南怎么出装备)
- 2023-07-05 点点赚怎么答卷赚钱攻略(赚点答题技巧)
- 2023-07-05 自己做电脑系统最简单的方法!(自己做电脑系统最简单的方法是什么)
- 2023-07-05 快手放电影怎么放啊(快手放电影怎么放)
- 2023-07-05 QQ如何更换密保手机(qq如何更换密保手机号申诉不记得手机号了)
- 2023-07-05 win10默认安装路径在哪里设置如何修改安装路径(windows10修改默认安装路径)
- 2023-07-05 万网域名证书在哪里?怎么打印万网域名证书?(如何打印域名证书)
- 2023-07-05 原神神里绫人的圣遗物怎么获得(原神神里绫华平民圣遗物)
- 2023-07-05 微信转账0.01恶搞步骤(微信转账0.01恶搞文字)
- 2023-07-05 电子书营销技巧(电子书营销技巧与方法)
- 2023-07-05 2021重庆新高考怎样算状元(2021重庆新高考怎样算状元考生)