网站首页 互联网 > 正文
杜克大学计算机科学教授辛西娅鲁丁说,但这就是问题所在。“我们可以输入医学图像,在另一端观察结果(‘这是恶性病变的照片’,但很难知道两者之间发生了什么。”
这就是所谓的“黑箱”问题。即使是制造机器的人,也很难理解机器的概念——网络的隐藏层。
“深度学习模型的问题在于,它们非常复杂,我们实际上并不知道它们在学习什么。”杜克大学鲁丁实验室的一名学生。“他们可以经常使用我们不想让他们获得的信息。他们的推理过程可能完全错误。”
杜克大学本科生鲁丁、陈和贝提出了解决这一问题的方法。通过修改这些预测背后的推理过程,研究人员可以更好地排除网络故障,或者知道它们是否值得信任。
大多数方法试图通过寻找指向图像的关键特征或像素来揭示导致计算机视觉系统正确答案的原因:“这种胸部X线生长被归类为恶性,因为这些领域对于这种模型的肺癌分类非常重要。”这种方法不揭示网络的原因,只揭示其位置。
杜克团队尝试了另一种方法。他们的方法不是试图事后考虑网络决策,而是训练网络通过表达对概念的理解来展示其工作。他们的方法通过揭示网络需要思考多少不同的概念来帮助破译它所看到的东西。陆丁说:“它想出了如何在网络层表示不同的概念。”
例如,给定一个图书馆的图像,这种方法可以根据不同层的神经网络对“书”的心理表达来确定它们是否识别场景的程度和程度。
研究人员发现,只需对神经网络进行少量调整,就能像原始网络一样准确地识别图像中的物体和场景,同时在网络的推理过程中获得实质性的可解释性。陆定说:“这项技术的应用非常简单。”
这种方法控制信息如何在网络中流动。它包括用一个新的部分替换神经网络的一个标准部分。新的部分仅约束网络中的单个神经元响应人类理解的特定概念而触发。这些概念可以是日常物品的类别,如“书”或“自行车”。但也可以是一般特征,如“金属”、“木头”、“冷”或“暖”。通过一次只让一个神经元控制一个概念的信息,很容易理解网络的“思维模式”。
郑重声明:本文版权归原作者所有。转载文章只是为了传播更多的信息。如果作者信息标注有误,请第一时间联系我们修改或删除。谢谢你。
标签:机器学习。
免责声明: 本文由用户上传,如有侵权请联系删除!
猜你喜欢:
- 2023-07-05 被遗忘的国度 恶魔之石心得(遗忘国度:恶魔之石)
- 2023-07-05 怎样做到勤能补拙(勤能补拙的方法)
- 2023-07-05 手机上在哪里查询生育险(手机上在哪里查询生育险余额)
- 2023-07-05 跑步膝盖疼的原因及解决方法(跑步膝盖疼的原因及解决方法图片)
- 2023-07-05 山羊画什么脚印(山羊画什么脚印像什么)
- 2023-07-05 设计图:君王板甲护腕如何获得?(君王板甲腰带图纸获取办法)
- 2023-07-05 电脑如何恢复出厂设置win7(笔记本电脑如何恢复出厂设置win7)
- 2023-07-05 DOTA中的骷髅王出装推荐(dota2骷髅王最强出装)
最新文章:
- 2023-07-05 电脑网页打开很慢怎么办(电脑网页打开很慢怎么办有时还打不开)
- 2023-07-05 拳皇WingEx1.0隐藏技能怎么用(拳皇wingex1.02隐藏技能)
- 2023-07-05 《名将传说》新手攻略5大职业特色技能详解(《名将传说》新手攻略5大职业特色技能详解介绍)
- 2023-07-05 如何锻炼口才(如何锻炼口才和思维能力)
- 2023-07-05 sumifs函数的使用方法(sumifs函数的使用方法日期)
- 2023-07-05 win10回收站图标不能正常显示怎么办(windows10只有回收站图标)
- 2023-07-05 长沙周边一日游 农家乐农的传人值得你去一趟(长沙农家乐好去处)
- 2023-07-05 联想a789刷机教程 最简单的线刷方法等你分享
- 2023-07-05 育苗块怎么用(育苗块怎么使用)
- 2023-07-05 瑜伽冥想有哪些好处(瑜伽冥想有哪些好处呢)
- 2023-07-05 海鱼的做法大全(海鱼的做法大全视频)
- 2023-07-05 招商银行缴纳学费(招商银行缴纳学费步骤)
- 2023-07-05 qq空间怎么添加音乐(QQ空间如何添加音乐)
- 2023-07-05 如何在淘宝上开店(淘宝店铺怎么开)
- 2023-07-05 女孩子喜欢什么礼物(给女孩子送什么礼物比较好)
- 2023-07-05 重庆市武隆仙女山一日游(重庆市武隆仙女山一日游多少钱)