网站首页 互联网 > 正文
艾伦人工智能研究所和加州欧文的研究人员发布了AllenNLP解释器,用于解释自然语言处理(NLP)模型的结果。可扩展工具包包括几个解释和可视化组件的内置方法,以及一个使用AllenNLP解释器解释最新NLP模型(包括BERT和RoBERTa)结果的示例。
在arXiv发表的一篇论文中,研究团队更详细地描述了该工具包。AllenNLP解释器使用两种基于梯度的解释方法:重要性图,用于确定输入句子中的每个单词或“标记”对模型预测的贡献程度;并且对抗攻击,试图删除或改变输入中的单词,同时仍然保持来自模型的相同预测。这些技术可以用于各种NLP任务和模型架构。这些实现使用一组通用的API和可视化组件,这些组件为将来开发其他技术和模型支持提供了一个框架。
随着公司越来越多地使用人工智能来自动提供问题的答案,用户想知道为什么人工智能会给出给定的答案。例如,如果在信用卡交易中检测到欺诈,交易是否特别暗示欺诈?
模型如何产生答案的解释对于模型开发人员理解系统在面对新数据时将如何一般化的能力也非常重要。AllenNLP explore的研究员Sameer Singh经常引用这个模型来区分狼和狗,但事实上他只学会了探测雪。
对于一些机器学习算法,解释很简单:比如决策树只是一系列if/then规则。然而,深度学习模型的输出可能更难解释。
Singer之前的工作包括LIME,它使用线性近似来解释更复杂模型的预测。AllenNLP解释器使用基于梯度的方法,可以测量输入特征对输出的影响。由于计算该梯度是深度学习训练的关键组成部分,因此这些方法可以应用于任何深度学习模型。
虽然这些技术是通用的,但是AllenNLP解释器是为NLP设计的。自然语言处理系统的输入是一个文本串,通常是一个句子或整个文档,然后文本被解析成它的组成词或标签。AllenNLP解释包括一个显著性图表,显示每个标记对模型预测的贡献;一个用例可能是解释一个句子中的哪些单词导致他们的情绪被分为积极的或消极的。
该工具包还包括两个对策,展示了更改输入中的标签如何影响输出。首先是HotFlip,用其他单词替换斜率最高的输入单词,直到模型输出发生变化。另一种攻击是输入缩减,在不改变输出的情况下,反复删除斜率最小的单词。这导致输入文本“通常没有意义,但会导致高置信度预测”。
郑重声明:本文版权归原作者所有。转载文章只是为了传播更多的信息。如果作者信息标注有误,请第一时间联系我们修改或删除。谢谢你。
免责声明: 本文由用户上传,如有侵权请联系删除!
- 上一篇: 谷歌使用本地化叙事来增强开放图像数据集 以促进人工智能
- 下一篇: RPA真的是AI的过程还是更少?
猜你喜欢:
- 2023-07-05 被遗忘的国度 恶魔之石心得(遗忘国度:恶魔之石)
- 2023-07-05 怎样做到勤能补拙(勤能补拙的方法)
- 2023-07-05 手机上在哪里查询生育险(手机上在哪里查询生育险余额)
- 2023-07-05 跑步膝盖疼的原因及解决方法(跑步膝盖疼的原因及解决方法图片)
- 2023-07-05 山羊画什么脚印(山羊画什么脚印像什么)
- 2023-07-05 设计图:君王板甲护腕如何获得?(君王板甲腰带图纸获取办法)
- 2023-07-05 电脑如何恢复出厂设置win7(笔记本电脑如何恢复出厂设置win7)
- 2023-07-05 DOTA中的骷髅王出装推荐(dota2骷髅王最强出装)
最新文章:
- 2023-07-05 上海搬家公司价格查询怎样进行普通搬家多少钱?(上海搬家公司价格表一览)
- 2023-07-05 电脑网页打开很慢怎么办(电脑网页打开很慢怎么办有时还打不开)
- 2023-07-05 拳皇WingEx1.0隐藏技能怎么用(拳皇wingex1.02隐藏技能)
- 2023-07-05 《名将传说》新手攻略5大职业特色技能详解(《名将传说》新手攻略5大职业特色技能详解介绍)
- 2023-07-05 如何锻炼口才(如何锻炼口才和思维能力)
- 2023-07-05 sumifs函数的使用方法(sumifs函数的使用方法日期)
- 2023-07-05 win10回收站图标不能正常显示怎么办(windows10只有回收站图标)
- 2023-07-05 长沙周边一日游 农家乐农的传人值得你去一趟(长沙农家乐好去处)
- 2023-07-05 联想a789刷机教程 最简单的线刷方法等你分享
- 2023-07-05 育苗块怎么用(育苗块怎么使用)
- 2023-07-05 瑜伽冥想有哪些好处(瑜伽冥想有哪些好处呢)
- 2023-07-05 海鱼的做法大全(海鱼的做法大全视频)
- 2023-07-05 招商银行缴纳学费(招商银行缴纳学费步骤)
- 2023-07-05 qq空间怎么添加音乐(QQ空间如何添加音乐)
- 2023-07-05 如何在淘宝上开店(淘宝店铺怎么开)
- 2023-07-05 女孩子喜欢什么礼物(给女孩子送什么礼物比较好)