网站首页 互联网 > 正文
斯图尔特拉塞尔是人工智能的真正先驱之一,几十年来一直处于该领域的前沿。他的专业知识和前瞻性思维在最新作品《人类兼容:人工智能与控制问题》中达到了高潮。这本书是一个基石,还有《超级智能与生活3.0》,它说明了文明的规模。我们面临着以机器智能为目标的人类目标和价值观。这不仅是对AI对齐的进一步阐述和发展,也是Stuart提出的一个新颖的解决方案,它使我们能够更好地理解创造有益的机器智能需要什么。
“我认为在2013年左右,真正让我震惊的是,我们实际上以错误的方式思考AI。我们设置整个领域的方式,基本上就是人类智慧的翻版,因为如果人类的行动达到了目的,那么人类就是智慧的。因此,如果机器的动作达到了目标,机器就应该是智能的。那么,当然,我们必须以奖励函数或成本函数或逻辑目标陈述的形式提供目标。这是可行的。当机器愚蠢时,它可以工作。而且,如果你提供了错误的目标,你可以重置它们并修复目标,并希望这台机器所做的工作会真正帮助你。但是如果机器比人类聪明,给它们错误的目标,基本上就是在人类和机器之间设置一个棋局,而这个机器的目标和我们自己的目标是背道而驰的。我们赢不了那场象棋比赛。”
“因此,当一个人给另一个人一个目标时,这显然不是人生唯一的使命。因此,如果你请某人喝咖啡,并不意味着不惜一切代价也要喝咖啡。一般来说,这只是意味着我宁愿喝咖啡,但知道,不杀任何人喝咖啡。不要清空我的银行账户买咖啡。不要在沙漠中跋涉300英里去买咖啡。在人工智能的标准模型中,机器对此一无所知。它只有一个目的,这是人生唯一的目的。更一般的模型是机器知道人内在有一定的整体偏好结构,这个具体目标只是带咖啡或者带我去机场的部分体现。机器的目的应该是帮助人们以最好的方式实现他们的整体偏好结构。如果目前正好包括一杯咖啡,那就太好了,或者带他去机场。然而,机器总是知道并且不完全理解这个更大的偏好结构。一种思路是AI的标准模型假设机器对目标有完整的知识,而我提出的模型假设模型对目标有不完善的知识或部分知识。所以,这绝对是一个比较普遍的情况。”
“目标是重新定位人工智能领域,以便我们能够在未来构建与标准模型不同风险的系统.这是我认为人工智能社区的第一步。最后,我们需要继续采用另一种方法。因为这是机器变得更智能的唯一途径。我们不能忍受标准模式,因为正如我所说,目标不正确的系统可能会带来任何不良后果。”
郑重声明:本文版权归原作者所有。转载文章只是为了传播更多的信息。如果作者信息标注有误,请第一时间联系我们修改或删除。谢谢你。
免责声明: 本文由用户上传,如有侵权请联系删除!
- 上一篇: AI系统将如何理解人的价值?
- 下一篇: DeepMind的人工智能安全基准测试
猜你喜欢:
- 2023-07-05 被遗忘的国度 恶魔之石心得(遗忘国度:恶魔之石)
- 2023-07-05 怎样做到勤能补拙(勤能补拙的方法)
- 2023-07-05 手机上在哪里查询生育险(手机上在哪里查询生育险余额)
- 2023-07-05 跑步膝盖疼的原因及解决方法(跑步膝盖疼的原因及解决方法图片)
- 2023-07-05 山羊画什么脚印(山羊画什么脚印像什么)
- 2023-07-05 设计图:君王板甲护腕如何获得?(君王板甲腰带图纸获取办法)
- 2023-07-05 电脑如何恢复出厂设置win7(笔记本电脑如何恢复出厂设置win7)
- 2023-07-05 DOTA中的骷髅王出装推荐(dota2骷髅王最强出装)
最新文章:
- 2023-07-05 上海搬家公司价格查询怎样进行普通搬家多少钱?(上海搬家公司价格表一览)
- 2023-07-05 电脑网页打开很慢怎么办(电脑网页打开很慢怎么办有时还打不开)
- 2023-07-05 拳皇WingEx1.0隐藏技能怎么用(拳皇wingex1.02隐藏技能)
- 2023-07-05 《名将传说》新手攻略5大职业特色技能详解(《名将传说》新手攻略5大职业特色技能详解介绍)
- 2023-07-05 如何锻炼口才(如何锻炼口才和思维能力)
- 2023-07-05 sumifs函数的使用方法(sumifs函数的使用方法日期)
- 2023-07-05 win10回收站图标不能正常显示怎么办(windows10只有回收站图标)
- 2023-07-05 长沙周边一日游 农家乐农的传人值得你去一趟(长沙农家乐好去处)
- 2023-07-05 联想a789刷机教程 最简单的线刷方法等你分享
- 2023-07-05 育苗块怎么用(育苗块怎么使用)
- 2023-07-05 瑜伽冥想有哪些好处(瑜伽冥想有哪些好处呢)
- 2023-07-05 海鱼的做法大全(海鱼的做法大全视频)
- 2023-07-05 招商银行缴纳学费(招商银行缴纳学费步骤)
- 2023-07-05 qq空间怎么添加音乐(QQ空间如何添加音乐)
- 2023-07-05 如何在淘宝上开店(淘宝店铺怎么开)
- 2023-07-05 女孩子喜欢什么礼物(给女孩子送什么礼物比较好)