网站首页 科技 > 正文
当涉及到人工智能时,“安全”和“不安全”行为的构成往往会引起争议。正如DeepMind的AGI安全研究员Ramana Kumar指出的,这些术语是主观的,“只能根据人工智能系统的用户和受益者的价值来定义。”
幸运的是,当面临与创建安全AI代理相关的技术问题时,这些问题通常可以避免,因为这些问题与确定正确或道德上适当的问题无关。相反,从技术角度来看,“安全”一词的最佳定义是AI代理,它始终如一地采取行动来实现期望的结果,无论这些期望的结果可能是什么。
对此,库马尔解释说,在创建负责自我完善的AI代理时,“构建安全代理的技术问题在很大程度上与“安全”的含义无关,因为很大一部分问题都解决了。建立一个代理,以可靠的方式执行某件事,无论它是什么,即使考虑中的代理越来越有能力,该方法也将继续工作。”
简而言之,制造“安全”的人工智能代理不应与制造“道德”的人工智能代理混淆。他们的术语在谈论不同的事情。
总的来说,避免安全的道德定义会让AI技术的工作变得容易得多,它会使研究得以发展,关于道德问题的争论也会继续发展。例如,虽然我们还没有就是否应该保护司机或行人的安全达成共识,但优步的自动驾驶汽车已经上路了。
然而,当我们想要创建一个强大而安全的、能够自我完善的AI系统时,技术工作就变得困难得多,该领域的研究还处于起步阶段。这主要是因为我们面对的不仅仅是一个AI代理。我们面对的是未来几代自我完善的代理人。
库马尔澄清说:“当一个AI代理正在自我完善时,人们可以把这种情况看作涉及两个代理:父母自己修改的“种子”或“父母”代理和“孩子”代理.以及他们的总数。因此,为了知道我们已经创建了一个安全的人工智能代理,我们需要知道可能来自第一个代理的所有子代理。
郑重声明:本文版权归原作者所有。转载文章只是为了传播更多的信息。如果作者信息标注有误,请第一时间联系我们修改或删除。谢谢你。
免责声明: 本文由用户上传,如有侵权请联系删除!
猜你喜欢:
- 2023-07-05 酸梅四物饮怎么做(酸梅饮料怎么做的)
- 2023-07-05 英雄联盟手游光明哨兵活动任务怎么做(英雄联盟手游光明哨兵活动任务怎么做视频)
- 2023-07-04 叠杯子教程玩法(叠杯子教程玩法6个)
- 2023-07-04 微信怎么直接向手机号转账(微信怎么直接向手机号转账了)
- 2023-07-04 如何学习蹲踞式跳远:[1]助跑与起跳(蹲踞式跳远助跑的动作要领)
- 2023-07-04 360安全浏览器和极速浏览器哪个好(360安全浏览器和360极速浏览器哪个更好)
- 2023-07-04 mac地址怎么查(mac地址怎么查命令)
- 2023-07-04 怎么在去哪儿网上订酒店?(网上订酒店在哪里)
最新文章:
- 2023-07-05 易语言做qq强制聊天软件(Qq强制聊天软件)
- 2023-07-05 新倩女幽魂端游一条龙任务之大盗宝藏副本玩法(倩女大盗宝藏攻略)
- 2023-07-05 CDR怎么填充多种颜色渐变(cdr渐变色填充)
- 2023-07-05 页边距怎么设置(页边距怎么设置在哪里Word)
- 2023-07-05 win10兼容模式怎么设置在哪(win10兼容模式怎么设置在哪里)
- 2023-07-05 网易126邮箱如何设置黑名单?(网易邮箱126解除黑名单)
- 2023-07-05 英雄联盟手游凯南怎么出装(英雄联盟手游凯南怎么出装备)
- 2023-07-05 点点赚怎么答卷赚钱攻略(赚点答题技巧)
- 2023-07-05 自己做电脑系统最简单的方法!(自己做电脑系统最简单的方法是什么)
- 2023-07-05 快手放电影怎么放啊(快手放电影怎么放)
- 2023-07-05 QQ如何更换密保手机(qq如何更换密保手机号申诉不记得手机号了)
- 2023-07-05 win10默认安装路径在哪里设置如何修改安装路径(windows10修改默认安装路径)
- 2023-07-05 万网域名证书在哪里?怎么打印万网域名证书?(如何打印域名证书)
- 2023-07-05 原神神里绫人的圣遗物怎么获得(原神神里绫华平民圣遗物)
- 2023-07-05 微信转账0.01恶搞步骤(微信转账0.01恶搞文字)
- 2023-07-05 电子书营销技巧(电子书营销技巧与方法)