网站首页 科技 > 正文
对未来人工智能系统问题的担忧引起了谷歌研究人员的注意。在该公司的DeepMind团队宣布将与牛津大学的研究人员合作开发流氓AI系统的查杀开关后不到两周,谷歌发布了一篇专门解决AI安全风险的技术论文。
这篇题为“人工智能安全的具体问题”的论文是与斯坦福大学、加州大学伯克利分校和致力于人工智能研究的非营利公司OpenAI的研究人员合作撰写的。
它概述了五个基本问题,研究人员表示,这些问题在今天相对较小,但随着机器在未来变得越来越智能,预测将具有更大的重要性。
谷歌研究员克里斯奥拉奇(Chris Auracher)在该公司的研究博客上表示,本文探索了解决这些问题的实用方法,并确保人工智能系统的设计能够以可靠和安全的方式运行。
奥拉说:“尽管可能的AI安全风险已经引起了公众的广泛关注,但之前的大多数讨论都是非常假设和推测的。”他说:“我们认为,关注真实机器学习研究中的问题并开始为工程AI系统开发实用方法非常重要。”
机器学习和人工智能是谷歌的重要领域。该公司表示,希望利用这些领域的进展来提高其核心技术。它在一些应用中应用了人工智能和机器智能技术,包括谷歌翻译、谷歌照片和语音搜索。
该公司首席执行官桑德尔皮帅表示,谷歌希望看到人工智能从根本上改变人们的出行方式,完成日常任务,并解决医疗保健和气候变化等领域的问题。
OpenAI研究人员Paul Christiano和Greg Brockman在博文中指出,先进的AI意味着让AI系统变得更智能、更安全,并在新发布的技术论文中宣布了该公司的角色。研究人员表示,这意味着“确保人工智能系统能够做人们真正想让它们做的事情”。
新发布的谷歌技术论文中研究的五个问题之一是确保AI系统在执行功能时不会对环境产生负面影响的方法。例如,奥拉指出,清洁机器人应该被编程为不撞倒花瓶,即使它可以更快地完成任务。
其他问题涉及寻找方法来确保机器人不会从事具有负面影响的活动,例如将湿拖把插入电源插座或以适当和安全的方式在不同环境(如车间或办公室)中运行。
OpenAI的Christiano和Brockman说:“许多问题并不新鲜,但本文是在前沿系统的背景下讨论的。”
这份新的技术论文似乎是解决人工智能安全相关问题的日益关注的一部分。例如,谷歌和牛津大学的研究重点是确保未来的超智能AI系统永远不会主动阻止运营商的干扰。目的是确保工程师能够以不稳定或不安全的方式开始安全关闭人工智能系统。
郑重声明:本文版权归原作者所有。转载文章只是为了传播更多的信息。如果作者信息标注有误,请第一时间联系我们修改或删除。谢谢你。
免责声明: 本文由用户上传,如有侵权请联系删除!
猜你喜欢:
- 2023-07-05 酸梅四物饮怎么做(酸梅饮料怎么做的)
- 2023-07-05 英雄联盟手游光明哨兵活动任务怎么做(英雄联盟手游光明哨兵活动任务怎么做视频)
- 2023-07-04 叠杯子教程玩法(叠杯子教程玩法6个)
- 2023-07-04 微信怎么直接向手机号转账(微信怎么直接向手机号转账了)
- 2023-07-04 如何学习蹲踞式跳远:[1]助跑与起跳(蹲踞式跳远助跑的动作要领)
- 2023-07-04 360安全浏览器和极速浏览器哪个好(360安全浏览器和360极速浏览器哪个更好)
- 2023-07-04 mac地址怎么查(mac地址怎么查命令)
- 2023-07-04 怎么在去哪儿网上订酒店?(网上订酒店在哪里)
最新文章:
- 2023-07-05 易语言做qq强制聊天软件(Qq强制聊天软件)
- 2023-07-05 新倩女幽魂端游一条龙任务之大盗宝藏副本玩法(倩女大盗宝藏攻略)
- 2023-07-05 CDR怎么填充多种颜色渐变(cdr渐变色填充)
- 2023-07-05 页边距怎么设置(页边距怎么设置在哪里Word)
- 2023-07-05 win10兼容模式怎么设置在哪(win10兼容模式怎么设置在哪里)
- 2023-07-05 网易126邮箱如何设置黑名单?(网易邮箱126解除黑名单)
- 2023-07-05 英雄联盟手游凯南怎么出装(英雄联盟手游凯南怎么出装备)
- 2023-07-05 点点赚怎么答卷赚钱攻略(赚点答题技巧)
- 2023-07-05 自己做电脑系统最简单的方法!(自己做电脑系统最简单的方法是什么)
- 2023-07-05 快手放电影怎么放啊(快手放电影怎么放)
- 2023-07-05 QQ如何更换密保手机(qq如何更换密保手机号申诉不记得手机号了)
- 2023-07-05 win10默认安装路径在哪里设置如何修改安装路径(windows10修改默认安装路径)
- 2023-07-05 万网域名证书在哪里?怎么打印万网域名证书?(如何打印域名证书)
- 2023-07-05 原神神里绫人的圣遗物怎么获得(原神神里绫华平民圣遗物)
- 2023-07-05 微信转账0.01恶搞步骤(微信转账0.01恶搞文字)
- 2023-07-05 电子书营销技巧(电子书营销技巧与方法)