Gradient Institute 在明德鲁基金会的支持下，最近发布了一份关于人工智能 (AI) 对企业日益增长的风险以及供公司对抗风险的开源软件的报告。

在这里，梯度研究所首席执行官、前 CSIRO 的 Bill Simpson-Young 谈到了人工智能对商业的危险。

我们需要意识到人工智能对企业的危害是什么?

企业使用的人工智能可以为企业及其客户带来许多好处，例如能够以极快的速度为客户执行操作并专门为该客户定制。例如，每次您在手机上使用地图应用程序时，AI 都会为您提供速度、准确性和相关性。人工智能还用于决定您的新闻提要、您是否与职位空缺匹配以及您是否成功申请贷款。

不幸的是，正如我们在这份新报告中所展示的，现在有压倒性的证据表明，使用人工智能进行自动化决策也有可能通过通常不透明和不负责任的决策过程对个人产生非法、不道德、歧视性的结果。

这些危害源于对人工智能的无根据的信任(或至少依赖)。人和机器做出不同的决定。虽然人类有常识并且能够轻松地在不同的环境中导航，但机器没有内置的道德判断，只能在相对狭窄的领域表现良好。

我们需要注意什么来保护我们的业务?

运营可以影响人们生活的人工智能系统的公司需要更好地了解人工智能系统为其业务带来的新风险。该报告对这些新风险进行了分类，其中包括“合法性失败”(例如，当人工智能系统的工作方式导致无意中以不同方式对待不同类型的人并违反反歧视法时)、“设计失败”(例如，当 AI 系统使用的数据确实不适合 AI 将要做出的决策时进行训练时)和“执行失败”(例如，随着时间的推移未能正确监控 AI 系统的操作)。

免责声明： 本文由用户上传，如有侵权请联系删除！

标签：