如今，人工智能正在帮助我们从数据中发现新的见解，增强人类的决策能力。比如我们用面部识别登录手机，用语音理解和意图分析获得帮助。电商零售商和AI共同预测并向消费者推荐新产品。银行使用对话式人工智能来减少欺诈和更好地管理客户体验。

今天使用的大多数AI都是狭义的AI。一般的AI更类似于人类的智能，可以覆盖广泛的决策、情绪和判断，所以不会很快出现。如今，狭义人工智能实际上非常擅长一些特定的任务，但顾名思义，“狭义”会带来一些局限性，使其容易出现偏差。

" />

偏差可能来自不完整的数据样本或不正确的数据集。互动也有偏差——随着时间的推移，互动会导致学习偏差。此外，有时业务的突然变化(如新法律或业务规则)可能会导致偏差。最后，无效的训练算法可能会导致偏差。识别偏差的来源有助于缓解问题，并确保人工智能应用程序产生预期的业务结果。

数据偏差最明显的原因是用于训练AI系统的数据样本缺乏多样性。例如，我们通过AI算法定期运行飞机发动机的传感器数据，以预测零件更换和优化资产性能。但是，如果AI主要针对从美国到欧洲的航班(飞越寒冷的北半球)进行训练，然后用于撒哈拉以南非洲的航班，很容易看到数据集会落在训练好的模型参数之外，产生错误的结果。换句话说，算法只有放入其中的数据才是聪明的。

" />

现实是很难获得全面的数据来训练AI系统，所以很多系统只使用容易获得的数据。有时，甚至可能没有用于训练AI算法所有潜在用例的数据。比如招聘AI软件，如果只在历史上没有异质岗位的人才库进行培训，很难推荐出多样化的人选。

" />

偏见的另一个主要驱动力是训练中的偏见，这可以通过仓促和不完整的训练算法来解决。比如，一个旨在从对话中学习，变得更聪明的AI聊天机器人，可以选择一种政治上不正确的语言，只要不经过训练，就可以暴露和使用——就像微软从Tay身上学到的那样。同样，在刑事司法系统中可能使用AI也很重要，因为我们不知道AI算法的训练是否正确完成。

郑重声明：本文版权归原作者所有。转载文章只是为了传播更多的信息。如果作者信息标注有误，请第一时间联系我们修改或删除。谢谢你。

免责声明： 本文由用户上传，如有侵权请联系删除！

标签：