宁德生活圈

网站首页 科技 > 正文

人工智能系统中的偏差可能会导致意想不到的后果

2021-09-17 03:47:49 科技 来源:
导读 阿列克谢 Siri 科尔塔纳 这些虚拟数字助理已经成为我们日常生活的一部分。除了功能相似之外,他们还有一个共同的重要特征:他们都被编

阿列克谢.Siri .科尔塔纳.这些虚拟数字助理已经成为我们日常生活的一部分。除了功能相似之外,他们还有一个共同的重要特征:他们都被编码为女性。

人工智能系统中的偏差可能导致意想不到的后果

如果你从来没有考虑过为什么这些AI助手都是女性,那么你并不孤单。基于云的客户服务消息解决方案LivePerson对1000名美国成年人进行了一项调查,以确定他们对人工智能和技术领域性别差距的看法。回答问题时,“Alexa、Siri和谷歌助理默认都是女性。你考虑过这个事实吗?”总的来说,53.2%的人说他们没有。

LivePerson首席执行官罗布洛卡西奥(Rob LoCascio)表示:“与其他技术不同的是,“有了AI,你就在创造与他人互动的东西,或者你在用它来补充人类活动,并做出决策和建议。”“因此,我们要问为什么?为什么我们要把这些“帮手”技术变成女性?我们如何看待女性在世界和职场中的期望?女人天生就是“帮手”;他们是“娜”;他们发挥行政作用;他们善于接受命令吗?"

人工智能系统中的偏差可能导致意想不到的后果

当然,不仅仅是数字助理有偏见。据彭博新闻报道,研究人员已经开始注意到人工智能系统重复和扩大其创造者偏见的趋势。

“公司、政府机构和医院越来越多地使用机器学习、图像识别和其他AI工具来帮助预测一切,从贷款申请人的可信度到癌症患者的首选治疗方案。这些工具有很大的盲点,尤其是对妇女和少数民族而言。”文章说。

人工智能系统中的偏差可能导致意想不到的后果

例如,在招聘和就业中,人工智能经常被用来识别理想职位的候选人。然而,如果不加以控制,人工智能可能会使信息技术和其他领域的多样性问题更加严重,因为信息技术领域严重缺乏妇女和代表性不足的少数民族。

郑重声明:本文版权归原作者所有。转载文章只是为了传播更多的信息。如果作者信息标注有误,请第一时间联系我们修改或删除。谢谢你。


版权说明: 本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。


标签:

最新文章
热评文章
随机文章