政策法规
Group news
江苏宏丰木业天天彩票投注    您的位置: 天天彩票投注  >  政策法规  >  正文

人工智能遭遇的偏见 算法偏见带来的问题

2019年11月09日 文章来源:网络整理 热度:74℃ 作者:刘英

偏见是人工智能面临一个挑战,主要是来自算法偏见,当然偏见并不止这些。与人类不同,算法不能撒谎,那么产生结果的不同必将是数据带来的问题。人工智能算法及系统的测试与验证,如何避免人工智能的偏见呢?

人们都曾看过机器控制了世界而人类被毁灭的电影。好在这些电影是娱乐性的,而且人们都认为这些场景是不会发生的。然而,一个更应该关注的现实问题是:算法偏见。

人工智能遭遇的偏见 算法偏见带来的问题

1算法偏见带来的问题

所谓“算法偏见”是指在在看似没有恶意的程序设计中带着创建者的偏见,或者所采用的数据是带有偏见的。结果当然是带来了各种问题,例如,被曲解的谷歌搜索,合格的候选人被禁止进入医学院,聊天机器人在推特上发布种族主义和性别歧视信息等。

算法偏见造成的最棘手的问题是,从事编程的工程师即使主观上没有种族主义、性别歧视、年龄歧视等倾向,也有可能造成偏见。人工智能(AI,ArTIficialIntelligence)本质上就是为了自学而设计的,有时它的确会出错。当然,人们可以在事后做出调整,但最好的解决办法是一开始就防止它发生。那么,怎样才能让人工智能远离偏见呢?

具有讽刺意味的是人工智能最令人兴奋的可能性之一就是能够搭建一个没有人类偏见的世界。比如当涉及到招聘时,一种算法可以让男性和女性在申请同一份工作时获得平等的待遇,或者在警务工作中防止发生种族偏见。

不管人们是否意识到,人类创造的机器确实反映了人们怎样是看待世界的,因此也会有类似的刻板印象和世界观。由于人工智能越来越深入到生活中,人类必须重视它。

2偏见的分类

人工智能面临的另外一个挑战是,偏见不是以一种形式出现的,而是有各种类型的。这包括交互偏见、潜意识偏见、选择偏见、数据驱动的偏见和确认偏见。

“交互偏见”是指用户由于自己与算法的交互方式而使算法产生的偏见。当机器被设置向周围环境学习时,它们不能决定要保留或者丢弃哪些数据,什么是对的,什么是错的。相反,它们只能使用提供给它们的数据——不论是好的、坏的,还是丑的,并在此基础上做出决策。前面提到的聊天机器人Tay便是这类偏见的一个例子。它是受到一个网络聊天社区的影响而变得偏种族主义了。

“潜意识偏见”是指算法错误地把观念与种族和性别等因素联系起来。例如,当搜索一名医生的图像时,人工智能会把男性医生的图像呈现给一名女性,或者在搜索护士时反过来操作。

“选择偏见”是指用于训练算法的数据被倾向性地用于表示一个群体或者分组,从而使该算法对这些群体有利,而代价是牺牲其他群体。以招聘为例,如果人工智能被训练成只识别男性的简历,那么女性求职者在申请过程中就很难成功。

“数据驱动的偏见”是指用来训练算法的原始数据已经存在偏见了。机器就像孩子一样:他们不会质疑所给出的数据,而只是寻找其中的模式。如果数据在一开始就被曲解,那么其输出的结果也将反映出这一点。

最后一类是“确认偏见”,这类似于数据驱动的偏见,偏向于那些先入为主的信息。它影响人们怎样收集信息,以及人们怎样解读信息。例如,如果自己觉得8月份出生的人比其他时候出生的更富有创造性,那就会偏向于寻找强化这种想法的数据。

当我们了解到这么多偏见的例子渗入到人工智能系统时,似乎会引起我们的担忧。但重要的是要认清事实,记住这个世界本身就是有偏见的,因此,在某些情况下,人们对从人工智能中得到的结果并不奇怪。然而,并不应该如此,人们需要一个对人工智能算法和系统进行测试和验证的过程,以便在开发期间和部署之前及早发现偏见。

3人工智能算法及系统的测试与验证

与人类不同,算法不能撒谎,因此,如果结果是有偏见的,那一定有原因:和它得到的数据有关。人类可以撒谎去解释不雇佣某人的原因,但人工智能不能。而采用算法,就有可能知道什么时候会出现偏见,并对其进行调整,以便将来能克服这些问题。

人工智能会学习,也会犯错。通常情况下,只有在实际环境中使用算法后才能发现任何内在的偏见,因为这些偏见在实践中被放大了。不应把算法看成是一种威胁,而是解决任何偏见问题的好机会,并能在必要的时候加以纠正。

上一篇:报告表明2026年智慧城市物联网达620亿美元


下一篇:看衰区块链 区块链价值被哄抬

友情链接
Links
博狗备用 手机网投联盟 辽宁快乐12 网络赌博游戏 彩宝彩票注册 大赢家足球比分 浙江快乐12 金牌手机网投网址多少 kk彩票开户 金牌手机网投网址多少