智能算法竟把奥巴马识别成白人?

2020-08-28 11:00   来源: 互联网    阅读次数:65

        在人工智能越来越流行的时代,越来越多的地铁、购物中心或其他公共场所出现了面部识别工具。

        

        从道理上说,这种先进的技术本应使人们的生活更加方便和自由。然而,在某种程度上,这些技术非但没有造福人类,反而消除了人类社会中最丑陋的伤痕。

        

        例如,一种新的人工智能马赛克算法--脉冲,最近提出了一个"种族歧视"禁忌,当美国前总统巴拉克·奥巴马(Barack Obama)撞上马赛克时,他认为他是白人。

        

        在美国日益壮大的BLM运动背景下,愤怒的公众开始在互联网上对人工智能技术发起新一轮的批评。

        

        网友们愤怒地骂了一声,都集中在一位名叫杨丽坤的人工智能神身上。

        

        上帝躺下是因为他是FB的首席人工智能科学家,并获得了图灵奖。他无法忍受看到人工智能技术如此被公众误解和贬损,所以他在Twitter上"站起来"捍卫脉冲算法。

        

        杨丽坤解释说,这通常是由数据偏差造成的,脉冲计算的人脸往往是白色的,因为神经网络是在FlickFaceHQ上训练的,上面的大多数照片都是白色的。

        

        虽然杨丽坤的解释非常冷静和客观,但愤怒的网民仍然把种族歧视的帽子戴在他的头上,对他进行了广泛的辱骂。

        

        最后,这位被网民"吓到"的人工智能神不得不宣布退出Twitter。

        

        然而,尽管杨丽坤选择主动避免退却,但关于"人工智能歧视"的争论仍不会结束。事实上,人工智能识别技术的失败只是众多类似事件中的一例。

        

        早在2015年,谷歌就在其网站上添加了一个功能,通过机器识别照片内容,并自动分类。

        

        谷歌推出这项功能是为了方便用户管理和搜索。然而,在实践中,头脑不成熟的人工智能"喘口气",将一名黑人程序员和他的女友的照片标记为"大猩猩"(Gorilla)。

        

        突然之间,黑人程序员的心脏里出现了一个MMP。

        

        而在这种情况下,人们不禁要问:为什么现在连人工智能都感染了人类的坏习惯"歧视"?

        

        事实上,人工智能是一种工具,它本身没有偏好或好恶,人工智能的"歧视"和"偏见"往往是由其背后的算法中训练出来的数据造成的。

        

        目前,人工智能背后需要大量的数据训练。虽然人工智能本身并不"歧视"或"偏见",但由于个人因素,数据背后的研究者在选择培训数据时会出现偏差。

        

        一般说来,有许多工程师参与了人工智能算法的开发,这些算法通常来自高收入国家的白人家庭,他们的想法、价值观和阶级意识不可避免地导致他们创造的人工智能中类似的颜色。

        

        如果用于训练的数据中白人多于黑人,很明显,白人的识别率会更高。

        

        然而,虽然人工智能在被创造的过程中不可避免地会受到人类研究人员的影响,但人类已经学会了使用人工智能的方法来消除人工智能可能带来的偏见。

        

        例如,旧金山推出了一种"消除偏见工具",该工具利用人工智能技术自动编辑警察报告中的可疑种族等信息。其目的是在判定某人被控犯罪时保护检察官不受种族偏见的影响。

        

        根据旧金山地区检察官办公室的说法,该工具不仅删除了种族描述,而且还删除了关于眼睛颜色和头发颜色的信息,这些信息可能有意或无意地暗示检察官,甚至连地点和社区名称也将被删除。为了避免歧视的发生。

        

        由此可见,人工智能的"偏见"并非不可挽回的弊端,通过对算法的改进,以及对完善研究和开发的初步测试和验证,人工智能可以避免在后续研究开发过程中无意识地产生"偏见"。

        

        人工智能技术,如消除偏见的工具,进一步表明人工智能的发展并没有真正加深人类社会固有的歧视,相反,它可能为纠正几千年来人类的慢性疾病提供一个新的解决办法。

        

        这是人工智能技术发展的初衷之一--让更多的人过上平等和有尊严的生活。

责任编辑:fafa
分享到:
0
【慎重声明】凡本站未注明来源为"中关村热线"的所有作品,均转载、编译或摘编自其它媒体,转载、编译或摘编的目的在于传递更多信息,并不代表本站赞同其观点和对其真实性负责。如因作品内容、版权和其他问题需要同本网联系的,请在30日内进行!
关于我们| 免责声明| 投诉建议| 网站地图| sitemap|