研究:AI不仅学习人类的外在言行,还学到了潜意识中的种族与性别歧视
2017-04-17 16:08:05 | 来源:ithome | 投稿:莹莹 | 编辑:dations

原标题:研究:AI不仅学习人类的外在言行,还学到了潜意识中的种族与性别歧视

科学家认为Google的AI系统AlphaGo已示範机器能够在短时间内学习人类花了好几年才学会的技能,而且还可能超越人类,但研究也显示,从人类语料库中学习的AI也会学到人类潜意识中的各种歧视。(示意图,与新闻事件无关)

图片来源:

Google

科学期刊《Science》上周出版了一篇由美国普林斯顿大学(Princeton University)资讯技术政策中心与英国巴斯大学(University of Bath)计算机科学系的研究人员所共同发表的报告,指出自人类语言中进行深入学习的人工智慧(AI)系统同样也会染上人类的种族与性别歧视。

科学家们指出,Google的AI技术AlphaGo已经对外示範机器能够在短时间内学习人类花了好几年才学会的技能,而且还可能超越人类,然而,有不少研究也显示,从人们所建立的语料库中学习的AI,也会学到人类潜意识中的各种歧视,包括种族或性别歧视等。

在人类的世界里有一项测试称为内隐联结测验(Implicit Association Test,IAT),它是在测试人们于潜意识中对于不同事物的感受或喜好,可能是花或树木等物件,或是种族、性别、年龄、体形、肤色及国家等,科学家们则替AI系统建立一个字辞嵌入联结测验(Word-Embedding Association Test,WEAT),这是类似IAT的统计测试,以判断AI系统的倾向与态度。

此一AI系统先从涵盖网路文字的庞大语料库中学习人类的用字与回应,接着科学家们再将该AI系统进行WEAT,不意外的,这个AI系统也学会了人们对各种事物的喜好或偏见。例如当出现花与昆虫时,花与开心的联结就比昆虫与开心的联结来得强烈。

不过,比较令人担心的是AI系统在种族、性别或年龄上的歧视,实验显示,当AI系统看到欧裔美国人及非裔美国人的名字时,看到前者的开心程度高于后者。而在性别的测试上,则显示相较于男性,女性名字与家庭的联结度更甚于职业,女性名字与艺术的联结也更甚于数学或科学。

IAT作者之一的社会心理学家Anthony? Greenwald也对该报告作出了评论,他认为此一AI系统让人们潜藏的态度与刻板印象浮上了檯面,除了展现机器的理解能力之外,却也显示出机器有可能意外成为年龄、种族或性别歧视的工具。

tags:言行   外在   潜意识   种族   歧视

上一篇  下一篇

相关:

美联航火了!美联航强制乘客下机事件 [生活]

美联航火了!美联航强制乘客下机事件是合法合规还是种族歧视美联航火了!美联航强制乘客下机事件是合法合规还是种族歧视?围观过视频的不少网友会觉得了把亚裔乘客拖下飞机的事件过程恶心,为了自己员工让座位,强行

美联航火了!种族歧视亚裔乘客遭强行拖拽下机引哗然 [生活]

美联航火了!种族歧视亚裔乘客遭强行拖拽下机引哗然美联航乘客遭到强制拖下飞机事件已引起网络热议,大批网友指责美联航执法手段粗暴导致乘客流血受伤毫无人性。3411班机上这起暴力执法事件到底是怎么回事?美联航又

不满特朗普言行,影子掮客再公开大量NSA攻击工具

图片来源: The Shadow Brokers 才在今年1月宣布退隐江湖的影子掮客(The Shadow Brokers)上周六(4/8)却又现身公布了另一批大量攻击工具的解锁密码,宣称是要抗议美国新任总统川普(Donald Trump)的所作所为与当初

菲律宾男子性侵一头母牛 [生活]

菲律宾男子性侵一头母牛,母牛肚子被搞大或生出人畜杂交的怪物。男子性侵母牛令人发指,连畜生都不放过,这也太饥渴了吧!菲律宾男子性侵一头母牛口味很重节操碎一地,与母牛性交是什么感觉?情愿与畜生性交泄欲也不

美官员控谷歌性别歧视 女性赚得少

美国政府调查人员指控,科技巨擘谷歌未给付与男性从事相似工作的女性公平薪资。美联社报道,美国劳工部官员透露了劳工部昨天在旧金山一法院庭审中对谷歌的指控。英国“卫报”报道,劳工部地区主任官员薇柏表示:“我

站长推荐: