首页 >> 徐继宗

代码深处的偏见硅谷人工智能的道德问题郭富城

发布时间:2022-12-09 23:12:11 来源:金佰娱乐网

“代码深处的偏见”:硅谷人工智能的道德问题

随着算法在刑事司法,教育等领域发挥越来越大的作用,技术咨询委员会和学术计划反映了现实世界的不平等

斯坦福宣布成立一个新的人工智能研究所时,该大学表示,“人工智能的设计者必须具有广泛的人性代表性”,并公布了120名教师和技术领导者的合作伙伴关系。

有些人很快注意到,这个“代表性”群体中没有一个人似乎是黑人。这种反应非常迅速,引发了人工智能领域严重缺乏多样性的讨论但是,围绕代表性的问题远远超出了学术界的排斥和偏见。

大型科技公司已经启动了人工智能“道德”委员会,这些委员会不仅缺乏多样性,而且有时包括有利于不符合道德使命的强大人才。尽管有大量证据表明算法,面部识别,机器学习和其他自动化系统复制并放大了偏见和歧视性做法,但有些人认为这是严重关注AI道德问题的系统性失败。

本周,谷歌还宣布了一个人工智能道德的“外部咨询委员会”,其中包括一家无人机公司的首席执行官Dyan Gibbens和一位拥有反移民和跨性别倡导历史的右翼思想库总裁凯尔科尔斯詹姆斯。

对于直接受到刑事司法系统,教育,金融部门,政府监督,交通运输和其他社会领域快速移动且基本上不受监管的人道主义部署而受到伤害的人来说,后果可能是可怕的。

媒体司法中心执行主任马尔基亚·德维奇·西里尔说:“算法决定谁获得住房贷款,谁不参加住房贷款,谁去监狱,谁不参加监狱,谁去了哪所学校。” “人们的生活和人民的自由存在着真正的风险和真正的危险。”

大学和伦理委员会可以在抵制这些趋势方面发挥重要作用。但他们很少与受技术影响的人合作,人工智能联盟中的拉丁语联合创始人兼总裁劳拉蒙托亚说:“真正观察偏见并认识它是一回事,但真正理解它是完全不同的事情。从个人的角度来看,并在你的一生中亲身体验过它。“

不难发现复制权力结构和社会不平等的人工智能伦理团体 - 并且完全排除边缘化群体。

该伙伴关系的AI,通过谷歌,Facebook,亚马逊,IBM和微软推出了一个道德为重点的产业集团,似乎并未有黑色的董事会成员或在其网站上列出的工作人员,并拥有由男性主宰的董事会。一个独立的微软研究小组致力于“人工智能的公平,问责,透明和道德”,也排除了黑人的声音。

制造Tasers的公司Axon 去年推出了AI 道德委员会。虽然它的构成具有种族多样性,但其中包括来自执法部门的一些领导者,该部门在如何以歧视性和致命的方式使用Axon产品方面面临越来越严格的审查。

哈佛大学和麻省理工学院的一项重要的人工智能道德研究计划,其中有一名女性,哈佛伯克曼克莱因中心的五名董事都是白人。

在面临骚动之后,斯坦福人类中心人工智能研究所在其网页上增加了几名黑人成员。一位发言人告诉“卫报”,最初的网站名单不完整,其他名称并非新的合作伙伴。

尽管如此,在领导团队的20人中,只有6人是女性。

人权数据分析小组的首席统计师,算法偏见专家克里斯蒂安·卢姆说,她希望斯坦福大学的失误让该机构更深入地思考代表性。

“这种疏忽使我担心他们对其他重要价值观和目标的明确承诺 - 比如认真创建人工智能以满足'人类的集体需求' - 也是空洞的公关旋转,这只不过是一个虚荣的项目对于那些与之相关的人,“她在一封电子邮件中写道。

当新的人工智能道德项目从一开始就失败多元化时,在招聘不同的声音时,如果没有令人难以置信的人就很难挑战,技术多元化倡导者和Vaya Consulting的创始人Nicole Sanchez说。

“他们只是失去了信誉,”桑切斯谈到她作为学生参加的斯坦福大学。“如果你是现在被召唤的少数几个黑人之一,你会有什么感受?”

Rediet Abebe是一位计算机科学研究员,也是Black in AI的联合创始人。他说,令人鼓舞的是,该领域的许多人都在谈论斯坦福大学:“很高兴看到很多人抓住了这个,称之为并且正在努力工作与斯坦福大学的人们一起修复它。我不知道10年前,甚至两年前的话语都是一样的,“她说。

HAI发言人在一封电子邮件中告诉“卫报”,“我们承认将取得进展”,并且斯坦福“致力于为这次谈话带来新的声音和观点”。该研究所将招聘20名教职员工和招聘研究员。

然而,谷歌的策略似乎是忽略了人工智能组织的反对。该公司没有回应“卫报”多次发表评论的请求。

谷歌与右翼传统基金会主席詹姆斯的人工智能合作伙伴特别令一些批评者感到不安,因为她反堕胎,已经与 LGBT保护作斗争,并且已经提升了特朗普提出的边界墙。

华盛顿大学数据生态学实验室的博士生Os Keyes表示,詹姆斯的任命是一个“透明的计算”,与道德无关,旨在安抚华盛顿特区的保守派,以避免监管。

“这是一个讨厌我,讨厌我的社区,并试图让我们受到伤害的人,”凯斯说,他是跨性别的,并补充道,当他们看到这个消息时,他们感到“内心恐怖”。

凯斯补充说,进一步证明像这样的企业道德倡议是徒劳的。“他们不能信任自我监管。他们不应该被允许自我调节。“

桑切斯表示,与詹姆斯合作的决定“甚至不是狗哨 - 这是一个扩音器”,并补充说没有“中性”人工智能这样的事情:“你可以在没有观点的情况下做人工智能或技术道德是愚蠢的......代码中的偏见很深。偏见中嵌入了谁的价值?“

传统基金会没有回应评论请求。

总部位于芝加哥的社区组织者Mecole Jordan是Axon道德组织的一员,她表示,她很高兴有机会参与其中,因为黑人社区在被采用后经常被迫对抗破坏性技术。

她说:“这些事情都是在真空中完成并推出,我们必须忍受它,并对它做出反应,而不是成为谈话的一部分。”

a href="https://dise.fh21.com.cn/hospital_231193/yyjj/" target="_blank">沈阳心理科治疗医院

a href="https://m.health.china.com/bjwcyy/" target="_blank">北京看胃肠医院排名

a href="https://dise.fh21.com.cn/hospital_230123/yydt/" target="_blank">萧山有哪些医院专业治疗抑郁症

a href="https://m.health.china.com/qznkyy/" target="_blank">泉州治疗男科医院

友情链接