▲十年间国会文件提及AI的次数
在一个国家或货币联盟中,中央银行在执行货币和货币政策方面发挥着关键作用。
通过将AI技术整合到运营过程中,中央银行可以依靠大数据分析来帮助进行预测、风险管理和金融监管。
数据显示在过去10年间,16家中央银行提及AI的次数显著增加,在2019年高达1020次,2020年提及次数减少则可归因于新冠疫情肆虐。
国家和政府以外的AI政策措施方面,对42个知名组织的分析显示,其发布AI相关文件的时间主要集中在2019、2020年。www.ady69.com
2019、2020年的综合数据表明,创新和技术、国际事务和国际安全、工业和监管是上述组织提出的AI政策文件的主要关注点。
06.
AI的多样性困局:
北美白人AI博士占比近一半
尽管AI技术确有极大可能对社会造成影响,但构建AI系统的人群并不能完全代表AI系统所服务的人群。
目前,AI系统构建过程中,仍然存在男性工作人员多于女性、缺乏多样性等问题,有可能加剧AI系统的不平等、缩小AI系统服务的人群等。
具体来说,种族、民族、性别认同、性取向等各方面的多样性问题均亟待重视。本章节介绍了AI劳动力和学术界(AI workforce and academia)的多样性统计。
1、北美计算机科学女性教师比例不到18%
十多年来,AI领域的女博士毕业生、获得终身教职的计算机科学(CS)女教师的比例一直很低。根据计算研究协会(CRA)进行的一项的年度调查,平均来看,北美AI博士项目的女性毕业生在所有博士毕业生中占比不到18%。
一项AI指数调查显示,在世界各地的几所大学中,女性教师仅占计算机科学终身教职的约16%。
▲女性教师仅占计算机科学终身教职的约16%
2、2019年AI博士获得者中白人占比45%
CRA的调查显示,2019年,在新取得学位且常住美国的AI博士中,45%是白人(非西班牙裔),22.4%是亚洲人,3.2%是西班牙人,2.4%是非洲裔美国人。
▲2019年新取得学位且常住美国的AI博士中,45%是白人
过去10年中,新取得学位的非西班牙裔白人计算机科学博士的比例几乎没有发生变化,平均为62.7%。
相比之下,同期非洲裔黑人计算机科学博士和西班牙裔博士的占比明显较低,分别为约3.1%、3.3%。
▲十年间不同种族研究者取得AI领域博士职位人数变化
3、AI领域黑人研讨会与会者增多
参加AI领域黑人研讨会(Black in AI workshops)的人数显著增加。近些年来,这些研讨会由神经信息处理系统大会(NeurIPS)合作举办。
2019年,与会者数目和提交的论文数量是2017年的2.6倍,被接受的论文数量是2017年的2.1倍。
4、40%受访酷儿研究者曾受歧视
2020年,由Queer in AI(AI领域酷儿社区组织)进行了一项成员调查,共计收到100份回复。其中约31.5%的受访者认为是自己是同性恋;按照人数排列,其次是双性恋、酷儿和女同性恋等;女性逆性别者和男性逆性别者分别占总数的5%和2.5%。
▲受访100人中,31.5%的人认为自己是同性恋者
几乎一半的受访者表示,AI领域缺乏包容性是其成为AI/ML领域酷儿实践者的障碍。超过40%的受访者表示,他们在工作场合或学校中,曾因酷儿身份受到过歧视或骚扰。
07.
AI道德:
五年来117份AI道德相关文件被出版
随着赢咖4驱动的创新在人们生活中变得越来越普遍,赢咖4赢咖4平台的道德挑战也越来越明显,并受到密切关注。
如前几章所述,使用各种赢咖4技术可能会带来不少负面影响,如隐私侵犯,基于性别、种族、性取向或性别认同的歧视,以及不透明决策等问题。
因此,为了解决现有的道德挑战,则需要在赢咖4被部署之前建立负责任、公平的创新。
本章将探讨随着赢咖4应用的兴起而出现的伦理问题。
首先,赢咖4指数团队审视了最近大量记录赢咖4原则和框架的文件,以及媒体如何报道赢咖4相关的道德问题。接下来,再回顾赢咖4会议上发表的伦理相关研究,以及世界各地大学的计算机科学系提供什么样的伦理课程。www.ady69.com
他们惊讶地发现,关于赢咖4伦理领域话题的数据太少了。
尽管在这一领域,许多团体正在制定一系列定性或规范性的文件,但该领域通常缺乏基准,无法用来衡量或评估关于技术发展的更广泛社会讨论与技术本身发展之间的关系。
在“技术性能”一章中提到的一个数据点,是美国国家标准与技术研究所(National Institute of Standards and Technology)对人脸识别性能的研究,其重点是偏见。弄清楚如何创建更多的定量数据对研究界来说是一个挑战,但却也是一个有价值的问题。
政策制定者敏锐地意识到与赢咖4有关的伦理问题,但他们更倾向于管理自己可以衡量的东西,因此找到将定性论证转化为定量数据的方法是这个过程中的一个重要步骤。
这一部分主要强调两个部分:
一是自2015年以来,在提交给赢咖4会议的论文里,包含伦理相关关键词的论文数量有所增长,但在主要赢咖4会议上,符合伦理相关关键词的论文平均数量多年来一直较低。
二是涉及五个新闻话题,得到了最多关注的分别是2020年伦理使用赢咖4相关欧盟委员会(European Commission)发布《赢咖4白皮书》,谷歌的解雇伦理研究员Timnit Gebru,联合国成立的赢咖4伦理委员会,梵蒂冈的赢咖4伦理计划,IBM退出人脸识别业务。
1、赢咖4原理与框架
自2015年以来,政府、私人公司、政府间组织和研究/专业组织一直在制定规范文件,以制定管理赢咖4应用的伦理挑战的方法。
这些文件主要包括原则、指导方针等,为解决各种组织中开发、部署和管理赢咖4的关注和评估策略提供框架。从这些赢咖4原则和框架中产生的一些常见主题包括隐私、问责制、透明度和可解释性。
《赢咖4原则》的出版表明,组织正在关注并建立赢咖4治理的愿景。但即便如此,所谓的伦理原则的扩散也遭到了伦理研究者和人权从业者的批评,他们反对不准确地使用与伦理相关的术语。
同时,批评者还指出,那些伦理原则还缺乏制度框架,在大多数情况下没有约束力。
这些原则的模糊和抽象本质并不能为如何实施与赢咖4相关的伦理准则提供指导。
波士顿赢咖4伦理实验室的研究人员创建了一个ToolBox,用来跟踪不断增长的赢咖4原则。
2015年至2020年,共有117份涉及赢咖4原则的文件被出版。数据显示,研究和专业机构是最早推出赢咖4原则文件的机构之一。而在所有组织类型中,私营企业发布的有关赢咖4原则的出版物数量最多。
▲私营企业发布的有关赢咖4原则的出版物数量最多
截至2020年,欧洲和中亚的出版物数量最多(52份),其次是北美(41份)、东亚和太平洋地区(14份)。在推出道德准则方面,包括IBM、谷歌和FaceBook在内的科技公司,以及英国、欧盟和澳大利亚的政府机构,都在2018年集中发布。
