美国圣地亚哥大学沃伦杰出法学教授、就业与劳动政策中心主任、知识产权法和市场研究中心创始成员奥利·洛贝尔所著的《平等机器：数字技术创造美好未来》一书回应了一个广受关注的问题，那就是在一个不可避免将越来越多地充斥着人工智能的世界，有可能会延续并加剧现有的不平等现象。

书作者通过分析指出，在识别和纠正根深蒂固的偏见方面，人工智能本质上优于人类思维，让我们有机会深入洞察偏见的运作，为纠正性别偏见、种族偏见到经济差距等不平等现象提供不管了工程变革的机会。

通常而言，包括互联网大厂的分析专家在内，人们倾向于探讨人工智能将如何带来算法偏见和歧视的风险。而奥利·洛贝尔以女性的细腻以及优美文笔，展现了如何通过技术变革来破解长期存在的道德、政治、社会偏见的可能性，很好地平衡了观点市场。

书作者当然意识到人工智能——无论是美国的，还是其他国家和地区的人工智能，目前应用中确实延续着人类认知中的性别歧视等歧视观念，但指出，数字线索有助于更好地发现这些歧视特别是隐藏在认知架构中的歧视，还能通过数字设计使得其改善。

举例来说，书作者谈到了，如何通过算法来分析普遍存在于口语和书面语的偏见、偏见关联。而计算机科学家通过特定的软件将算法配对，致力于调整由人类语言收集而来的数据包中的性别歧视、种族歧视，进行必要的修正。斯坦福大学的研究人员甚至还开发出系统，可以自动化地识别潜藏的歧视，提出偏见警告。

相较而言，如果通过人类专家、项目组来做类似的工作，可能更加困难，而且被测试对象也可能坚决不承认自己存在的刻板印象、其他偏见。

美国司法部门采用过一款风险评估软件，用算法来核定在押囚犯的保释、保释金额、量刑、提前出狱等决策。人们特别担心算法对于有色人种的偏见。事实证明，这款软件的最初版本确实存在偏见，对于黑人被告标记为未来罪犯的频率是白人被告的两倍，而且经常错误地将白人惯犯被告错误地标记为“低风险”。虽然如此，但2018年有关学术机构进行的一项实验中，美国在线用户（不具备刑事司法专业知识背景，没有前科，具备入选陪审员的资格）对真实被告是否未来涉及犯罪的可能性进行评估，结果显示，准确率却低于前述风险评估系统。

对照来看，通过修改相关算法，可以使得前述软件的偏见指数进一步降低，而准确率进一步提高，但很明确的一点是，要大幅改善普通美国公民的种族观念却是相对来说困难得多的事情。

如书作者所说，算法的引入，可以使得检察官以一种超然的眼光来看待案件：算法中，种族、身份、身体描述被隐匿，警察姓名、证人姓名以及其他可能提供种族线索的地理信号也被屏蔽。这正是2019年，旧金山地区检察官与斯坦福计算政策实验室合作的软件。

再来看求职、招聘、录用、付款、评估、晋升、解雇等环节，如果都引入可以消除偏见的软件，又会怎样？事实上，欧洲和美国的心理学家、社会学家已经多次进行过实验，比如修改申请者的姓名，使之听上去像是一个白人或者中产阶级居民，或者是一个男人的名字，就可以更容易获得工作，哪怕履历、简历中的其他信息不作任何修订。这充分地证明了在人类认知中，才存在真正意义上的黑箱，也就是无法大幅消除的种族、性别、社会等级偏见。而美国劳工部近年来对某数据挖掘公司提起的诉讼则显示，虽然该公司收到的实习职位申请书中，有73%来自亚裔，但被聘用的人当中，只有19%的亚裔。

事实上，近年来，包括那些巨资投入到人工智能、算法等新技术研发的互联网巨头公司，如Facebook、亚马逊等，在招聘中也延续着显著的偏见：既有种族、性别的，还有年龄偏见。互联网企业拒斥40岁以上的申请者，似乎已经不是秘密。而在公众和政府压力下，包括互联网巨头公司在内，美国很多行业的企业开始采用算法和聊天机器人来评估候选人、筛选和跟踪简历，虽然这不免延续着一定程度的偏见歧视，但相较于过去，情况得以有所改善。

具体来说职场上的性别偏见、性别歧视。如书作者指出的那样，在美国等很多经济体，性别不平等污染了所有行业，从低薪工人到精英大学毕业生都是如此——随着时间的推移，随着职级的提升而使得这种不平等变得更加悬殊。有人认为，这主要是因为女性要生育，一定程度上降低了所在企业的生产力产出，但得到惩罚的其实也包括那些并未婚育的女性，以及早已生育完成的女性。美国企业界很多公司为了抵制这方面的改革，拒绝在公司范围内共享薪资信息。

《平等机器：数字技术创造美好未来》书作者指出，技术正在改变工资市场上信息交换、理解和使用的方式。首先，人们可以更清楚地了解岗位薪酬的一般水平。其次，算法、机器人的使用，如果保留性别偏见的设定，相较于人为保留和隐匿的偏见，更容易被看出端倪，并被纠正。第三，新技术、新软件可以使得雇主哪怕是满足社会责任要求，也可以更好地开展内部薪酬歧视的检测。第四，新技术、新软件将帮助扭转一些不平等环境下的职业谈判，识别显著不公。

所评图书：

书名：《平等机器：数字技术创造美好未来》

作者：（美）奥利·洛贝尔

译者：苏苗罕、王梦菲

出版社：上海人民出版社

出版日期：2024年7月

（供稿：林晨  一审：戴佳运  二审：陈麟  终审：张维特）