据 哥伦比亚广播公司（CBS）新闻 报道 纽约市正试图控制使用人工智能算法来筛选求职者。它是美国首批尝试规范这家种日益普遍且不透明的招聘做法的城市之一。

市议会正在考虑一项法案，要求潜在的雇主通知求职者有关这些工具的使用情况，这些工具被称为“自动决策系统”。公司还必须完成年度审计，以确保该技术不会导致偏见。

此举是在人工智能在招聘中的使用急剧增加，越来越多地取代人类筛选器的情况下发生的。包括在达美航空（Delta）、唐恩都乐（Dunkin）、宜家（Ikea）和联合利华（Unilever）在内的财富500强企业已经转向人工智能来帮助评估求职者。这些工具的范围很广，从一个简单的文本阅读器，筛选申请书中的特定单词和短语，到评估潜在申请人的视频以判断其是否适合工作的系统。

纽约大学负责任人工智能中心的创始董事朱莉娅·斯托亚诺维奇（Julia Stoyanovich）在最近的一次网络研讨会上说：“我们有所有的理由相信，每家大公司都会在招聘中使用一些算法。”

机器偏见

在纽约人遭受两位数百分比失业率的时候，立法者对数字招聘的勇敢新世界感到担忧。研究表明，人工智能系统带来的问题可能比解决的问题更多。使用人工智能的面部识别工具在识别黑人的面孔、确定人们的性别以及将国会议员与工作照数据库错误匹配等方面都表现出了问题。

在人工智能偏见的最臭名昭著的例子中，亚马逊（Amazon）内部开发的一个招聘工具不得不被取消，因为它歧视女性。该工具是利用提交给该公司的10年简历历史开发的，而该公司的员工队伍偏向男性。因此，该软件有效地“教导”自己，男性应聘者更受欢迎，并将包含“女性”一词或两所全女性大学名称的申请降级。虽然该工具从未被使用过，但它展示了用机器智能代替人类判断的潜在问题。

该法案的发起人市议会成员劳里-康博（Laurie Cumbo）在上周的立法听证会上说：“作为世界上一些最大公司所在地城市的立法者，我们必须进行干预，防止产生不公正的招聘行为。”


不够强硬

一些民权组织表示，纽约的拟议法案还不够深入。包括“当今人工智能”（AI Now）研究所、纽约公民自由联盟（New York Civil Liberties Union）和纽约社区促进变革组织（New York Communities for Change）在内的十几个团体上周发表了一封信，推动法律涵盖更多类型的自动化工具和招聘过程中的更多步骤。他们希望这项措施能加入更重的惩罚措施，让人们能够在因为偏向性算法而被淘汰的情况下提起诉讼。这将与现有的就业法保持一致，该法允许申请人因种族或性别歧视而提起诉讼。

监视技术监督项目的执行董事阿尔伯特·福克斯·卡恩（Albert Fox Cahn）告诉市议会：“如果我们按照今天的措辞通过（法案），它将成为一些最恶劣形式的算法歧视的橡皮图章。”

他说：“我们需要更严厉的惩罚措施。就像我们对每一种其他形式的就业歧视一样，我们需要这种规范私营部门的执法。”

该法案的发起人科莫（Cumbo）的发言人艾丽西亚·梅赛德斯（Alicia Mercedes）表示，该法案仍处于早期阶段，很可能会根据反馈意见进行修改。

梅赛德斯说：“我们致力于看到这个立法出来的东西能够有效，所以我们当然会接受那些每天都在处理这些问题的人的任何意见。”

时间更短，效果更好？

对于招聘专业人士来说，人工智能的主要吸引力在于它能够节省时间。但技术专家也吹捧了自动化程序的潜力，如果使用得当，可以消除人类的偏见，例如有充分证据表明，招聘经理倾向于忽视非洲裔美国人的申请人，或者偏爱那些与招聘经理特征相似的应聘者。

人工智能招聘平台“聘分”（HiredScore）的首席执行官雅典娜·卡普（Athena Karp）说：“当只有人类审查简历时，不幸的是，人类无法解除导致无意识偏见的东西，如果某人在同一母校上学或在同一社区长大。”

卡普表示，她支持纽约的法案。她在听证会上说：“如果新技术被用于招聘，技术的创造者和应聘者可以也应该知道它们是如何被使用的。”

在美国，目前只有伊利诺伊州有这种立法，该州的《生物识别隐私法》要求雇主告诉应聘者是否使用人工智能来评估他们，并允许应聘者选择退出。在联邦层面，国会已经提出了一项研究算法偏见的法案。在纽约，大多数求职者都不知道自己正在被软件筛选，即使是那些本身就是计算机科学家的人。

纽约大学数据科学和人工智能专业的硕士应聘者劳伦·达林佐（Lauren D'Arinzo）说：“在我的研究生和本科生生涯中，我相当多的工作和实习被拒绝。未来的雇主可能会根据算法的输出来无视我的申请，这让我感到不安。”

她补充道：“最让我担心的是，如果不是我被招进一个明确从事这一领域研究的项目，我很可能甚至不知道这类工具经常被财富500强企业使用。”

（编译 文婉秋）

-


标签 就业歧视