人工智能在人力资源中应用的时候已经到了

DSGVO / GDPR

越来越多的宪法条款、法律、条例和规定,制约着公司日常活动的开展。在欧洲,一项相对较新的立法(于2016年通过)是欧盟的《通用数据保护条例》,简称GDPR。这项覆盖整个欧洲法规的目的是规范私人和公共行为者对个人数据的收集、处理、存储和删除。在2018年5月到期的两年过渡期内,公司有机会采取必要的措施,在其日常工作实践中遵守新法规。然而,绝大多数的公司都未能积极地采取这些措施,即便是在2022年GDPR也没有成为所有合规部门的重中之重。除了所有客户数据处理领域外,同样受到强烈影响的还有人力资源部门。人力资源部门现在经常在基于人工智能(AI)的工具帮助下处理(潜在)员工的数据。正如我们已经解释过的那样,人工智能在劳动力市场相关流程中的潜力并非无限,而且已经在计划对其使用作出进一步规定,例如在欧盟。

如果GDPR本身还不够复杂,那么当涉及到人工智能的使用时,它就会给企业带来额外的陷阱和风险。在不遵守规定的情况下,企业会受到重罚和巨额罚款的威胁[1]。对于所有尚未遵守人力资源领域法规的公司(正如已经提到的,有许多这样的公司),现在是时候立即解决这个问题,如果有必要,采取适当的措施,特别是通过采购合规的IT系统。

不仅是知识的缺乏,也是技术的缺乏

法规出台两年后,法律相关的案例仍然很少,因此在法律实践中对GDPR的解释几乎没有可靠的参考[2]。这种关于收集和进一步处理个人数据的信息的混乱状态导致了公司之间的许多不确定性。在大量的案例中,特别是在没有与信息安全官员和IT专家进行充分沟通,无知的情况比比皆是。由于数据保护机构之间合作不力,各国对规则的解释和执行存在差异,以及在某些情况下,迄今为止与大型数字公司的交易存在问题,GDPR未来可能会被收紧,这进一步加剧了不确定性[3]。 此外,GDPR只是这种法律补救措施的欧洲例子。在国际(劳动)市场上必须遵循的类似法规很快就会存在于世界大部分地区,另一个已经存在的流行例子是美国加州的CCPA(加州消费者隐私法)。

还有一个关键原因是,许多公司目前无法经受住GDPR合规性测试。除了无知和误导之外,欧洲市场上大约80%的人力资源和劳动力市场管理软件解决方案根本不符合该法规中规定的标准。此外,许多公司使用的工具并不源自GDPR覆盖领域,因此无论如何都很少符合这里的规定。这种不符合规定的情况往往会影响到公司人力资源部门的整个设置,从招聘过程到目前被到处炒作的人员分析过程。在数据驱动的、基于人工智能的系统的帮助下,关于哪些申请人进入下一轮招聘过程,以及哪些现有员工被保留在某一职位上–或晋升或解雇–的基于绩效的决定,都会很快成为法律上(和道德上)的关键。

潜在的歧视只是问题的一部分

如前所述,劳动法实践中关于不遵守GDPR的后果的经验可以用一只手就算清。然而,有一点已经非常清楚:任何人如果不能解释他们公司的软件解决方案如何产生结果,并将他们的人力资源决策建立在上述结果的基础上,就会有很大的问题——特别是如果涉及到人工智能。因为在这种情况下,除了明显缺乏透明度外,也没有技术或实际选择来干预这个过程。例如,在德国,这已经违背了国家人力资源技术伦理咨询委员会的指导方针[4]。2018年,一家跨国科技公司提供了一个著名的例子。他们基于人工智能的招聘工具在预选求职者时,在算法中显示出对白人、中年男性求职者的偏爱,甚至连自己的IT部门都无法纠正。除了这个与劳动力市场相关的IT流程中的 “典型 “歧视例子外,还可以想象,如果自动化程序所基于的数据质量不够多样化,也可能出现其他方面的偏见,例如对特定类型的学习、语言或类似的偏见。严格来说,这种歧视性过滤器的一个变种已经在使用,即当它涉及到所谓的 “平等机会就业”。任何公司如果在其人力资源工作流程中优先考虑多样性和包容性方面(例如以配额的形式),实际上就是对任何不能勾选这些方框的人进行 “歧视”。此外,收集和记录有关申请者和雇员的这种敏感信息本身也不是没有争议的。它可能会使人被识别,从而反过来侵犯他们的个人权利。[2]

然而,一般来说,当涉及到人力资源决策的自动化工具时,潜在的歧视和个性筛选的风险只是问题的一部分。根据法律专家的说法,在可能违反GDPR的情况下,该工具是否在法律上被允许也是相关的(根据第6条(1b)款和Art. 88 GDPR的定义)。所谓的 “预测有效性”,即一个算法是否描述了可理解和可科学验证的关系,在这里起着决定性的作用。[2] 在人力资源方面违反这一规则的不成功(且非常有问题)的例子包括语音分析软件解决方案,其性能在最初的热情期待之后,现在因其 “科学上可疑、可能是非法和危险的 “技术而受到负面的影响。诸如求职面试期间的自动面部分析可以提供对候选人智力的重要见解之类的承诺,听起来可能非常诱人和令人兴奋。然而,它们经不起GDPR的适用性条件的考验,作用并不明显。[5]

现在已经是时候了

企业的底线是:要知道,只要有一场大的诉讼一搅局,所有的企业(大、中、小)都必须立即采取行动,以便仍能逃脱因违反欧洲处理个人数据的规定而受到的严厉惩罚。然而,等到那个时候,不仅会让您显得无知和没有准备。要想在人力资源部门的数据驱动流程中突然实施合规的手段,简直是不可能的。因为,还是那句话,现在过渡期已经在2018年到期,已经过了很长时间了。如前所述,规范这一领域的标准数量也没有减少,而且已经在计划制定与人工智能有关的更多、更深远的法规,例如当前在欧盟

今天,任何在人力资源部门中借助机器训练的算法以任何形式处理个人数据的人,如果对这些自动化处理的合法性没有绝对的把握,都应该立即采取行动。否则,很快就会出现严重和昂贵的后果。在欧洲,GDPR是关于这种强烈建议的修订和更新内部合规知识以及受其影响的人力资源实践的第一道关口。在审查了所有这些方面之后,由于欧洲市场上不符合GDPR的人力资源软件的比例很高,因此也有可能必须寻求新的IT解决方案。

在JANZZ.technology,我们为所有人力资源和劳动力市场管理流程提供解决方案,这些解决方案不仅符合GDPR和CCPA的要求,而且是无偏见、多语言和模块化的。这一切都归功于我们全球独一无二的方法,它将我们极其强大的解决方案和系统建立在基于本体的语义匹配基础上。其核心是JANZZon!知识图谱,它是由我们在语言、教育、文化和经验方面具有不同年龄和不同背景的专家,利用ISCO-08、ESCO、O*Net和其他160多个国际分类和分类法,每天进行搭建的。我们还特别关注对数据和来源的精心选择,这样JANZZ能确保用于维护JANZZon!的信息始终保持最佳的平衡性、代表性和多样性。例如,在注释和机器学习领域,不仅使用英语文件,这是JANZZ与目前使用的大多数人力资源应用程序相比的另一个独到之处。我们本体的多语言性质也允许,例如,语言和其相关地理区域之间的性别或文化差异被规范化,从而实现无偏见的匹配结果。因此,我们的分析器产品JANZZparser!以及所有其他工具的结果是基于证据的、可解释的,而且——与市场上许多其他解决方案相比——不仅完全符合DSGVO的要求,并由于持续的培训、高数据质量的基础以及在JANZZon!中的支持而具有可扩展性。使用我们的产品可以让您对公司的每一个人力资源问题做出基于事实的最好决定成为可能,并排除所谓的 “假阴性 “或 “假阳性 “的决定——简而言之,使用JANZZ的产品符合企业的最佳利益。

如果你想了解更多关于我们的服务,请通过 info@janzz.technology 联系表格与我们联系,或访问我们的产品页面,了解我们所有解决方案的概况。

 

[1] Datenschutz.org. 2021. EU-Datenschutzverordnung (DSGVO): Verbindliches Datenschutzrecht für alle! URL: https://www.datenschutz.org/eu-datenschutzgrundverordnung/  
[2] Diercks, Nina. 2021. Der Einsatz von KI in Recruiting-Prozessen – Diskriminierungspotential automatisierter Entscheidungsfindung im HR-Bereich. URL: https://stiftungdatenschutz.org/veranstaltungen/unsere-veranstaltungen-detailansicht/datentag-datenschutz-und-kuenstliche-intelligenz-239
[3] IT-Daily. 2020. Drei Herausforderungen verschärfen die DSGVO-Problematik. URL: https://www.it-daily.net/it-sicherheit/datenschutz-grc/24350-drei-herausforderungen-verschaerfen-die-dsgvo-problematik
[4] Ethikbeirat HR Tech. 2020. Richtlinien für den verantwortungsvollen Einsatz von Künstlicher Intelligenz und weiteren digitalen Technologien in der Personalarbeit. URL: https://www.ethikbeirat-hrtech.de/wp-content/uploads/2020/03/Richtlinien_Download_deutsch_final.pdf
[5] White, Sarah. 2021. AI in hiring might do more harm than good. URL: https://www.cio.com/article/189212/ai-in-hiring-might-do-more-harm-than-good.html