JANZZ.technology提供可解释人工智能（Explainable AI）

在过去的十年里，由于大量生成的数据和不断增强的计算能力，机器学习（Machine Learning），特别是深度学习系统，取得了前所未有的突破。然而，盲目追求机器学习的成功，造成了我们过度容忍人工智能（AI）应用开发的过程。如今，越来越多的自治系统（autonomous system）导致机器缺乏解释其行为的能力。

由于大多数人工智能技术都是由私营公司开发，这些公司为了自身利益会确保他们的数据处理是保密的。此外，许多公司在人工智能技术中使用复杂的神经网络，他们甚至无法解释某些结果是如何得出的。

当然，如果这样的系统错误地预测了某些消费行为，那么后果可能不大。然而，如果这样的误判发生在自主车辆、医疗诊断、政策决策或者我们的工作匹配中，那又会怎样呢？相信在这样的情况下，我们很难盲目地信赖一个人工智能系统的决策过程。

今年年初，经济合作与发展组织（经合组织）提出了人工智能原则，旨在促进创新和可信赖的人工智能。在经合组织提出的五大原则中，其中一个原则更是明确指出，“围绕人工智能系统应该有透明度和负责任的披露，以确保人们了解基于人工智能的结果，并能够挑战他们。”[1]

可解释人工智能（Explainable AI）作为解决人工智能系统中“黑箱”决策问题的一种手段，最近在机器学习领域越来越多的被提及。如上所述，目前用于机器学习的大多数算法在如何和为什么做出决策方面都无法被人类理解。因此，很难诊断这些决策是否存在错误和偏见。这其中尤其包括深度学习神经网络方法的大多数流行算法。[2]

因此，包括经合组织在内的许多监管方都不断敦促企业增加可解释人工智能。在欧洲生效的《通用数据保护条例》规定，欧盟人民有权对任何算法决定进行“人工审查”。在美国，保险法促使公司对他们的决定做出详细说明，比如为什么拒绝为某一人群投保，或者为什么只向少数人群收取更高的保费。[3]

然而，当前的可解释人工智能也存在两个主要亟待解决的问题。首先，正确界定可解释人工智能的概念是一个挑战。用户应该意识到他们可以获取的关于人工智能应用知识的局限性。因为，如果企业别无选择，必须提供详细的解释，知识产权作为一个独特的卖点（Unique Selling Proposition）将会消失。[4]

第二个问题是绩效性和可解释性之间的权衡。我们是否需要对某些机器任务进行标准化，并对某些行业进行监管，迫使他们寻求透明的人工智能解决方案？即使这意味着扼杀了这些行业的开发潜力？

在JANZZ.technology，我们致力于向用户解释我们匹配候选人和职位的过程。我们独特的匹配软件抛开诸如性别、年龄或国籍等次要参数，使用真正重要的数据来寻找完美的候选人，比如技能、教育/培训、专业、经验等。

我们独特的匹配系统不单单给出一个最终匹配值，而是分解了所有评判标准，如功能、技能、语言和入职时间等。让用户对匹配结果有更充分的理解，并为员工再培训和技能提升提供参照。您想知道更多关于JANZZ.technology如何应用可解释人工智能解决方案的吗？请立即写信至 sales@janzz.technology

[1] OECD. 2019. OECD Principles on AI. URL :https://www.oecd.org/going-digital/ai/principles/ [2019.9.17].

[2] Ron Schmelzer. 2019. Understanding Explainable AI. URL: https://www.forbes.com/sites/cognitiveworld/2019/07/23/understanding-explainable-ai/#6b4882fa7c9e[2019.9.17].

[3] Jeremy Kahn. 2018. Artificial Intelligence Has Some Explaining to Do. URL: https://www.bloomberg.com/news/articles/2018-12-12/artificial-intelligence-has-some-explaining-to-do[2019.9.17].

[4] Rudina Seseri. 2018. The problem with ‘explainable AI’. URL: https://techcrunch.com/2018/06/14/the-problem-with-explainable-ai/[2019.9.17].

第二届中国国际智能产业博览会（智博会）于2019年8月26日至29日在中国重庆成功举办。中华人民共和国主席习近平向智博会发来了贺信。中国最具新闻价值的商界领袖齐聚重庆，分享了他们对智能技术的看法，并为智能产业提出了建议。

这其中包括了阿里巴巴集团创始人马云、腾讯董事长兼CEO马化腾、百度联合创始人、董事长兼CEO李彦宏、联想集团董事长兼CEO杨元庆等。去年，重庆被宣布成为中国国际智能产业博览会这一高标准活动的永久会址。然而，这座城市凭借什么成为中国智能和智能产业的先锋呢？

中国的战略性发展

20世纪末21世纪初期，中国共产党中央委员会，国务院贯彻邓小平关于中国现代化建设“两个大局”思想做出了实施西部发开发的战略。作为西部唯一的直辖市，重庆迎来了历史性发展机遇，加快了直辖市建设的步伐。

2013年，中国政府将“一带一路倡议”作为一项全球战略，重庆再次迎来了发展的黄金机遇。处在“丝绸之路经济带”和“长江经济带”的交汇处，“一带一路”战略加速了重庆向东向西的开放。在踏上发展快车实现了经济高速增长后，重庆经济遭遇到下行压力。为了新一轮的增长，2018年以来，重庆实施了以大数据智能化为引领的创新驱动发展战略行动计划。

完整的产业链

重庆做出这一选择显然是经过深思熟虑的。重庆在中国信息化与工业化融合中发挥了重要作用。它是中国西部老工业基地之一，也是重要的工业制造基地。此外，重庆的工业门类齐全，除了传统的制造业以外，还包括电子信息和通信行业。

它是中国汽车制造大城之一，是长安福特，力帆汽车等大型汽车制造商的所在地，全球每三台笔记本电脑就一台产自重庆。良好的工业基础，为未来的智能制造或智能创造，包括人工智能打下了一个好的基础。

成熟的数字平台

经过几年的努力，重庆市已经建成了全市统一的政务信息资源共享交换平台。（国家-市-区）三级政府信息资源共享系统将国家平台和38个区平台连接在一起。同时，重庆率先完成直辖市数据共享，实现部门信息孤岛的跨越，加快了数据聚合。去年，重庆已实现80个部门200多个政府服务、城市规划、城市治理等应用。

完善的网络基础设施

重庆是中国通信网络架构中10个一级节点之一，这极大地提升了重庆作为西部互联网枢纽的地位和增强了重庆网络基础设施的支撑能力。重庆也成为西部地区三大运营商（移动、联通、电信）共同启动5G试点的两大城市之一。目前，重庆移动已开通两个5G基站。今年内，计划在主城区建设和开通50个5G基站。

本届智博会发布了人工智能、大数据、自动驾驶汽车、无人机、虚拟技术等领域的多项最新技术、产品和应用。参展企业包括阿里巴巴、谷歌、浪潮、华为和百度等数家重量级企业。在来自28个国家和地区的843家企业中，JANZZ.technology也有幸成为其中一员参加了今年重庆智博会。我们相信，未来中国将成为智能技术领域的领军者，我们希望能寻找到潜在的中国合作伙伴，帮助我们打开通往中国市场的大门。我们仍然可以回忆起在智博会期间遇到的无数孩童，透过他们好奇的眼睛，我们看到了这座城市智慧的未来。