随着人工智能技术近几年的快速发展，针对人工智能的治理也成为了热门议题。随着参与方愈加多元、成果发布的海量增加，对于研究者和决策者来说，要跟踪所有人工智能治理的研究进展和政策进展，已经变成了一项艰巨任务。世界迫切需要找到一条发展合乎道德且有益的人工智能的道路。
已故的史蒂芬·霍金曾经说过：“我们的未来将是一场不断增长的科技力量与我们运用科技的智慧之间的竞赛。我们要确保人类的智慧获胜。”为了总结和分享智慧，我们邀请了50位世界级专家（44家机构）分享他们对2019年人工智能治理关键进展的看法。我们尽可能从众多的进展中提取出最有影响力的信息，希望这一工作能帮助每一位关心人工智能治理进展的人。
这些专家包括对人工智能领域做出重大贡献的科学家，他们希望用科学技术来处理科学技术带来的社会问题，为人工智能治理的挑战提供技术解决方案。例如，康奈尔大学教授、图灵奖获得者John Hopcroft指出，当前AI系统的开发可能会因训练数据的偏差而产生偏见。加州伯克利大学教授Stuart Russell编写的人工智能教科书《人工智能：一种现代方法》被116个国家的1300多所大学使用。他和他的同事Caroline Jeanmaire在新书《人类兼容》中强调了对可证明有益的人工智能进行技术研究的重要性。香港科技大学教授、AAAI 2021大会主席杨强提倡发展联邦学习来解决当前人工智能的治理问题中很重要的隐私问题。香港科技大学冯雁教授对开发合乎伦理的人工智能系统的正式流程进行了阐述，并特别提出了建立标准化算法审查系统的建议。美国路易斯维尔大学的人工智能安全专家Roman Yampolskiy进一步认为，不能仅讨论伦理问题，更要关注人工智能系统本身的安全问题。科学家们的这些观点为今后的人工智能治理提供了技术方向。
人工智能治理问题的出现迅速吸引了传统人文社会科学领域专家的关注，并开辟了新的研究方向。国际关系研究专家、牛津大学人工智能治理中心主任Allan Dafoe和他的同事 Markus Anderljung为我们梳理了2019年新建立的人工智能专门机构，从中可以看出专业的人工智能治理研究正在快速的建制化。法学家Gillian K. Hadfield在多伦多大学新成立了一个研究所，该研究所专注于研究“如何”治理人工智能。清华大学公共管理学院的苏竣教授分享了如何采用长周期、多学科的社会实验方法研究人工智能的社会影响。图宾根大学人工智能伦理学家Thilo Hagendorff博士强调，从“软法”到“硬法”的转变是人工智能治理的下一步。这些讨论标志着人工智能治理正在成为一门严肃的学科。
在人工智能应用的前沿，行业领袖和投资者正在密切关注人工智能治理对创新未来的影响。国家新一代人工智能治理专家委员会成员、中国人工智能独角兽企业旷视科技创始人印奇认为，企业在推进人工智能治理方面需要承担更多的责任。IEEE标准化协会前主席Don Wright介绍了IEEE人工智能伦理准则的最新进展。GPT-2事件是2019年人工智能领域的舆论热点，OpenAI作为事件的主角，其政策团队四位成员对该事件引发的算法出版规范提出了自己的看法。来自剑桥大学的未来智能研究中心和生存风险研究中心主任Seán Ó hÉigeartaig和美国乔治城大学安全与新兴技术中心战略主管HelenToner针对GPT-2事件也进行了讨论。First Star的执行合伙人Millie Liu从企业视角提供了实用的观点，列出了AI道德在行业实施中的一些关键挑战。硅谷投资者Steve Hoffman表示，决策者应利用市场力量进行AI治理，因为企业将在该领域的进步中扮演不可或缺的角色。
2019年，人工智能治理成为了一个真正的全球性问题，对全球治理产生重大影响。联合国AI和机器人技术中心负责人Irakli Beridze曾经因控制化学武器方面的贡献而获得诺贝尔和平奖。他认为，在执法领域，我们应该理解伦理问题和人工智能在解决全球挑战方面的积极作用。耶鲁大学教授、科技伦理专家家Wendell Wallach提出了敏捷、合作和全面的治理建议。Cyrus Hodes，Nicolas Miailhe和Jessica Cussins Newman等专家都认为，OECD在2019年的AI治理方面取得了实质性进展。国际问题专家、暨南大学教授陈定定则从国际关系的角度讨论了AI治理的问题。
在日益全球化的同时，世界各地区有一种将人工智能原则本地化的平行趋势。欧盟在人工智能治理领域是全球的积极引领者。欧洲议会议员Eva Kaili介绍了欧洲议会关于人工智能治理的主要工作和未来打算。欧盟在2019年发布了《可信赖人工智能指南》，引起全球关注。Francesca Rossi，IBM研究院人工智能伦理全球负责人和杰出研究员，同时也是欧盟人工智能高级别专家组成员，认为专家组的这种多学科、多利益相关方组成结构应作为人工智能治理的典范。欧洲人工智能政策分析师Charlotte Stix分析了欧盟对“可信赖的人工智能”的态度。英国刚刚脱欧，斯特拉斯克莱德大学的Angela Daly博士介绍了英国政府对于人工智能治理的认识，尤其介绍了政府机构数据伦理与创新中心的作用。亚洲其他地区也有重大发展。担任联合国秘书长数字合作高级别小组技术顾问的Danit Gal女士认为，东亚在人工智能伦理和治理方面具有深刻的传统文化烙印。东京大学的Arisa Ema博士参与了日本内阁以人为本的人工智能伦理准则的制定，她认为从政府向行业的转变是日本AI治理发展的主要驱动力。新加坡在2019年人工智能治理方面取得了巨大的成就，他们在联合国级别的平台信息社会论坛世界峰会上获得了最高奖项。这项重要工作的参与者、新加坡管理大学人工智能和数据治理中心主任吴亦涵（Goh Yihan）和他的同事Nydia Remolina介绍了将伦理准则转化为企业可以采用的务实措施的实践。印度智库TandemResearch创始人Urvashi Aneja认为，印度政策面临的主要挑战是在人工智能时代找到公平与增长之间的平衡。
国际社会普遍期望听到更多中国人工智能治理方面的进展。为此，本报告特别邀请了与中国人工智能治理相关的政策制定顾问和研究专家，从多角度介绍中国正在发生的情况。清华大学战略与安全研究中心主任、第十三届全国人大外事委员会副主任委员傅莹认为，在人工智能治理问题上，全球各国应结伴同行、合作共赢，中国和美国作为大国，更应该以合作为主。中国科技部新一代人工智能发展研究中心主任、中国科学技术信息研究所党委书记赵志耘研究员介绍了中国政府在人工智能治理方面的理念，并且全面介绍了中国政府已在推进的各项工作和取得的积极进展。中国科学技术发展战略研究院李修全研究员介绍了中国在人工智能治理方面注重包容发展以及关注弱势群体的理念和努力。中国社会科学院科学哲学家段伟文教授讨论了为人工智能构建信任机制以构建敏捷治理框架的必要性。赛迪研究院政策法规所所长栾群博士介绍了中国人工智能产业中的伦理治理进展。参与中国人工智能标准委员会相关工作、来自中国人民大学的郭锐教授，介绍了在标准制定中秉承的理念。值得一提的是，在中国政府的人工智能治理推进中，通过建设试验区进行先行先试是非常有意义的探索。上海作为中国最大的城市，2019年启动建设国家人工智能创新发展试验区，来自上海市科学学研究所的王迎春博士介绍了相关的情况。这次我们邀请的中国专家主要来自智库机构和学术界，事实上中国的企业也在人工智能治理方面有很多的探索，我们希望以后有机会再进一步的讨论。
在所有专家的评论中，从科学技术、人文社会科学、国际关系以及国家和地区等多维角度可以发现2019年的一些普遍共识性的进展。例如，越来越多的专业机构在成立；越来越多的国际共识在达成；越来越多的行业和决策部门在投入精力。
联系客服
