3、一些国家提出人工智能发展与治理的原则和框架

　　2018年以来，全球包括中国、美国、英国、日本、欧盟、印度、澳大利亚、加拿大、法国、德国、新加坡以及阿联酋等10余个国家和地区在部署实施人工智能发展战略时，已明确将人工智能治理问题纳入其总体战略，提出确保本国人工智能健康发展的基本原则。其中明确提出人工智能道德伦理准则的包括2018年6月新加坡发布的《AI治理和道德的三个新倡议》；12月欧盟发布的《可信赖的人工智能道德准则草案》，日本内阁发布的《以人类为中心的人工智能社会原则》等。德国计划在2019年提出人工智能伦理原则。

　　综合来看，这些国家和地区对人工智能治理进行部署推进的共同点主要包括四个方面。

　　一是坚持以人为中心的人工智能治理理念。欧盟提出要坚持“以人为中心”的发展原则，推动发展符合欧洲伦理与社会价值观和民众愿望的人工智能，确保人工智能技术能够给个人和社会整体带来福利。日本提出人类中心原则，人工智能的使用不得侵害宪法和国际规范保障的基本人权。美国将“提升公众对人工智能技术应用的信任度，保护公民自由、隐私和价值观，切实为国民带来福祉”作为人工智能发展的五大基本原则之一。阿联酋提出人工智能要负责任地发展，避免对人类造成巨大威胁。德国提出应负责任地、以公共利益为导向发展和应用人工智能，并积极为以数据为基础的商业模式和价值创造路径给出欧洲方案，使之符合欧洲的经济、价值和社会结构。

　　二是设立专门委员会或专家组开展人工智能伦理道德规范研究，以为政府提供决策咨询。欧盟组建了人工智能高级专家小组负责人工智能道德准则的制定工作，小组52名专家来自谷歌、IBM、贝尔实验室、SAP、博世等全球领军企业与研发机构和牛津大学、伯明翰大学等知名学府以及若干社会组织。新加坡成立人工智能和数据道德使用咨询委员会，以协助政府制定人工智能道德标准和治理框架。英国上议院人工智能特别委员会专门研究人工智能对经济、社会和道德伦理等的影响。德国数据伦理委员会负责人工智能技术发展与应用中的伦理和法律问题研究。印度成立人工智能特别委员会，研究人工智能应用可能产生的问题，并计划在具体行使人工智能技术研究和成果转化职能的两大类机构中设立道德委员联合会，以制定有关隐私、安全和道德的行业特定准则等。

　　三是积极参与人工智能全球治理。阿联酋人工智能部早在2018年2月便召开了一次关于人工智能全球治理的顶级闭门会议，讨论人工智能对人类社会带来的挑战，并试图寻找解决方案，当年11月，阿联酋人工智能部长表示将尽快举办全球人工智能治理论坛，以期在人工智能治理方面与全球达成共识。英国也希望能够与他国共同塑造人工智能研发和使用的伦理框架，并酝酿在2019年举办全球峰会，与各国、行业、学术界和民间团队一道在平等的基础上，商讨制定人工智能研发和应用的全球通用伦理框架。

　　四是加快调整部分领域监管规则，寻求相关行业健康发展。在自动驾驶领域，美国交通部于2017年9月更新了联邦自动驾驶汽车政策《自动驾驶系统：安全愿景2.0》，确定了12项安全性能自评标准，以为自动驾驶行业提供非监管性指导，企业可以据此提交安全评估报告。美国、德国、英国、新加坡和韩国等都引入了公共道路的自动驾驶汽车法规并颁发自主测试许可证。德国自动驾驶汽车道德委员会是德国联邦政府为制定自动驾驶汽车相关法律法规设置的专门机构。在智能医疗领域，2017年7月，美国食品药品监督管理局（FDA）建立了一种针对低风险医疗人工智能产品的全新监管方式——“数字医疗软件预认证计划”，随后FDA选择了9家企业开始实施试点项目，试点项目结束后，FDA旗下专门负责医疗设备及科技监管的机构器械和辐射健康中心根据在上述试点项目中确定的客观标准来“预先认证”具备资格的数字医疗开发主体。经过预认证的开发主体可以直接销售自己的低风险医疗人工智能产品，而无须经过FDA的额外审查和一系列入市审查。

　　4、产业界探索行业自律经验

　　人工智能产业界、行业协会等也将人工智能治理作为重要议题开展相关研究，成为行业自律的重要经验探索。微软、谷歌、IBM、百度、腾讯、索尼、西班牙电信、德国SAP等公司都已明确提出公司人工智能研发与应用的核心原则，美国信息技术产业委员会则颁布了人工智能的14条政策准则，对人工智能系统的设计、部署与应用等的安全性提出要求，并探讨了企业、政府、研究机构应采取什么样的运作及合作方式，以确保人工智能发挥最大的积极效益。

　　微软公司总裁布拉德·史密斯表示，要设计出可信赖的人工智能，必须采取体现道德原则的解决方案，因此微软提出6个道德基本准则，即公平、包容、透明、负责、可靠与安全、隐私与保密。在经历了员工联合请愿事件后，谷歌公司CEO桑德·皮查发表署名文章《谷歌AI的原则》，详述了人工智能七大原则，即造福社会、避免偏见、确保安全、对人负责、保护隐私、遵守严格的科学标准、避免有潜在危害或可能被滥用的技术与应用，同时还明确了未来将严格坚守的四大底线等。DeepMind公司于2017年10月成立了“人工智能伦理与社会部门”，旨在理解人工智能的现实影响并帮助技术人员将伦理付诸实践，该部门于2018年启动关于算法偏见、问责制和自主杀人机器等课题项目的研究，希望可以帮助社会预测人工智能的影响，并根据预测结果给予正确的引导，确保人工智能给人类社会带来正面作用。德国商业软件巨头SAP于2018年9月发布了一份道德规范来管理其人工智能研究，并提出七条准则，旨在防止人工智能技术侵犯人们的权利，参与制定这一规范的包括工程师、神学家、政治家和生物伦理学家等。

　　总体来看，全球主要国家对人工智能治理仍然仅仅停留在原则和框架层面，具体到人工智能技术开发规则，比如如何使之严格遵守“人工智能系统不伤害人类”“人工智能决策应具备可解释性”等规则，各国都尚未提出明确的解决方案。理应涵盖技术开发、行业监管和公共治理等在内的成体系化的法律和规范建设尚显遥远。同时在产业领域，各国、各企业由于文化传统和价值观不同，彼此在人工智能部署原则上也有差异，比如美国、欧盟和中国对自动驾驶实施监管和规范的态度彼此就存在一定的差异。当前，全球人工智能应用的快速普及以及跨国界、跨区域要素的加速流动和产业互动，正为各方提出前所未有的挑战，国际社会理应尽快形成人工智能全球治理通用或一致性框架，确保人工智能为人类所用，并促进全人类平等受益。

　　（作者：高芳，系中国科学技术信息研究所政策与战略研究中心副主任、副研究员）