——“重塑制度：紧抓数字化转型战略机遇”（4）道德伦理篇

        数字化转型让人类世界所依赖的各种机器开始变得智能，然而它们被数据和算法所驱动，正在引发诸多事前难以预判预知的法律、道德、伦理等新问题。建议重视数字科技伦理建设，秉持“科技向善”理念，构建面向数据和算法的新规则，加强数字科技伦理教育，强化行业自律，使其最大程度造福人类。

        新一代数字技术广泛应用挑战现有道德伦理

        数字技术应用带来个人数据保护挑战。当前，各类移动应用程序（APP）实时记录着人们的地理位置、联系人、浏览行为等；人类生物特征信息如人脸、视网膜、语音等也正在被各种数字技术所采集。尽管企业数据采集、分析、存储、流转采取了匿名化、加密化等预防举措，但在大数据分析系统面前，个体变得越发透明。这些与个人紧密相关的数据一旦泄露或被滥用，将严重影响个人生活乃至国家政治。此外，不法分子还可能利用数字技术非法窃取、识别个人信息，实施网络诈骗、窃取钱财甚至危及人身安全等犯罪活动。加强个人数据和隐私保护已成为亟须回应的优先事项。

        算法的公平性和无歧视性不容忽视。算法是数字技术应用的根基。伴随着算法自主决策性能的日渐提高，人工智能技术已广泛应用于个性化内容推荐、精准广告投放、信贷风险评估、投资决策顾问、劳动雇用筛查、司法审判、汽车驾驶等众多领域。然而，算法不当则可能会在有意或无意之间，导致歧视或不公，如个性化推荐算法应用于数字内容的分发，可能影响公众认知、固化思维和强化社会偏见等。随着算法决策越来越多地应用于各种社会场景，类似的潜在影响开始备受关注，如近年来围绕信息茧房、大数据杀熟等事件的舆论热点，充分体现出人们对算法公平、对训练人工智能系统的数据样本是否有代表性的担忧。

        人工智能的价值判断触及人类伦理规范。人工智能系统以理性代理人的身份进入人类社会，必然要遵守人类社会的法律规范和道德伦理，做出合法合道德的行为。但是，人工智能系统是研发人员主观设计的产物，这一问题最终要回归到人工智能设计和研发过程中的伦理审查问题。一方面，要以一种技术上可行的方式将各种价值判断和伦理规范编码化，植入人工智能系统，使系统做出合乎人类价值观的行为；另一方面，要极力避免研发人员在人工智能系统研发过程中，将其主观偏见、好恶、歧视等价值判断植入人工智能系统。此外，人工智能系统还涉及“两难决策”问题，如自动驾驶汽车在遭遇突发危险状况时，“牺牲谁、拯救谁”因开发者个体价值的不同而备受争议。

        人工智能应用带来安全和法律责任分担挑战。人工智能技术已广泛应用到机器人、无人机、智能诊疗、智能投顾等领域，由此还带来了生产安全、人身安全、财产安全等新问题。一旦出现意外事故，现行制度可能就难以给予有效回应，例如自动驾驶汽车出现致命事故时、智能诊疗系统给出“不安全”的治疗建议时，人工智能算法的不透明、不可理解、不可解释等特征，就会给责任的确定和分配带来众多分歧，从而让被侵权人难以得到应有的公正弥补。面对可预期的法律责任挑战，侵权法、合同法等法律规则的局限性和不完备性逐渐显现。

        我国政府和产业界的实践与探索

        全球主要国家在制定国家数字化转型战略时，纷纷将人工智能伦理和道德规范等相关内容作为重点组成部分。近年来，我国政府和产业界重点围绕新一代人工智能开始就道德伦理问题进行研究和探索。

        一是开始制定促进人工智能发展的法律法规和伦理规范。在2017年出台的《新一代人工智能发展规划》中，我国已认识到人工智能发展的不确定性可能会冲击法律与社会伦理、侵犯个人隐私、挑战国际关系准则，并要求必须高度重视可能带来的安全风险挑战，加强前瞻预防与约束引导，最大限度降低风险，确保人工智能安全、可靠、可控发展。规划提出，到2025年初步建立人工智能法律法规、伦理规范和政策体系。在立法方面，全国人大常委会已将与人工智能应用密切相关的立法项目如个人信息保护法、修改科学技术进步法等列入立法规划，努力为人工智能的创新发展提供有力的法治保障。

        二是科技行业日益重视科技伦理和数据治理。遵从科技伦理是创新驱动发展战略和建设数字中国的重要保障，也是数字时代商业竞争的基本要求。2019年国内高校、科研院所和产业联盟发布《人工智能北京共识》针对人工智能的研发、使用、治理三方面，提出了各个参与方应该遵循的有益于人类命运共同体构建和社会发展的15条原则。腾讯等科技公司积极倡导“科技向善”“负责任创新”“创新与伦理并重”等理念，提出人工智能“四可”理念，即可用、可靠、可知、可控，确保人类与机器之间友好、和谐的关系，最大化地促进人类的发展。百度公司也提出希望政府组织各方力量，开展人工智能伦理的研究和顶层设计，推进行业健康发展。产业界的探索为构建面向数据和算法的新规则提供了鲜活实践。

        同时，也要看到，目前的人工智能技术虽处在发展初期，但已经引发了各种各样的伦理冲突和道德难题。与技术的快速进步相比，我们对于人工智能与人类的关系认识尚不系统，对于人工智能发展的潜在风险缺乏足够研判和防范，对于人工智能相关法律、伦理、道德、社会问题的研究也没有形成体系化应对方案。产业界在人工智能产品研发、防止产品滥用、防范用户沉溺等方面，尚在自行探索，还缺乏共识或可供遵循的伦理准则。

        加强科技伦理建设、践行科技向善理念的政策建议

        人工智能伦理与规范是未来智慧社会的发展基石。应积极倡导“科技向善”理念，加快构建数据和算法新规则，防范新技术潜在风险，加强科技伦理教育，强化行业自律，应对数字技术应用可能引发的道德伦理危机，让人工智能安全、可靠、可控。

        一是制定人工智能相关的伦理准则与指南。最近几年来，国际社会在人工智能、自动驾驶等领域的伦理准则和指南方面，已经做了大量的有益探索。面对新技术发展的不确定性，可借鉴国际经验，进一步加强对科技伦理的重视程度，通过预警性思考、广泛的社会参与和多学科评估来充分讨论可能存在的风险和危害，尽快建立人工智能研发与应用的伦理共识或框架，规范新技术研发应用，维护、促进数字信任，让大数据、人工智能等数字技术最大程度地造福于人类。

        二是充分发挥科技伦理的行业自律作用。科技企业对人工智能产品的内在运行机理了解比较深入，对其应用的场景及潜在的伦理规范问题也更为清楚。可通过伦理审查、自律组织、行业标准、最佳实践、技术指南等方式来支持和促进行业自律，避免算法共谋或将人为责任推脱给算法的行为，以确保科技发展应用的正确方向。鼓励企业在人工智能系统研制阶段开展风险自评估，推广应用前开展风险自测试，尽力减少伦理风险或潜在的纠纷冲突。

        三是加快完善大数据、人工智能领域的法律规则。优先为自动驾驶、无人机、医疗诊断、自主智能机器人等领域的应用探索制定恰当合理的规则，建立新的监管框架。围绕算法歧视、人工智能的法律责任、个性化推荐算法的影响、人工智能技术滥用、人工智能智力成果的知识产权保护等，加强前瞻性研究。坚持促进数据利用与保障安全并重，建立数据收集、利用的基本规则，加强数据保护，增强算法透明，防范并打击数据滥用行为。

        四是支持针对新技术的跨学科研究。人工智能技术的社会影响是深远的、全方位的，要充分认识到数字技术应用及其对未来社会的风险和挑战，不可能单单靠技术手段就能够解决。建议大力支持、鼓励和引导新技术的社会学和跨学科研究，从国家安全、社会治理、就业结构、法律制度、道德伦理等多个维度制定切实合理可行的应对措施。

        五是加强对数字科技伦理的教育，鼓励全社会践行科技向善。搭建数字科技创新与伦理之间的高效对话机制和沟通平台，加强新技术领域的科普工作和舆论引导，消解并避免制造公众焦虑，为新技术发展营造理性的社会氛围。制定并在教育培训体系中积极落实全民数字素养和数字伦理培训计划，鼓励全社会践行科技向善理念，严守科技伦理底线，充分发掘新技术巨大的“向善”潜力，促进经济和社会可持续地发展进步。

        （曹建峰，腾讯研究院研究员；马源，国务院发展研究中心企业研究所研究室主任、研究员）