当前，新一代人工智能技术正在全球蓬勃发展，与大数据、区块链、5G等新技术相互融合、相互呼应。社会发展，特别是数字经济发展注入新动能，正在深刻改变人类生产生活方式。与此同时，如何在新技术变革的浪潮中始终占据主动，实现对人工智能等前沿科技领域的有效治理，确保其持续健康发展，也成为重要的现实问题和重大课题。国际社会和各界广泛关注的时代问题。党的十八大以来，以习近平同志为核心的党中央高度重视前沿科技领域的开发和治理。习近平总书记高度重视新一代人工智能发展治理，提出“要深刻认识加快发展新一代人工智能的重要意义，加强领导，谋好规划，明确抓好任务，夯实基础，推动其与经济社会发展深度融合，推动我国新一代人工智能健康发展。过去的2020年波澜壮阔，不平凡。“两个一百年”奋斗目标的历史交汇点、中华民族伟大复兴总体战略与世界百年未有之大变局交相辉映，新冠肺炎疫情仍在风靡多个国家。协作等领域发挥了重要作用。新一代人工智能技术的发展取得了许多重大成果。世界各国都在积极探索与人工智能发展相适应的治理路径，发生了许多具有象征意义和可能产生深远影响的重大事件。对这些事件进行总结和深入研究，有助于加深对人工智能治理规律的认识，有助于更准确把握人工智能技术、产业和生态的发展趋势，有助于引发对人工智能领域关键问题的讨论。人工智能治理各行各业。对问题、重点难点的深入思考，广泛共识。人工智能治理是一个复杂、系统性很强的社会问题，涉及政策、技术、产业、法律、通信、伦理、安全、国际关系等诸多领域。研究国内外人工智能治理的标志性事件，必然需要社会各界的共同推动。为此，人民智库与旷视科技人工智能治理研究院成立联合课题组，共同开展“2020年全球人工智能治理十大事件”评选，组织权威专家学者在相关领域共同探讨人工智能与公益、人工智能与公平。从司法公正、人工智能政（企）治、人工智能系统安全、数据隐私安全四个主要维度出发，按照理论价值、实用价值、新闻价值、研究价值四个评价标准进行评价，并将在网上为公众进行。问卷调查，深度访谈人工智能行业从业者、相关部委领军专家、行业协会等典型群体。经过综合信息、数据、意见、各方面意见，最终评选出2020年全球人工智能治理十大事件。这些事件反映了人工智能治理领域的实践探索和前沿趋势，体现了新一代人工智能技术广阔的应用前景，反映了公众对人工智能治理引导技术向善、助力政府的认识。、机构、企业多层次、多方式。通过新一代信息技术的良性发展，增进人类福祉、改善民生，是人们的热切期盼。助手还是杀手？理解人类意识的人工智能还是具有自主意识的人工智能？人工智能事关人类福祉，必须走“边治边发展”的新模式。人工智能的概念自1956年在美国达特茅斯会议上提出以来，经历了漫长的野蛮生长时期。霍金提出“人工智能也可能是人类文明史的终结，除非我们学会如何避免危险”；马斯克认为，人工智能“风险大得多”，这是“威胁人类文明存在的根本风险”。近年来，随着无人驾驶、人脸识别、智能语音等人工智能技术的广泛应用，以及基于深度学习、跨界融合、人机协同的新一代人工智能技术的发展，开放众智，自主管控随着第三次浪潮的到来，关于人工智能治理的讨论再次被各界广泛提及。中国互联网经历了近30年的快速发展。有关专家在总结互联网治理的经验教训时认为，我们过去的一种治理模式是“先发展，后治理”，即先“摸着石头过河”，然后等待问题出现或积累到一定程度，再进行专项治理，建立规范。但是，我国人工智能爆发式发展的新特点更加明显：一是政策支持和关注度更高；二是与社会资本的结合度更高；人工智能领域；四是技术基础、产业基础和经济社会发展需求更加强烈。这些因素直接决定了人工智能治理不能重蹈互联网治理的老路。它对治理结构、治理路径、治理范围提出了更多、更新的挑战，需要我们以更多的创造性思维来应对。在十大事件的评选中，涉及人工智能与人类福祉、公平正义的事件最受关注，如：通过算法黑匣子侵害外卖小哥利益的事件“人工智能成为“监管者”：算法下外卖骑手挑战交通规则，“助手”或成“杀手””（排名第一，得票率51.20%）；利用人工智能技术实施违法行为事件“湖南岳阳警方破获人工智能犯罪，科技犯罪仍要惩戒人”（排名第9，得票率48.75%）。在国际上，最受关注的是人工智能技术突破现有界限的事件并可能对人类福祉产生不利影响，例如：“人工智能可以翻译大脑思想，将大脑信号转化为文本数据，而‘阅读意识’让我们无法acetohidefromprivacy”（排名第二，得票率为50.09%）；“人工智能技术突破现有界限，具备‘自我意识’，可实现自主研发、自我修复等功能”（排名第8，得票率为48.75%）。党的十九届四中全会提出要“完善科技伦理治理体系”。以习近平同志为核心的党中央把完善科技伦理治理体系作为推进国家治理体系现代化的重要内容，在新一轮科技革命和产业变革中蓬勃发展在全球范围内，人类发展面临着前所未有的新机遇和新挑战。在这一历史时刻作出的重大部署，对于攻克科技领域的伦理问题、促进我国科技健康发展具有重要意义。.发展负责任的人工智能不是一个国家的责任，而是全球性的问题；人工智能治理亟需建立国际共识，探索协同治理新模式据相关机构预测，2030年，人工智能将带动全球GDP增长14%；其中，最大的收益将来自中国和北美，合计10.7万亿美元，占全球经济影响的近70%。如此庞大的经济体量，如果失去法律、道德和伦理的约束，可能会造成不可逆转的负面影响。在本次调查中，涉及法律、伦理道德规范建设的全球性、区域性、国家性事件引起了专家和公众的广泛关注，如“欧美、韩国相继出台人工智能治理新规”等。、严格限制甚至禁止相关人工智能技术在特定场景下的开发和应用”（排名第4，得票率为49.73%）等。此外，推动人工智能在军事领域的应用受到西方国家的广泛关注。“人工智能首次控制美军系统或开启算法战新时代”事件（排名第10，得票率为48.22%）被案件审理专家多次提及。清华大学人工智能国际治理研究院名誉院长傅莹指出：“既然人工智能武器化不可避免，专家的研究方向就应该是寻找一条合适的治理路径。”季卫东院长认为，当今世界正面临一场围绕人工智能和数据的国际规则博弈，而中国在全球化时代和数字经济转型中相对处于领先地位。但由于过去我们对人工智能治理不够重视，在“走出去”的过程中，人工智能产品和产业在欧美国家经常遭遇限制或批评。进步，但也要学会恰当、巧妙地运用规则，维护国家和企业的合法权益。同时，也要关注各国人工智能治理模式的差异。例如，美国强调人工智能公司的商业利益，企业在竞争中保持优势地位；欧盟强调公民权利的保护和在此前提下的规则博弈；两个方面都涉及。当前，我国正在积极融入人工智能全球治理体系。尽管时有逆流阻挠，但仍肩负起负责任大国的责任，积极为人工智能全球治理贡献自己的智慧和经验。目前的基本共识是，人工智能的治理体系需要“柔性伦理”和“硬性法律”的共同构建，更重要的是需要各国、国际组织、行业组织、企业和社会等多个主体的共同参与。民众。伦理、技术、规范、立法和其他治理措施齐头并进的协调共治模式。落实国家规划，从顶层设计确定立法步骤。2017年，国家出台《新一代人工智能发展规划》和《促进新一代人工智能产业发展三年行动计划（2018—2020年）》，对人工智能伦理和法律政策提出了明确要求。要秉持“把蓝图画到底”的精神，按照规划要求，人工智能法律政策实施“三步走”：到2020年，人工智能伦理规范和政策法规在部分地区实现。领域将初步建立；智能化法律法规、伦理规范和政策体系，形成人工智能安全评估和管控能力：到2030年，建立更加完备的人工智能法律法规、伦理规范和政策体系。从全球治理的角度积极构建人工智能伦理共识。《人工智能北京共识》于2019年5月发布，针对人工智能研发、使用和治理三个方面，提出了所有参与者都应遵循的15条原则，以造福于构建人类命运共同体和社会发展。我国还鼓励各级主体围绕科技向善等核心伦理价值制定评价规则，构建人工智能评价体系。一方面，引导人工智能健康持续发展，以产业发展反哺人工智能治理领域法律法规的建立和完善；另一方面，运用人工智能等现代信息技术，全面提升治理能力和治理现代化水平。2019年11月，《关于<中共中央关于坚持和完善中国特色社会主义制度推进国家治理体系和治理能力现代化若干重大问题的决定>的说明》指出，要更加重视运用人工智能、互联网、大数据等现代信息技术，提升治理能力和治理现代化。据清华大学发布的相关领域研究报告显示，在人工智能领域，我国在科技产出和人才投入、产业发展和市场应用、发展战略和政策环境等方面表现突出，特别是总量的论文和高引用。论文数量和专利数量居世界第一，企业数量居世界第二。2019年6月，《亚太及日本企业人工智能伦理道德研究》报告显示，中国企业在人工智能应用指南和管理标准方面走在亚洲前列。这些成绩的取得，与我国对人工智能“先行一步”的态度和积极发展先进技术密不可分。加强自律和反省，是企业承担责任的第一步。企业作为技术创造者，应该成为人工智能治理的重要力量。企业不仅是技术的创造者，更是技术应用的决策者和技术价值的设计者。企业价值观和行为将直接影响科技给人类社会带来的变化。因此，企业是人工智能治理中不可缺少的力量。AI治理是企业发展的必须，而不是锦上添花。但目前，全球人工智能治理尚未形成统一的标准和成熟路径。不同国家的法律法规和标准不尽相同，滞后于企业的商业行为。因此，企业自律成为具有责任感和长远发展意识的人工智能企业的首要标准。企业迈出自律的第一步，是AI产业整体发展的一大步。纵观近年来人工智能治理领域的争议事件，与人工智能龙头企业相关的事件太多了。尤其是2020年，国际科技巨头和中国龙头科技企业开始加速企业行动，提出企业自律措施。在本次调查中，与企业AI治理相关的事件包括“美国科技巨头基于自身道德判断加强企业对人工智能技术的自律和监管”，排名第6，得票率为49.55%；道、百度、滴滴等“无人车”背后权责归属引关注”，排名第7，得票率为48.89%。人工智能的“自我进化”程度将随着人工智能的深入而越来越高。相关技术研究，需要准确判断技术发展中可能存在的风险和不确定性，也需要研究机构或前沿科技公司的专业力量支持，以确保技术治理的有效性。——边缘科技企业在人工智能治理中发挥着重要作用，顶尖企业深度参与人工智能治理的实践探索和理论研究，为人工智能向善提供了重要的指引。正如旷视科技副总裁姜岩所说，“企业不能缺席人工智能治理。行动胜于雄辩。企业必须将人工智能治理的每一步落实到工作中。”2020年，人工智能企业旷视科技对人工智能治理进行了更深入的学术研究，探索并成功落地了企业嵌入式治理模式。上述事件背后，看似企业与其息息相关，但又不仅仅是孤立的个体企业行为，政府、社会、研发人员都在其中发挥着主要作用。企业是人工智能治理的重要载体和执行者，人工智能的参与更多企业可以更有效地执行法律法规。科研人员是人工智能的“技术源头”，在大多数情况下，可以从源头上限制人工智能的行为和能力。2018年10月，时任中央政治局常委中共中央召开第九次时局形势集体学习人工智能发展新时期，习近平总书记指出，“要加强基础理论研究，支持科学家勇闯人工智能技术前沿‘无人区’”，努力实现变革和突破。在人工智能发展方向和理论、方法、工具、系统等方面取得颠覆性突破，确保我国在人工智能这一重要领域的理论研究走在前沿，关键核心技术占据制高点。”人工智能应该回归初心，为更美好的人类社会而生；人类应该以更大的善意拥抱人工智能，与仁慈的人工智能和谐相处。当前社会存在人工智能是否需要被赋予法律主体地位，以及人工智能的问题。关于作品或产品是否拥有版权或受知识产权保护的讨论很多。“全国第一案：法院认定人工智能生成的文章构成作品并享有著作权”，在本次评选中排名第三，得票率为49.78%。这一具有里程碑意义的事件为今后处理此类问题提供了参考样本。特别值得一提的是，公众高度关注人工智能与民生相关的问题。“AI好，科技警示独居老人水表、校园暴力”，排名第5，得票率为49.69%。这件事引发了众多网友的热议。讨论。国家安全新一代人工智能治理专业委员会发布的《新一代人工智能治理原则——发展负责任的人工智能》主题突出了发展负责任的人工智能，强调和谐友好、公平正义、包容共享、尊重隐私、安全可控、责任共担、开放协作、敏捷治理等八项原则。在这一原则的指引下，我们将找到人工智能技术的“初心”——让人类拥有更美好的生活。中国特色社会主义进入新时代，我国社会主要矛盾已经转化为人民日益增长的美好生活需要和不平衡不充分的发展之间的矛盾。日益美好的生活需要科技的助力，更需要科技向善的力量。在全球化浪潮下，人类命运共同体建设正在加速推进。在人工智能等领域的治理上，任何国家都不可能独善其身。任何社会主体也不能袖手旁观。在此，我们发出三点呼吁：在全球对话方面，我们希望各国能够开展更加积极的对话，就人工智能治理达成广泛共识，构建和推进既符合人类利益的人工智能治理。——既是全球人类又符合各国特色的发展框架，形成多维度、多层次、多主题的协同治理模式。在企业责任方面，企业既是技术的创造者，也是技术的反省者。希望越来越多的企业能够积极参与人工智能治理，实现企业实践与学术研究的更紧密结合，实现新治理模式的有效落地。在社会认知方面，人工智能这一关系到每个人生活的前沿技术，需要公众更多的关注和理性的看待。希望营造更加良性的公众反馈机制和舆论环境，实现人工智能的可持续发展。人工智能技术作为推动人类社会可持续发展的使能技术，对社会变革仍有很大空间。同时，AI产业本身的可持续发展之路任重道远，充满艰辛。我们要携手合作，共享共赢。AI时代，为构建更美好的人类命运共同体，仍需我们不懈努力！
