9月26日，国家新一代人工智能治理专业委员会发布《新一代人工智能伦理规范》（以下简称“”")，旨在将伦理道德融入人工智能全生命周期，为从事人工智能相关活动的自然人、法人和其他相关机构提供伦理道德指导。早在今年1月5日，全国信息安全标准化技术委员会就发布了《网络安全标准实践指南—人工智能伦理安全风险防范指引》（以下简称“《指引》”），表明有关组织或个人在开展人工智能研发、设计等相关活动时，和制造、应用部署，应充分识别、预防、管理和控制人工智能的道德安全风险。与《指引》相比，本次发布的《规范》更加详细地阐述了隐私保护和数据安全，同时也关注了算法偏差等技术伦理问题。重视数据和隐私安全，强调算法伦理《规范》，提出增进人类福祉、促进公平正义、保护隐私安全、保障可控可信、强化责任担当、提升伦理素养等六项基本伦理要求。其中，数据与隐私安全的内容贯穿于人工智能管理、研发、供应等具体活动的具体伦理要求。《规范》指出各类人工智能活动应充分尊重个人信息的知情权和同意权，按照合法、公正、必要、诚实信用的原则处理个人信息，保护个人隐私和数据安全.以窃取、篡改、泄露等方式非法收集、使用个人信息，不得侵犯个人隐私权。在管理上，要充分尊重和保护相关主体的隐私、自由、尊严、安全等权利和其他合法权益，禁止不当行使权力侵害自然人的合法权益。人、法人和其他组织。在研发方面，要提高数据质量，在数据收集、存储、使用、处理、传输、提供和公开等方面严格遵守数据相关法律、标准和规范，提高数据的完整性、时效性、一致性、规范性和准确性。在供给侧，要加强人工智能产品和服务的质量监测和使用评价，避免因设计和产品缺陷导致人身安全、财产安全和用户隐私受到侵害。产品与服务。算法伦理也是此次监管的重点之一。《规范》在《研发规范》中明确指出，在数据收集和算法开发中应避免偏见和歧视，加强伦理审查，充分考虑差异化诉求，避免可能出现的数据和算法偏差，以及应努力实现通用人工智能系统。利益、公平和非歧视。同时，要增强安全性和透明性，提高算法设计、实现和应用的透明性、可解释性、可理解性、可靠性和可控性，增强人工智能系统的弹性、适应性和抗干扰能力。.实现可验证、可审计、可监督、可追溯、可预测、可信赖。技术伦理和数据安全成为市场监管重点近年来，人工智能伦理治理问题日益受到关注。数据安全和算法伦理合规一直是我国人工智能产业关注的重点，相关制度也在不断完善。2021年7月14日，深圳市人大常委会组织部起草的《深圳经济特区人工智能产业促进条例 (草案) 》要求人工智能企业“设立伦理风险岗位”、“履行伦理审查和风险评估责任”，明确规定，在开展人工智能研究和应用活动中，禁止侵犯个人隐私和个人信息保护、损害国家安全和社会公共利益、算法歧视等一系列行为。2021年7月28日，科技部印发《关于加强科技伦理治理的指导意见 (征求意见稿) 》，明确伦理至上、敏捷治理等基本要求，提出科技伦理五项原则，要求“从事科技活动的机构如生命科学、医学、人工智能等，研究内容涉及科技伦理敏感领域的，应当成立科技伦理（审查）委员会。”此外，《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》于今年6月和8月相继发布，数据和信息安全的重要性得到了前所未有的强调。政策趋势下，AI企业在融资上市时越来越重视数据安全、算法伦理等合规问题。过去一年，依图、旷视、云从、海天瑞声、云天励飞等“AI概念股”纷纷涌向IPO。数据合规性和技术伦理是审计关注的重点。今年5月，在旷视科技IPO过程中，上交所首次进行科技伦理问询，要求旷视披露公司组织架构、核心原则、内部控制及人工智能伦理执行情况。但云从科技曾因财务信息过时而被暂停发行上市审核。依图科技已撤回申请，发行上市审核现已终止。在监管力度加大的背景下，近日，“AI四小虎”之一的商汤科技提交了港股上市招股说明书，并在招股说明书中专门设立一章详细披露隐私和AI治理，解释其业务如何实现数据隐私和个人信息保护，并表示将遵循三大人工智能伦理原则：可持续发展原则、以人为本原则和技术可控原则。浙江垦丁律师事务所创始合伙人王琼飞在接受21记者采访时表示，对于AI产业和科技企业来说，短期内，数据合规和AI治理会消耗大量的精力和成本；但从中期来看，上市科技公司主动公开个人隐私和AI治理，无疑会对其他公司起到示范和引导作用，从而降低数据标准化，减轻数据治理的工作量；将加速人工智能产业的健康发展，在尊重和保护个人隐私的前提下，逐步实现人工智能创新与监管的平衡（作者：实习生王一晨，见习记者吴立阳编辑：曹金良）
