与任何信息技术一样，AI将面临各种安全问题以及其他新出现的问题，如隐私、歧视、不公平等。美国国家标准与技术研究院(NIST))正在开发一个自愿框架，以更好地管理与人工智能相关的风险，称为人工智能风险管理框架(AIRMF)。该框架的目标是提高将可信度纳入人工智能的能力，包括基于人工智能的产品、服务和系统的设计、开发、使用和评估。该框架的初稿建立在NIST于2021年12月发布的概念文件之上。NIST希望AIRMF将描述基于AI的系统的风险与其他领域的风险有何不同，并鼓励利益相关者团体应对这些风险有针对性地。NIST表示它可以用于框架之外的合规映射，例如现有的法律法规或其他强制性指南。虽然AI框架面临与其他NIST框架类似的风险，但某些风险“差距”或对前者的担忧是AI独有的。而这些差距正是AIRMF想要弥补的。AI利益相关者群体和技术特征NIST确定了四个利益相关者群体作为该框架的目标受众：AI系统利益相关者、运营商和评估者、外部利益相关者和公众。采用三个级别的特征分类法，在识别和管理与人工智能系统相关的风险的综合方法中应考虑这些特征：技术特征、社会技术特征和指导原则。技术特性是指人工智能系统设计者和开发者直接控制的因素，可以使用标准的评估标准来衡量，例如准确性、可靠性和弹性。社会技术特征是指人工智能系统在个人、群体和社会环境中的使用和感知方式，例如“可解释性”、隐私、安全和管理歧视。在AIRMF分类法中，指导原则指的是更广泛的社会规范和价值观，表明公平、问责制和透明度等社会优先事项。与其他NIST框架一样，AIRMFCore包含AI风险管理活动的三个要素：功能、类别和子类别。该功能是映射、测量、管理和治理AI风险。尽管AIRMF有望通过配置文件为特定用例提供上下文，但这项任务以及计划中的实用指南已推迟到以后的草案。在3月中旬框架草案发布后，NIST举办了为期三天的研讨会，讨论AIRMF的各个方面，包括深入研究如何减轻AI技术中的有害偏见（歧视）。以下是研讨会的一些想法：映射AI风险：上下文很重要清楚上下文、用例和部署场景。理想情况下，所有这些事情都应该在系统构建时发生。”美国健康保险计划副总裁MarilynZigmundLuke告诉与会者，“鉴于不同环境和结构的多样性，个人和组织面临的风险当然会有所不同。我认为所有这些风险都应该从评估风险的角度来理解，你必须从头开始，建立一些不同的参数。”衡量AI活动：需要新技术由于社会政治伦理和习俗的复杂性，AI相关活动的衡量仍处于起步阶段。加州大学圣地亚哥分校的大卫·丹克斯认为：“很大一部分测量功能本质上是留给人们去理解的。在这个特定的背景下，歧视意味着什么？相关的价值是什么？因为风险从根本上来说是普遍的说起来，是对组织或人的价值的威胁，价值很难确定。”人工智能安全和研究公司Anthropic的联合创始人杰克克拉克表示，人工智能的出现催生了对新指标和测量方法的需求。案例是将其融入到AI技术本身的创造中。“现代人工智能技术的挑战之一是需要设计新的测量技术并与技术本身共同开发。”管理AI风险：训练数据需要升级AIRMF管理内容解决映射和测量风险，以最大限度地提高效率并减少不利影响。但ParityAI首席技术官陈家豪表示，数据质量问题可能会阻碍人工智能的风险管理。“当前模型训练数据的可用性不一定适用于现实世界，因为它可能已经过时了几年。我们必须考虑训练数据是否真正反映了当今世界的状况。”Adobe道德创新总监GraceYee说，“因为我们不再能够提供世界上最好的技术来创造数字体验。我们希望确保我们的技术具有包容性，并尊重我们的客户、社区和Adob??e价值观。具体来说，我们正在开发新的系统和流程来评估我们的AI是否正在产生有害的偏见。”纽约大学法学院的文森特·萨瑟兰(VincentSoutherland)表示，使用预测性警务工具可能会带来很大问题。“这些AI系统部署在整个犯罪系统中，从识别罪犯到他们何时被释放。但直到最近，人们还根本没有认识到这些工具所依赖的数据及其运作方式实际上有助于加剧种族不平等，并有助于扩大犯罪系统本身的弊病。“AI治理：很少有组织在这样做”bnh.ai的研究员PatrickHall说，在谈到AI治理政策时，除了大??型消费金融组织和其他几个受到高度监管的领域之外，没有人使用AI正式的治理指南，因此公司只能自己解决这些棘手的治理问题。微软首席AI负责人NatashaCrampton：“当您的治理方法过于分散时，就会出现失败的迹象。在这种情况下，团队希望将AI模型部署到生产中，但他们只是采用自己的流程和结构，彼此之间几乎没有协调。“富国银行执行副总裁兼企业模型风险总监AgusSudjianto也强调了对人工智能风险进行高层管理的重要性。”如果人工智能的负责人或管理者没有地位，没有信息来源，没有高层支持，就无法治理。“埃森哲云首席技术专家TeresaTung强调，所有企业都需要关注人工智能。”全球2000强企业中，约有半数在财报中提及人工智能。这是每个企业都需要意识到的。“与NIST开发的其他风险管理框架（例如网络安全框架）一样，最终的AIRMF可能对私营和公共部门产生广泛影响。NIST正在就2022年4月29日之前的草案征求社区意见。
