人工智能已经成为我们日常生活的一部分，你不能否认这一点。来自几乎每个行业的财富1000强企业领导者都积极参与AI计划。全球大中型企业正在加速创新，利用AI的诱人前景来增加收入、增加利润并发现产品和服务的新价值。尽管人工智能发展迅速，但董事会和首席执行官在人工智能语言素养和风险管理实践方面仍然远远落后。AI的崛起就像一场风暴，一场完美的风暴可能正在酝酿，但很少有董事会和CEO能够回答这个问题：你的AI算法和AI模型在哪里，AI算法或模型是否存在风险？AI发展迅猛：2020年7月上旬发布的最新全球研究报告指出，AI市场年复合增长率超过42%，美国AI市场规模超过7337亿美元.根据MITSloanResearch的数据，超过90%的大型企业正在使用AI来改善他们的客户互动过程。AI创业投资的兴起让人想起互联网时代的牛市，但你可能还记得2002年3月牛市暴跌76%，让人们意识到价值实现和盈利的重要性。根据CBIInsights数据，2019年，AI初创企业共融资266亿美元，涉及全球2200多笔交易。疫情的人工智能解决方案。平均而言，到2022年，对高级分析的投资将超过总体市场预算的11%。随着组织将人工智能和机器学习工具纳入其业务流程，与人工智能软件相关的支出到2025年将达到1250亿美元。您可能认为董事会和CEO可以轻松了解其所有AI算法和AI模型所在的位置，非常了解风险状况，并能够通过明确的KPI和ROI展示价值交付。不幸的是，许多企业被采用黑盒AI实践的AI计划所吸引，这意味着没有明确的问责制，没有透明度，更不用说审计风险了。董事会董事和首席执行官知道他们的员工在哪里（无论是远程办公还是在办公室）以及就客户服务或个人问题联系谁。然而，恐怕没有一家跨国公司的董事会或CEO能在不到五分钟的时间内拿出公司所有AI算法或AI模型资产的完整清单，也不知道模型最后一次修改是什么时候.没有可靠的、经过第三方验证的风险分类证据。随着数据民主化成为AI的基础，我们必须提高AI和机器学习的相关KPI，让AI的KPI比财务的KPI更重要，从而提高透明度，就像审计师受到利润受托责任的约束一样和损失报表。世界正在发生翻天覆地的变化，数据已经成为我们最具战略意义的资产，但很少有企业成为数据管理实践的标杆，他们不知道数据被设计、收集和存储在哪里，以启用和跟踪AI转型能带来的影响的价值。尽管许多公司都投资于机器学习运营(MLOps)，但很少有公司建立了AI卓越中心，而MLOps是其中的核心竞争力。NewRelic最近的一项研究发现，在接受调查的750名全球高级IT决策者中，89%的人认为人工智能和机器学习对组织的IT运营至关重要。近84%的受访者认为人工智能和机器学习将使他们的职责更易于管理。这种乐观的预测将加速数据管理实践的持续改进，这是人工智能建模和风险管理实践的关键。在过去的18个月里，笔者与500多位全球大型B2B公司的C级高管进行了交流，发现没有一家公司能够在5分钟内回答以下大部分问题。为了在游戏中保持领先，您需要适当地提出各种与AI相关的问题。每个使用AI算法构建定制AI模型以解决特定问题或业务挑战的项目都应该能够回答以下问题：使用场景历史AI模型AI模型/算法用于什么？AI模型/算法解决什么业务问题或挑战？在设计、构建和实施各种用例之前，业务对AI模型和AI方法的初始估计投资回报率是多少？AI模型所有权的历史谁写的算法或AI模型开发？流程负责人目前还在公司吗？考虑到AI模型和算法方法的风险，AI模型是否有二级流程所有者？算法和模型结构是否经过创建者以外的人审查？审稿人是谁？创建和修订历史AI模型或AI算法是什么时候建立的？AI模型或AI算法自首次投入生产以来，修改了多少次？正在使用哪个？人工智能算法的类型？算法开源吗？或者是否有人编写了独特的AI算法来解决独特的业务挑战？AI算法或模型方法的数学结构或数学公式是什么？历史人工智能算法？三方专家验证准确性？谁负责监督正在使用的AI算法模型？开发AI模型的数据类型（结构化/非结构化数据）和数据源（内部、外部、两者）是什么？数据集有多大？数据集在分析之前是否已清理？如果是，由谁以及通过什么方法？AI模型中使用的数据的来源、质量和准确性如何？与所有历史版本相比，预测准确性的基准分数是多少？人工智能模型和人工智能算法是否有风险分类，是否有风险缓解计划？开发的人工智能模型是否经过数据偏差测试？使用了哪些数据偏差方法？进行了多少次数据偏差风险评估？上一次审查和优化/重新训练AI模型是什么时候？AI算法或模型的价值实现AI模型在ROI方面为组织带来了什么价值？效率或效果值是否能够明确定义投资回报率？第一个用例的ROI/价值结果预测与实际AI产生的ROI结果有多大差异？AI价值结果是否经过金融或第三方专家的验证、审核或签字？如果是，是否已提交报告？这种AI模型方法与其他行业最佳实践相比如何？是否有有效的AI模型或文档？过程改进计划？监督AI卓越中心以跟踪AI模型的演变，尽管还有许多其他中心，董事会和CEO可以从风险评估和运营流程治理的年度审计开始不幸的是，AI模型大多都是由数据科学家开发的，计算机程序员或专业服务公司（第三方供应商），他们都致力于构建特定的AI模型，无论是预测美国热点地区的第二波疫情，还是利用AI来无人驾驶机器在预测害虫对收获季节的影响，或者预测收入，并确保AI方法的潜在风险管理实践，在大多数情况下，设计和构建AI模型的参与者都是善意的。董事会和首席执行官必须认识到，人工智能素养是他们发展和培养人才所需的一种新能力。人工智能模型需要持续优化才能在生产中取得成功，而投资于现代化数据管理基础设施是保持数据和机器学习相关性的关键。如果管理层不监控AI模型的生产环境、重新训练模型并随着时间的推移添加其他数据源以增强模型洞察力，他们就会犯错。人工智能就像建造一座花园。施肥除草是长期投资，收获美丽。人工智能不是雕塑，你不能建立一个模型并在未来几年内将其保持在原始状态。有人说AI是新石油，但我更愿意说AI是新氧气，因为AI越来越无处不在，就像气候变化一样，潮起潮落无处不在。如果你想看到你花园里生长的一切，你需要有远见卓识来明智地计划。不幸的是，对于董事会和首席执行官来说，许多技术领导者或首席信息官并不擅长人工智能和数据科学实践，这进一步增加了企业实施人工智能所面临的风险。首席数据官(CDO)和首席数据科学家官(CDSO)的兴起推动了AI的发展、模型构建和风险管理实践，尽管大多数公司都投资于必须保护算法和AI的数据支持系统。模型安全性保持一致。董事会和首席执行官有责任确保人工智能审计和风险管理框架得到妥善实施，以推动人工智能治理向前发展。
