在高度监管行业的企业在尝试部署人工智能时经常会遇到所谓的“黑匣子”问题，因为AI技术通常会自动执行任务并产生无法检测的问题。易于解释的输出银行正在努力审查机器学习(ML)模型和人工智能软件的透明度和可解释性。这些软件提供从欺诈检测到资产追踪的??一切服务。汇丰银行也不例外，但随着时间的推移，这家英国银行正在使用软件帮助其建立对算法的信任。这些算法容易出现偏差、数据漂移和其他可能给企业带来风险的问题。汇丰银行首席信息官GavinMunroe表示，随着消费者在冠状病毒大流行期间越来越多地采用数字服务，汇丰银行的努力对于提高客户对银行的信任至关重要。解释。“在向他们展示模型和解释我们正在使用什么的人工智能之间需要取得平衡，它还应该具有正确的质量、谱系和我们需要的最准确的数据，”门罗告诉记者。“我们认为我们无法在没有信任的环境中工作。”为什么银行对AI犹豫不决银行明白AI可以帮助他们实现自动化、扩大运营规模和保护客户资产，但如果他们无法向监管机构、审计委员会和消费者解释他们的算法是如何运作的，他们就不会这样做采用该技术。不信任在人工智能中比比皆是，算法助长了错误信息的传播和面部识别中的种族偏见。在监管机构的审查下，金融服务公司通常对他们用来支撑业务的技术持谨慎态度，因为偏见可能会阻止合格人员获得贷款。因此，根据Gartner的研究，只有4%的首席会计官表示在2019年使用了人工智能。该公司还发现，79%的企业高管将金融业不愿采用人工智能归因于“对未知的恐惧”。当他们确实使用人工智能时，通常是作为对冲欺诈交易的手段，而不是作为数字产品和服务的加速器。Munroe说，在金融领域采用人工智能的关键是信任。他将建立对人工智能的信任的重要性比作增加安全带、速度计和汽车其他安全功能。“如果你不控制它，你就会在组织中承担很多固有的风险，”Munroe补充道。“我们不能允许数据模型存在固有偏差。“随着消费者在大流行期间希望消费更多数字服务，建立信任将变得尤为重要。汇丰银行发现，通过WhatsApp和微信等社交媒体服务、点击支付和其他非接触式技术进行的交易已经在增加。使用Munroe说，必须密切监控此类服务，因为随着越来越多的资金开始通过银行的数字足迹流动，将会有更多的欺诈风险。这包括从典型的信用卡欺诈到涉及涉及COVID-19检测的虚假交易的机会主义诈骗的一切”，Munroe补充说。为AI部署护栏为了帮助汇丰银行验证其人工智能模型并巩固其提供的数字服务，Munroe正在使用CognitiveScale的软件，此前该开发商的CortexCertifiai软件专注于降低业务风险。CognitiveScale执行主席ManojSaxena，表示CortexCertifiai可以帮助企业解释预测g由机器生成并揭示AI开发过程中的基础数据类型、数据集、ML模型和偏差，他将该解决方案描述为人工智能的测量工具，可以充当可信AI的超文本传输??协议。从2007年到2014年领导IBMWatson解决方案的Saxena表示，该软件还将有助于识别“数据漂移”，它可以告知ML模型中包含的数据信号是否随时间发生变化。自COVID-19爆发以来，数据漂移已成为一个主要问题，随着客户的购买模式转向在线购买，从卫生纸到个人防护设备的任何商品的购买量都猛增，迫使零售商面临供应链挑战。这些不断变化的动态正在产生新的数据，必须将这些数据纳入模型中。银行这处于劣势，因为他们当前的AI模型急于考虑新的消费者模式产生的数据。例如，如果一个人在大流行封锁之前从未在网上购物，但突然在亚马逊上购物，Munroe说，这将在银行的欺诈检测系统中发出信号。Munroe说：“有些模型不能反映我们在Covid上的现实情况。””。“但随着数字采用的持续和加速，将会出现哪些规范？”CortexCertifiai使用“信任指数”来量化AI模型的数值分数，这将帮助汇丰银行的数据模型解释这些新行为，这对于满足至关重要客户的需求。“当核心决策被委托给机器时，这是关于与客户建立忠诚度和信任，”Saxena说。CognitiveScale正在将其软件应用于广泛的业务案例。Saxena说，在另一个概念验证中，一家公司正在使用CortexCertifiai将客户呼叫交互式语音响应系统时引导至正确的支持联系人。这场伟大的偏见之战的解决方案似乎是为银行量身定做的。尽管银行仍对能否信任人工智能模型持怀疑态度，但他们将全部赌注押在了此类新兴解决方案上。尽管CognitiveScale已经从包括NorwestVenturePartners、IntelCapital、MicrosoftVentures、WestlyGroup和USAA在内的投资者那里筹集了5000万美元的资金，但无论它是否达到了为软件行业增加价值的最佳点，围绕该公司的炒作可能是只是被笼罩在它上方的怀疑主义所取代。研究AI可解释性的Gartner分析师SaniyeAlaybeyi表示，使用决策树和回归算法的预测模型在历史上一直存在偏见，尤其是那些包含数千个if/then/else语句的模型。“这些问题都不是新问题，也不是神经网络独有的，”Alaybeyi说。她说，灌输对AI信任的关键是确保软件开发人员在将它们交给企业之前通过彻底的测试和验证提供高质量的AI模型。根据Alaybeyi的说法，障碍规划将是满足所有利益相关者需求的关键。在这一点上，汇丰表示认同。“将风险和合规融入我们的文化并不是事后才想到的，”Munroe说，“设计和解决方案的固有特性也需要内置的控制和透明度。”
