我们对人工智能的期望是否过高？公司及其高管还应该在多大程度上依赖AI提供的输出？这是12月初在纽约举行的AI峰会上今天举行的小组讨论的主题，该小组讨论的重点是AI在金融服务中新兴角色的风险，但讨论对所有行业都有广泛的影响。（我有机会共同主持会议并主持小组讨论。“我们认为人工智能正在告诉我们一些事情，但它并没有，”Aible首席技术官RodButters警告说。“它只是一堆代码。它不知道。这是我们都陷入的幻想。不知何故，我们认为该模型已经体现了一些东西。现实是人工智能只是一个统计引擎，在许多情况下，一个糟糕的统计引擎。今天，有了人工智能，“人工智能是最伟大的系统AgenticGroup创始人兼董事总经理、世界伦理数据基金会顾问委员会成员RikWillard说：“人工概念中的风险。所有这一切都是由人类完成的。这都是由人类执行的。当我们看看风险与回报，它只与金融机构和围绕这些机构的监管框架一样好。我们是支持我们在技术和经济算法之前构建的东西的同一个人，或者我们是否正在努力使这些算法更好、更具包容性？”此外，人工智能AntWorks全球金融服务副总裁DrewScarano表示，e仍然是一项相对不成熟的技术。“十年前，我们甚至不谈人工智能，但今天，它是一个价值数十亿美元的产业，”他说。斯卡拉诺说。“我们可能是如此依赖这项技术，以至于我们忘记了循环中的人类以及他们如何补充人工智能。”情报在实现预期结果方面发挥着不可或缺的作用。另一个挑战是人工智能系统往往是相对孤立地构建的。Butters警告说，AI只是代码，那些构建这些代码的人对业务的价值感知可能是有限的。出纳员，”他说。“那是两套糟糕的工作，而且行不通。数据科学家正在努力做正确的事情，创建一个负责任和可靠的模型，但基于什么？最终，当他们建立模型时，除非他们有这个结合创建透明度、创建可扩展性，实际上是在战略中，并在战术上将??其传达给业务社区，谁负责？仅仅创建一个伟大的模型并不一定能解决所有问题。Scarano说，在构建数据模型的过程中，数据科学家需要了解业务目标，同时考虑到对人类的影响。“你可以让工程师建造一座伟大的桥梁。所以如果它不超出其意图，它就是一座伟大的桥梁，对吧？我担心商业人士，特别是金融服务业的人。只是继续过度依赖技术.我们需要一种与人类共存的整体方法。超越AI的技术和统计数据，关注最终为客户服务的产品，Scarano敦促道。最终，客户现实、客户成功和客户满意度。与会者一致认为，人工智能服务于业务目标的路径依赖于建立一个一致的框架来指导其发展。“我在一个快速失败的环境中长大，”威拉德说。“你构建代码，测试它，然后修复损坏的东西。你在旅途中修复它。你构建它，它有点工作，你让它松散，然后根据反馈的输入随着时间的推移改进它循环。然而，AI的问题在于我们将其置于判断的位置。就像在刑事司法系统中，它可以造成很多伤害，直到你做对为止。在银行系统中，它是贷款，不是贷款；分数，没有分数；或信用，没有信用。我们如何构建具有大规模启动所需准确性的测试框架和沙箱，同时在此过程中造成更少的伤害？跨金融服务的人工智能交易有多种用途，但风险在于帮助建立交易的人类素质的非人性化。“今天，我们可以将AI用于从批准信用卡到批准抵押贷款再到批准任何类型的贷款设施的所有事情，”Scarano说。“但是，如果没有人为干预，就不可能理解一个人比信用评分更重要，一个人不仅仅是被批准或拒绝抵押贷款。客户体验是金融服务的基础，这需要处于所有AI计划和中心的最前沿。在AI驱动的系统中，需要包含人工输入的反馈回路。“当我们实施基于AI的解决方案时，我们需要确保使用该产品的最终用户，客户也对这项投资进行了投资，并对解决方案感到满意，”Run:AI的解决方案架构师RobertMagno说。“让机器人在仓库中自主移动包裹非常有意义。但是从客户服务的角度来看，如果与聊天机器人交互的人感到沮丧，则需要有一个反馈循环以确保您正在实施的解决方案与客户产生共鸣，他们喜欢这种体验，随心所欲地创造体验.
