尽管随着年龄的增长越来越多的组织开始使用人工智能技术，但许多企业并没有清楚地了解它是如何工作的。在本文中，我们探讨了AI缺乏透明度的利弊。当基于规则的软件编程不再能够解决计算世界想要解决的问题时，现代人工智能诞生了。不可能对程序必须测量的所有条件进行编码，因此计算专家设计了模仿人类思维方式的机器，让AI通过观察数据自行学习。这种称为神经网络的方法催生了人工智能技术，例如面部识别程序、癌症检测算法和自动驾驶汽车。但神经网络需要权衡：我们无法理解系统的工作原理，而且AI模型缺乏透明度。这种现象被称为黑盒AI，事实证明这是一个问题，而且可能是一个严重的问题。黑盒AI的权衡AI通常以准确率百分比来衡量，即系统能够给出正确答案的程度。根据手头的任务，所需的最低准确度可能会有所不同，但即使是99%的准确度也不能成为AI价值的唯一衡量标准。我们还必须考虑到AI的主要缺点，尤其是在将其应用于业务时：具有近乎完美准确性的AI模型也可能存在问题。随着模型准确性的提高，AI解释为什么得出某个答案的能力下降，给企业留下了一个问题：模型缺乏AI透明度，因此我们人类无法相信其结果。因为，我们可能不知道最终的算法会演化成什么，会不会造成严重的后果，一切皆有可能。黑盒问题在AI技术的早期阶段是可以接受的，但当算法偏差被发现时就失去了它们的价值。例如，AI已被开发用于根据种族对无行为能力的人进行分类，而用于银行的AI根据性别筛选不合格的贷款申请人。人工智能训练的数据不均衡，无法包含足够多的人的数据，人类决策的历史偏差也传递给人工智能算法模型。人工智能还表明，近乎完美的模型仍然会犯严重错误。准确率为99%的AI模型可能会对剩余的1%产生错误，例如将停车标志分类为限速标志。就像，在一个千万人口的大城市，百分之一的数量不容小觑。虽然这些是错误分类或数据不足的一些最极端的案例，但它们仍然凸显了AI算法存在缺陷的可能性。人工智能遵循一种模式来得出答案，它的神奇之处在于它胜过人类。同样的道理，模式的异常变化使得模型容易受到攻击，这就是为什么我们需要AI透明度，我们需要知道AI是如何得出结论的。尤其是在利用人工智能做出关键决策时，理解算法的推理过程和逻辑关系势在必行。旨在检测癌症的人工智能模型（即使有1%的错误率）也可能危及生命。在这种情况下，AI和人类需要共同努力，当AI模型能够解释它是如何做出某个决定时，任务就会变得更容易。人工智能的透明性使其成为团队合作者。从法律的角度来看，有时透明度是必要的步骤。数据分析行业的思想领袖PiyankaJain表示：“一些受监管的行业，例如银行，正在接受模型可解释性作为在模型投入生产之前获得合规性和法律批准的必要步骤。”其他案例涉及GDPR或《加利福尼亚消费者隐私法》，其中AI处理私人信息。“GDPR的一个方面是，当使用个人私人数据的算法做出决定时，人类有权提出该决定背后的原因，”AI软件公司的首席科学官兼联合创始人CarolinaBessega说。斯特拉迪吉人工智能。看起来AI是透明的性有很多好处，但为什么所有的算法都是不透明的？AI透明度不足就像可以解释某个决定是如何实现的算法一样，它也可以成比例地变得更容易被破解。通过了解AI的推理，黑客将能够更轻松地愚弄算法。“在欺诈检测中不鼓励人工智能透明度，”杰恩解释说。“我们希望更少的人知道我们如何抓到欺诈——网络安全领域也是如此。一般来说，当我们尝试使用人工智能来抓坏人时，我们希望更少的人知道底层逻辑，而人工智能就可以做到这一点。””AI透明度的另一个问题是专有算法的保护，因为研究人员已经证明，仅通过查看其解释就可以窃取整个算法。最后，透明算法更难设计，它们只能应用于更简单的模型，在至少暂时。如果透明度是必须的，它可能会迫使企业和组织使用不太复杂的算法。如何取得平衡像任何其他计算机程序一样，AI需要优化。为此，我们查看特定问题的具体需求,然后调整通用模型以最适合这些需求。在实施AI时，组织必须注意以下四个因素：法律需求：如果需要从法律和法规的角度解释工作，那么别无选择，提供透明度。为此，组织可能不得不求助于更简单但可解释的算法。透明的。这样的任务很可能不会完全依赖人工智能，因此拥有推理机制可以改善与操作员的团队合作。如果AI影响某人的生活，例如工作应用程序中使用的算法，这同样适用。另一方面，如果人工智能的任务不是很关键，那么一个不透明的模型就足够了。考虑一种算法，该算法建议下一个潜在客户接触具有数千个潜在客户的数据库，交叉检查AI的决策根本不值得。访问权限：根据谁有权访问AI模型，组织可能希望保护算法免受不必要的影响。即使在网络安全领域，如果可以帮助专家得出更好的结论，那么可解释性也是好的。但是，如果外部人员可以访问相同的资源并了解算法的工作原理，则最好使用不透明模型。数据集：无论如何，组织必须始终努力拥有多样化和平衡的数据集，最好来自尽可能多的来源。最终，我们将尽可能地依赖AI，而AI的智能程度取决于它所训练的数据。通过清理训练数据、去除噪声和平衡输入，我们可以帮助减少偏差并提高模型的准确性。大数据应用助推“智慧住建”提效升级，实战演练出真本事，铸就国家网络安全新长城。李进：阿里云开启了技术服务的“新长征”。已发布的网络安全政策学习！【责任编辑：江华电话：（010）68476606】
