透明度通常在道德商业困境中起着关键作用——我们拥有的信息越多，就越容易确定什么是可接受的和不可接受的结果。如果财务失调，谁犯了会计错误？如果数据遭到泄露，谁负责保护它，他们是否在做正确的事？但是，当我们寻找错误或问题的明确来源却找不到任何人时会发生什么？这就是人工智能提出独特伦理考虑的地方。人工智能在组织中显示出巨大的潜力，但它在很大程度上仍然是解决问题的方法。这是一个被误解的概念，其实际应用尚未在企业内得到充分实现。再加上许多公司缺乏以真正变革的方式应用AI的预算、人才和远见，AI仍远未达到临界质量并且容易被滥用。但仅仅因为AI在日常业务中可能不可见，并不意味着它没有在您的组织中的某个地方发挥作用。与商业中的许多其他道德困境一样，AI中的道德失误经常发生在暗处。无论是否有意，人工智能项目或应用程序打破道德界限的后果都可能是一场噩梦。避免人工智能道德失误的关键是从一开始就实施项目的公司治理。以透明和信任的方式构建人工智能到目前为止，我们都熟悉人工智能出错的流行例子。不能为深色皮肤顾客正常工作的皂液器、对白种人更准确的脉搏血氧仪，甚至预测罪犯是否会再次入狱的算法都是AI（可以说是无意的）有偏见的故事。这些情况不仅会产生糟糕的头条新闻和社交媒体的强烈反对，而且还会破坏更多合法的人工智能用例，如果继续以不信任的眼光看待这项技术，这些用例就不可能实现。例如，仅在医疗保健领域，人工智能就有可能改善癌症诊断并标记高风险再入院患者以获得额外支持。除非我们学会建立人们对人工智能的信任，否则我们不会看到这些强大解决方案的全部好处。当我与同行和商业领袖谈论AI时，我从一开始就支持AI工作的透明度和治理理念。更具体地说，这是我的建议：1.道德人工智能不可能在真空中发生如果实施不当，人工智能应用程序可能会产生重大的连锁反应。当个别部门或IT团队在没有监督的情况下开始试验AI驱动的流程时，通常会发生这种情况。团队是否意识到如果他们的实验出错可能会产生的伦理影响？部署是否符合公司现有的数据保留和访问政策？没有监督，很难回答这些问题。而且，如果没有治理，如果确实发生道德失误，可能更难召集纠正道德失误所需的利益相关者。监督不应被视为创新的障碍，而是确保人工智能在一定道德范围内运作的必要检查。监督最终应落在拥有它们的组织中的首席数据官，或者如果不存在CDO角色，则应落在首席信息官身上。2.始终有一个计划我们看到的关于人工智能项目出错的最糟糕的头条新闻通常有一个共同点：当事情出错时，其中的公司不准备回答问题或解释决定。监督可以解决这个问题。当组织的最高层了解AI和健康理念时，就不太可能被问题打得措手不及。3.尽职调查和测试是强制性的。有了更多的耐心和更多的测试，许多典型的人工智能偏见的例子都可以得到缓解。就像洗手液分配器的情况一样，一家公司展示其新技术的兴奋最终适得其反。在产品公开发布之前，进一步的测试可能会发现这种偏见。此外，任何人工智能应用程序都需要从一开始就经过严格审查。由于AI的复杂性和不确定的潜力，必须有策略地谨慎使用它。4.考虑人工智能监督能力为了保护客户隐私，金融机构投入了大量资源来管理对敏感文件的访问。他们的记录团队仔细分类资产并构建基础设施，以确保只有正确的工作角色和部门才能看到每一个。这种结构可以作为构建组织人工智能治理功能的模板。一个专门的团队可以估计人工智能应用程序的潜在积极或消极影响，并确定其结果需要多久审查一次以及由谁审查。试验人工智能是企业寻求数字化颠覆的重要下一步。它将人类工作者从平凡的任务中解放出来，并使某些活动（例如图像分析）能够以以前在财务上不谨慎的方式进行扩展。但这不能掉以轻心。人工智能应用程序必须在适当的监督下谨慎开发，以避免偏见、有道德问题的决策和糟糕的业务成果。确保您在组织内接受过有关AI工作的适当培训。最严重的道德失误往往发生在黑暗的地方。
