专访联合国首席人工智能顾问：我们期待人工智能是完美的，但它永远不会完美看人工智能面临的主要挑战。人工智能在各个行业和政府中广泛应用的例子，曾经在科幻小说中就有过。但是现在，我们不必像许多电影中那样担心被机器人仆从推翻。相反，今天有更大的问题影响着我们的生活。例如，为了更大的利益，我们应该如何以及何时共享数据，以及我们应该何时保留数据以供专有使用？面部识别等特定人工智能应用是否合乎道德？我们如何确认人工智能的结果是可信的？您如何知道AI何时存在偏差以及如何解决？由于美国政府政党轮换的现状，这些问题是首要考虑的问题。政府和企业中正在进行的许多项目将在未来几年受到这些问题的影响。为深入了解AI的重大问题，《信息周刊》采访了联合国首席人工智能顾问、与联合国共同主持AIforGood全球峰会、作者本书《拥抱AI革命》。以下是那次谈话的一些摘录。现在使用的AI最有趣的是什么？它实际上是一个叫做“人工同理心”的领域。虽然机器感觉不到情绪，但我们已经能够教他们如何识别人的情绪。肢体语言的使用、说话的语气，甚至是词语或手势的选择，都是可以帮助机器学习实时解读一个人情绪状态的数据点。人们非常关注它如何帮助有心理健康问题的人。英国有一个名为ProjectRainbow的组织，为家庭暴力的受害者提供帮助（即使用聊天机器人帮助人们识别他们是否是虐待的受害者）。它并不能真正替代人际关系，而是一个安全的空间，无论一天中的什么时间，人们都可以随时参与其中。这是一个良好的开端。有很多工作要做——目前可能有25种解决方案正在使用。从事这些项目的人需要了解心理学和语言学，但治疗师尚未研究人工智能，因此这是一个新兴领域。但是，人们正在试验一些基本工具。另一方面，我认为这项技术之所以被搁置，是因为很多人认为这是不可能的：机器无法理解人的情绪。实际上，现在我们已经看到了，情况已不再如此。我认为这将开辟更多的可能性。NeilSahota机器是如何训练的？它是心理学的结合：不同的情绪状态和与之相关的某些事物，以及运动机能学、肢体语言、语言学和实际编码语言能力的教学。因此，即使是对我们来说看似微妙的事情，比如使用“伙伴”而不是“朋友”这个词，实际上也传达了很多意义。什么样的训练数据被用来向机器传授人类情感？是危机中心通话记录还是客服通话记录？可能是那些东西，但实际上我们发现社交媒体上的数据非常好。人们可以使用为大学或工作面试而写的论文，但他们实际上可能不会使用真实的声音。我们可以获得越多真实世界的真实声音类型越好。社交媒体是一个很好的来源。是否有可用的开源数据库？数量不多，数据本身就是一个挑战。数据是我们这个时代的新能源，人们显然不愿意分享它，至少在货币化之前是这样，这显然已经成为一个障碍。有些数据我们真的不应该分享。但是，即使每个人都不能使用这些数据，每个人都不愿将其泄露出去也会造成其他困难，尤其是在医疗保健方面。我们没有足够的数据来做一些我们想做的事情来推进医学研究。医学研究的挑战是什么？他们如何克服它们？不幸的是，机器不能自己理解事物，我们需要数据来训练它们，如果你想让它报告可能的发现或疾病，你必须有大量的数据。特别是对于肺部，您需要针对健康的肺部、1期癌症、2期癌症、肺气肿等进行肺部X光检查。您需要大量此类数据集。克利夫兰诊所或梅奥诊所等很多地方可能没有足够的数据来实际执行此操作，他们要么通过治疗越来越多的患者来获取数据，要么从其他合作机构获得许可，例如拥有研究中心的大学和研究中心。联合国正试图创建一个不含PHI（个人健康信息）的医疗保健数据库，这可能会产生大量可供研究人员实际使用的数据。这是你在联合国从事的项目之一吗？是的！基本上每个人都同意将他们的数据存储在那里以供一般使用，但会剥夺身份信息。它为每个人提供了更大的数据集。在从事这个项目时，基本上你会去一些医疗保健组织并说：嘿，如果我们可以共享这些数据不是很好吗？那不是很有价值吗？我很乐意，强烈主张！因为我们故意不分享并放慢自己的速度。我们已经看到这样的例子，一家公司走上了另一家七年前尝试过的研究道路，却发现自己陷入了僵局。结果是浪费了人们的时间、精力和金钱。肺癌是发展领域吗？它们实际上已经是肺癌的解决方案。SloanKettering有一个，并用它来检测X射线中的肺癌。该系统现在的准确率约为90%，但机器所能做的就是诊断癌症，除此之外别无他法。SloanKettering会把它授权给其他机构应用吗？现在？没有。他们自己使用它，因为这是他们的核心力量。我们不习惯竞争，不习惯社会企业。你可以选择赚钱，也可以是非营利组织。两者都可以！在联合国工作中，在你向一些组织推销之前，先说说一些挑战：“嘿，让我们分享你的数据？这是好事。”即使他们不知道如何使用数据或不使用他们的数据，也不希望其他人利用他们拥有的数据致富。我们现在真的不知道如何评估数据。有些人会更加开放或具有前瞻性思维，我不确定在这里使用正确的短语，但认识到实际分享这些内容的公司会增加每个人的机会。水涨船高。同样，这与大多数组织传统上习惯的思维方式不同。当今世界人工智能面临哪些重大挑战？实际上有两个核心要素。一个是道德问题，需要一个负责任的人工智能系统，仅仅因为可以做某事并不意味着我们应该做。另一个大问题是对技术的真实性和信任，我们期望人工智能应该是完美的，但它永远不会。我们会犯错误，我们的训练也有缺陷，因为人们有内在的偏见。这些确实是我们现在面临的两大挑战。相关报道：https://www.informationweek.com/big-data/ai-machine-learning/how-ai-can-save-the-world-or-not/d/d-id/1340217?【本文为栏目组织大数据文摘原译，微信公众号“大数据文摘（id：BigDataDigest）”】点此查看作者更多好文
