使用人工智能的算法试图以意想不到的技巧解决问题，让他们的开发者感到惊讶。但与此同时，它引发了人们对如何控制人工智能的担忧。一群谷歌员工茫然地盯着电脑屏幕。几个月来，他们一直在完善一种算法，以引导无人驾驶热气球从波多黎各一路飞到秘鲁。但仍有不尽如人意的地方，气球在机器智能的控制下不断偏离既定路线。ProjectLoon是一个现已解散的Google项目，旨在通过气球将互联网带到偏远地区。作为项目负责人，SalvatoreCandido无法解释气球的运行轨迹。最后，他的同事们手动控制了系统，让气球回到了轨道上。直到后来他们才意识到发生了什么。出乎意料的是，气球上的人工智能学会了重现人类在数百年甚至数千年前发明的古代导航技术，例如“改变航向”，即操纵船只迎风，然后转向顺风.向外倾斜到大致方向之字形。在恶劣的天气条件下，自主飞行的气球学会了完全自行改变航向。他们自发地做到了这一点，让所有人都感到惊讶，尤其是参与该项目的研究人员。▲Loon项目中控制气球飞行的人工智能学会了逆风航行的技术“当第一个允许完全执行该技术的气球创造了从波多黎各到秘鲁的飞行时间记录时，我们立即意识到我们是被打败了，”坎迪多在一篇关于该项目的博客文章中写道，“我从来没有觉得自己既聪明又愚蠢。”如果任其自生自灭，很可能会发生这种情况。与传统的计算机程序不同，人工智能旨在发现和开发新的方法来完成人类工程师未明确告知的任务。然而，在学习如何完成这些任务的同时，AI有时会想出一种非常有创意的方法，甚至连一直在使用此类系统的人都会感到惊讶。这可能是一件好事，但它也可能使AI控制的一切变得不可预测并具有潜在危险。例如，机器人和自动驾驶汽车最终可能做出将人类置于危险之中的决定。人工智能系统如何“智胜”其人类主人？我们能否以某种方式限制机器智能以确保不会发生某些不可预见的灾难？▲随着AI开始应用于现实世界，了解它们是否能够做一些意想不到的事情很重要有一个AI创造力的例子似乎在AI研究界被引用最多。佐治亚理工学院的MarkRiddell表示，人工智能的能力真正令人兴奋的时刻是DeepMind的人工智能机器学习系统AlphaGo如何掌握了古老的围棋游戏，然后击败了世界上最好的人类棋手之一。DeepMind是一家人工智能公司，成立于2010年，并于2014年被谷歌收购。“事实证明，他们可以使用新的策略或技巧来对抗人类国际象棋选手，这些策略或技巧以前从未使用过——或者至少不为很多人所知，”Riedel解释。一局简单的围棋，也能激起人们不同的感受。一方面，DeepMind自豪地描述了其系统AlphaGo的“创新”，并揭示了围棋的新玩法，围棋是人类玩了几千年的游戏。另一方面，一些人质疑这种富有创造力的人工智能是否有一天会对人类构成严重威胁。在AlphaGo取得历史性胜利后，澳大利亚西悉尼大学机器学习、电子学和神经科学研究员JonathanTapson写道：“认为我们可以预测或管理人工智能最糟糕的行为是荒谬的。这实际上是不可能的想象他们会如何表现。”里德尔说，要记住的重要一点是，人工智能并不真正像人类一样思考。它们的神经网络的确是受到了动物大脑的启发，但更准确地说，它们是所谓的“探索装置”。当他们试图解决一项任务或问题时，他们不会对更广阔的世界有很多先入之见。他们只是尝试-有时数百万次-以找到解决方案。“我们人类有很多心理包袱，我们会考虑规则，”里德尔说，“人工智能系统甚至不理解规则，所以他们可以摆弄东西。在这种情况下，Riedel补充说，AI可以被描述为“学者综合症”的硅等同物，它通常指的是一个人具有严重的智力或学术上非凡的能力，天赋通常与记忆力有关。人工智能让我们惊叹的方式之一是它们能够使用相同的基本系统来解决根本不同的问题。最近，机器学习工具被要求执行一个非常不同的功能：下棋。该系统名为“GPT-2”，由非营利性人工智能研究机构OpenAI开发。GPT-2使用数以百万计的在线新闻文章和网页信息，可以训练它根据句子中的前一个词来预测下一个词。开发者SeanPlacer认为，国际象棋的走法可以用字母和数字的组合来表示，因此如果根据国际象棋比赛的录音来训练算法，该工具可以通过计算理想的走法顺序来学习如何下棋。Placer在240万场国际象棋比赛中训练了GPT-2系统。”看看国际象棋引擎让它成为现实真是太酷了，”他说，“我什至不确定它是否会起作用。但是GPT-2做到了。虽然还达不到专门设计的国际象棋电脑的水平，但已经能够成功下过高难度的棋局。Placer表示，他的实验表明，GPT-2系统还有很多优势有待解决。能够像具有国际象棋天赋的专家一样进行探索。当开发人员简单地训练它编写代码以在.这个人工智能生成了适当的代码，尽管只有简单的描述，比如“红色文本代表‘我爱你’和一个带有‘确定’的按钮”。显然，它已经掌握了网页设计的基础知识，但接受的训练却少得惊人。长期以来，人们对人工智能的深刻印象主要来自电子游戏领域。在人工智能研究界，有无数的例子揭示了算法在虚拟环境中的作用有多么惊人。研究人员经常在视频游戏等领域测试和完善算法，以了解它们到底有多强大。2019年，OpenAI因为一段视频登上了头条，其中展示了一个由机器学习控制的角色在玩捉迷藏游戏。令研究人员惊讶的是，游戏中的“寻找者”最终发现，他们可以通过跳到物体顶部来“冲浪”，从而进入“躲藏者”所在的围栏。换句话说，“寻求者”学会为了自己的利益而改变游戏规则。试错策略会导致各种有趣的行为，但并不总是成功。两年前，DeepMind研究员VictoriaKrakowna邀请她博客的读者分享人工智能解决棘手问题的故事，但其方式是不可预测或不可接受的。她编制了一长串引人入胜的例子。其中有一个游戏算法在level1结束时学习自杀以避免在level2死亡，它达到了在level2不死的目的，但是有一个特别令人印象深刻的Way。另一种算法发现它可以在游戏中跳下悬崖，将对手引向毁灭；就这样，AI获得了足够的额外生命点数，无限循环地不断重复这种自杀战术。纽约大学Tandon工程学院的视频游戏AI研究员JulianTogelius正试图解释发生了什么。他说，这些是“奖励分配”错误的典型例子。当AI被要求完成某事时，它可能会找到奇怪且意想不到的方法来实现它，并最终证明这些方法是正确的。人类很少采用这样的策略，指导我们游戏方式的方法和规则非常重要。Togelius及其同事发现，当在特定条件下测试AI系统时，会揭示这种目标导向的偏见。在最近的一项实验中，他的团队发现被要求投资银行的游戏AI角色会跑到虚拟银行大厅附近的一个角落，等待他们的投资回报。Togrius指出，该算法已经学会将跑到拐角处与获得金钱奖励联系起来，尽管该运动与其获得多少奖励之间没有实际关系。Togrius说，这有点像AI发展迷信，在他们以某种方式受到奖励或惩罚后，他们开始思考为什么会得到它。这是“强化学习”的陷阱之一。所谓“强化学习”，就是人工智能最终会根据自己在环境中遇到的情况，设计出判断错误的策略。人工智能不知道它为什么会成功，它只能根据学习到的联想来采取行动。这有点像人类文化的早期阶段将祈祷仪式与天气变化联系起来。▲鸽子可以学会将食物与某些行为联系起来，人工智能也会表现出类似的耦合行为，一个有趣的例子是鸽子也会有这样的行为。1948年，一位美国心理学家发表了一篇论文，描述了一项不同寻常的实验，他将鸽子放在围栏中，并间歇性地用食物奖励它们。鸽子们开始把食物和他们当时正在做的事情联系起来，时而拍打翅膀，时而跳舞。然后他们重复这些行为，似乎是在期待接下来的奖励。旧问题的新方法Torgelius测试的游戏AI与心理学家使用的活体动物之间存在巨大差异，但Torgelius认为相同的基本原理似乎在起作用。奖励错误地与特定行为相关联的机制。人工智能研究人员可能会对机器学习系统选择的路径感到惊讶，但这并不意味着他们对机器学习系统感到敬畏。“我从来没有觉得这些AI有自己的想法，”DeepMind的深度学习研究科学家RayaHadsell说，她试验了许多AI系统并发现它们对她或她的同事有用。意想不到的问题提出了有趣和新颖的解决方案。她说，这正是研究人员应该致力于增强人工智能的原因，这样他们就可以做人类无法独立完成的事情。Hadsell还认为，使用人工智能的产品，比如自动驾驶汽车，可以经过严格的测试，以确保任何不可预测性都在一定的可接受范围内。“你可以根据经验证据对行为做出合理的保证，”她说。在这一点上，只有时间才能证明所有销售人工智能产品的公司是否都如此谨慎。但与此同时，值得注意的是，人工智能表现出意想不到的行为绝不仅限于研究环境，而是已经进入商业产品。2020年，在德国柏林的一家工厂，由美国强化学习机器人公司Covariant开发的机械臂展示了一种令人意想不到的分拣物品的方式，当它们沿着传送带传递时。虽然没有专门编程，但控制手臂的人工智能学会了瞄准透明包装的中心，以确保它每次都能成功抓取物品。由于物品是透明的，重叠时可能会混合在一起，不精确的瞄准意味着机器人可能无法拾取物品。“它避免了物体的重叠角，而是针对最容易拾取的表面，”Covariant联合创始人兼首席执行官PeterChen说。“这真的让我们感到惊讶。巧合的是，Hadsell的团队最近试验了一种机械臂，它可以通过按形状对孔进行分类来选择不同的物品。起初，机器人的手臂有些笨拙，但在人工智能的控制下，它不断地拾起、捡起物体。放下物件去学习；最终，机器人可以在物体处于正确位置时抓住物体，并将物体轻松放入适当的孔中，而不是试图用钳子摆弄它。所有这些都证实了OpenAI研究经理JayKeren的观点，即人工智能的探索性是其未来成功的基础。近年来，Keren一直在与世界各地的同事合作，收集AI以意想不到的方式开发问题解决方案的例子。“随着我们继续扩展这些人工智能系统，我们可以看到它们正在做一些创造性和令人印象深刻的事情，而不仅仅是学术上的好奇心，”伦说。“如果人工智能系统能够找到更好的方法来诊断疾病，或者向有需要的人提供应急物资，它们就可以挽救更多的生命。人工智能有能力找到解决旧问题的新方法，”Keren补充道。...但他也认为，开发此类系统的人需要对其不可预测的性质持开放和诚实的态度，以帮助公众了解人工智能的工作原理。毕竟，这是一把双刃剑。AI的承诺与威胁始终同时存在，他们接下来会想到什么？这是一个有趣的问题。
