当前位置: 首页 > 科技赋能

想想都觉得可怕!谷歌旗下Deepmind的人工智能可以读取相似的想法并预测行为

时间:2024-05-22 15:42:56 科技赋能

关键信息:Deepmind的计算机科学家创建了一种人工智能ToMnet,它可以检测其他计算机的“想法”和“信念”。

并预测它们的下一步行为,这就是机器之间协作的开始。

研究人员本月在斯德哥尔摩国际机器学习会议上的一份报告中宣布了这一消息。

关键数据:ToMnet 由三个神经网络组成。

重要意义:理解他人的思想和信仰是人类和其他动物心理发展的关键阶段。

如果机器人能做到这一点,是不是离人工智能的威胁又近了一步呢?接触过 Siri 或天猫精灵的人都知道,数字助理无法从根本上吸引人们,因为它们不了解人们的想法和需求,无法像真正的人类朋友一样交谈。

他们需要心理学家所说的“智力”。

理论”,即理解他人的信仰和愿望。

现在,谷歌旗下 Deepmind 的计算机科学家创造了一种人工智能,可以检测其他计算机的“想法”并预测它们的下一步行动。

这也是机器之间协作的第一步。

加州大学伯克利分校的发展心理学家戈普尼克说:“心理理论显然是一项至关重要的能力,”因为到了 4 岁时,人类儿童就会明白,另一个人的信念可能会偏离现实,并且这些信念可以用来预测一个人未来的行为。

今天的一些程序可以识别“快乐”或“愤怒”的面部表情,这是一种与心理理论相关的技能,但它们很少理解人类的情绪或动机。

Deepmind 的新项目最初是为了让计算机能够被人类理解。

人工智能中使用的许多算法不是由程序员编写的,而是依靠机器学习来顺序解决问题,但计算机生成的解决方案往往是“黑匣子”,算法过于复杂,人类洞察力无法看到。

通过。

因此,DeepMind 的研究科学家 Neil Rabinowitz 和他的同事创建了一种名为“ToMnet”的人工智能思维理论,看看它是否可以通过观察其他人工智能来了解它们是如何工作的。

ToMnet 由三个神经网络组成,每个神经网络都由小型计算元素和从经验中学习的连接组成,类似于人脑。

第一个网络根据 AI 过去的行为学习其倾向;第二个网络了解人工智能当前的“信念”;第三个网络从其他两个网络获取输出,并根据具体情况预测人工智能的行为。

下一步行动。

在实验中,观察到的人工智能是一个简单的角色,它在虚拟房间中收集彩色盒子。

ToMnet从上方观察房间,发现有三种性格:一种看不到周围的墙壁,一种不记得最近的过去。

走过台阶,既能看到周围的墙壁,又能记住最近的台阶。

“盲人”角色倾向于沿着墙壁行走,“失忆症”角色移动到最近的物体,第三个角色形成一个子目标:以特定顺序策略性地抓取物体以获得更多分数。

研究人员本月在斯德哥尔摩国际机器学习会议上的一份报告中宣布,经过一些训练,ToMnet 不仅能够在几步之后识别角色的类型,而且能够正确预测其未来的行为。

信息。

最终测试表明,ToMnet 甚至可以了解一个人是否持有错误信念,这是人类和其他动物心智发展理论的关键阶段。

在这个测试中,一种类型的角色被编程为近视;当计算机在游戏中途改变视野范围之外的场景时,ToMnet 准确预测该角色比有视力的角色会更好地坚持下去。

因为它们对新环境的适应能力较差。

这项研究是神经网络令人惊叹的学习能力的一个例子,但这仍然无法将它们置于与人类儿童相同的水平。

乔什·特南鲍姆 (Josh Tenenbaum) 是麻省理工学院的心理学家和计算机科学家,他还致力于心智理论计算模型的研究。

他说 ToMnet 比他团队的系统更有效地注入信念。

但她补充道,ToMnet的理解能力与其接受训练的环境紧密相关,使得其在全新环境中的预测能力越来越弱,其系统的能力可能连小孩子都能做到。

戈普尼克指出,未来结合其他方法可能会为该领域带来“非常有趣的方向”,因为计算机正在开发一种社交能力,不仅可以改善与人类的合作,还可能改善欺骗。