去年6月,Facebook人工智能研究部门的五名研究人员联合发表了一份研究报告,主要介绍了机器人如何模拟谈判对话。
虽然在大多数情况下,机器人确实设法保持对话连贯,但研究人员发现该软件偶尔会说一些奇怪的话,例如“对我,对我,对我,对我。
” “球没啥用。
”在看到这些研究结果后,Facebook人工智能团队清楚地意识到,他们一直无法有效地将机器人所说的话限制在日常言语的范围内。
换句话说,他们只是开发了一种独特的机器语言,机器人只能彼此使用。
至于这些研究结论,其他领域的人可能会觉得更有趣,但实际上,在专业人士眼中,根本没有什么新意,并不算是突破性的发现。
就在该研究报告发表一个月后,国外知名新闻媒体又发表了一篇题为“《人工智能正在投资那些人类无法听懂的语言,我们是否应该阻止这种趋势?》”的文章。
具体来说,文章主要讲了机器人经常出现的偏离日常英语交流的问题。
虽然这不是上述研究报告的主要结论,但外媒文章称,当他们发现机器人开始用一种全新的语言进行交流时,研究人员认为它们已经发展失控,决定停止整个过程。
实验。
文章一经发表,迅速在网络上传播,引起大批缺乏创新报道内容的出版商纷纷效仿。
他们都表示,Facebook 工程师感到恐慌,因为机器人可以用独特的语言自主交流,因此他们停止了人工智能。
智慧项目研究。
甚至有媒体指出,这种现象简直就是电影在现实生活中的再现。
因为在这部电影中,有一个机器人在实现自主后向人类发起了战争。
扎卡里·利普顿 (Zachary Lipton) 是卡内基梅隆大学机器学习系的助理教授。
看到这篇原本有趣的文章渐渐变成了各家媒体博取关注的噱头,他不禁有些沮丧。
利普顿表示,近年来,公众对“机器学习”和“深度学习”等话题越来越感兴趣。
但同时,也导致了许多“趁机”的低质量新闻报道的出现,给人们正确认识相关研究报告和行业发展前景带来了负面影响。
用他的话说,这是人工智能错误信息的传播。
事实上,除了利普顿之外,该领域还有很多研究人员也有同样的感受。
他们担心,有关人工智能的猜测和虚假报道会促使人们对行业发展前景产生错误预期,最终威胁到行业的发展进步以及相关新兴技术在现实生活中的高效应用。
事实上,媒体对计算机智能的夸大报道并不是我们这个时代所独有的。
它们从计算诞生之初就已经存在。
2018年2月,校车大小的电子数值积分计算机(以下简称Eniac)在新闻发布会上正式亮相。
当时,记者们称他为“电子大脑”、“数学极客”、“天气预报员和控制者”。
为了让公众真正了解这款新机器,不再被虚假夸大的消息误导,英国著名物理学家DR Hartree在《自然》杂志上发表文章,以直接、真实、简单的方式讲述了这个故事。
Eniac 的工作原理。
但令他沮丧的是,《伦敦时报》 根据他的研究发表了另一篇名为 《电子大脑:解决深奥问题、带有记忆阀门》 的文章。
随即,他给《伦敦时报》的编辑写了一封信,称“电子大脑”这个词会误导读者,并表示机器无法以任何方式取代人脑。
但遗憾的是,他的努力最终是徒劳的。
在媒体眼中,Eniac的身份和定义永远保持为“大脑机器”。
同样在美国,情况也十分相似。
弗兰克·罗森布拉特 (Frank Rosenblatt) 是康奈尔航空实验室的工程师和心理学家。
2008年,他在《纽约时报》上发表文章,正式提出了一种名为“感知机”的基础机器学习算法。
尽管按照设计,该算法只能识别几种模式,但《纽约时报》称其为“电子大脑”,并表示它可以自学,能够在短时间内走路、说话和写字。
、繁衍、重生,也充分意识到自己的存在。
诚然,人工智能可以带来令人陶醉的欢乐,也可以为大学和军队的研究人员带来巨大的资金支持。
但到了 20 世纪 60 年代,许多人工智能行业先驱者明显地意识到,他们长期以来低估了在机器中模拟人脑的难度。
2016年,曾公开表示机器智能最终将超越人脑的马文·明斯基与计算机科学家Seymour Papert联合出版了一本书,证明罗森布拉特的感知器算法无法完全实现相关专家之前的假设,同时还表示:它的情报水平远不如媒体报道的那样。
他们的书一经出版,就迅速在人工智能研究领域和其他领域传播,并意外地掀起了揭开人工智能真面目的新风潮。
2016年,著名哲学家休伯特·德雷福斯(Hubert Dreyfus)就这项技术和产业的发展发表了一篇名为《计算机所无法胜任的事情》的长篇且影响深远的文章。
一年后,英国著名数学家詹姆斯·莱特希尔(James Lighthill)发表了一份关于当前机器智能发展现状的调查报告,并得出结论:在整个人工智能和机器智能领域,截至当时的所有创新发现都未能存活。
达到预期。
显着影响。
此后,人工智能迎来了第一个萧条期,也是它的第一个寒冬。
在此期间,几乎所有相关研究都无法顺利获得资金支持。
就连一向热衷于利用“电子大脑”博取公众关注的新闻媒体,也失去了报道的兴趣。
尽管人工智能在20世纪80年代到90年代出现了轻微的复苏迹象,但在一定程度上仍然无法摆脱过时和科幻的标签。
要知道,计算机科学家长期以来一直试图避免人工智能与这些词联系在一起,因为他们担心公众会认为他们是白日梦者。
直到新一代研究人员开始发表文章,描述一种名为“深度学习”的新技术在现实生活中的成功应用,人工智能才真正度过了第一个寒冬。
虽然从本质上来说,“深度学习”仍然是一种与感知器算法高度相似的数据统计技术,但它在计算能力和数据集容量方面有了很大的提升,因此被应用于语音识别、图像识别等应用。
识别并在语言翻译等实际任务中具有广阔的应用前景。
随着越来越多关于深度学习的积极研究报告的发表,越来越多的大学生选择学习机器学习课程。
各家企业开始斥资数十亿甚至数百亿美元寻找高端技术人才。
与此同时,小型初创企业也开始积极拓展深度学习的应用领域,包括交通、医疗健康、金融等。
随着深度学习的普及,各种新闻媒体在沉寂许久之后,开始对人工智能进行热情报道。
2017年,John Markoff在《纽约时报》上发表了一篇关于深度学习和神经网络的文章,标题为《像人脑的计算机:从经验中学习》。
马科夫说:“未来几年,深度学习将催生新一代人工智能系统,可以完成一些简单的人类任务,包括看、听、说和操作。
”从那时起,我们就能够在新闻媒体上出现一些关于“人工智能末日”、“人工智能大脑”、“超级人工智能”和“Facebook的可怕人工智能机器人”等夸张的报道。
为了挑战自己,利普顿当时决定攻读机器学习博士学位。
他表示,随着越来越多的新闻媒体开始报道夸大的内容,研究人员心中的失望和沮丧越来越明显。
因为在他们看来,那些记者对深度学习技术的了解确实很浅薄。
抛开记者对深度学习技术的肤浅了解,利普顿发现,他们一无所知的社交媒体最让人恼火的地方,就是自称“人工智能网红”。
事实上,他们所做的只是在自己的网站上介绍埃隆·马斯克,内容质量低下,但好评很高。
用他的话说:“如果想要在人工智能领域取得实质性进展,首先需要确保广大受众了解最真实、最正确的信息。
但遗憾的是,现阶段呈现给公众的是与事实完全不符的信息,因此他们没有办法完全区分什么是重要信息,什么是不重要信息。
”当然,利普顿并不是第一个对人工智能发展泡沫表示担忧的人。
去年,美国机器人制造顶级专家罗德尼·布鲁克斯曾撰文批评人工智能行业对未来发展前景的过度假设。
2016年,纽约大学教授加里·马库斯也撰文指出,不真实的泡沫会导致对行业发展前景的错误预期,导致另一个寒冬的到来。
不过,利普顿在这个问题上却持有不同的态度。
他认为,目前夸大的泡沫不太可能导致下一个寒冬,但会误导人们的认识,导致最重要、最紧迫的问题被掩盖。
他说:“每个人都害怕做错事情。
我们可以看到,很多政策制定者会非常渴望开会讨论机器人的权利,而不是歧视问题,因为后者太笼统,感兴趣的人相对较少。
”人们。
”去年3月,利普顿推出了自己的博客,希望利用自己的力量“反击”那些产生较大负面影响的不实人工智能新闻,比如关于埃隆·马斯克和安东尼·莱万多夫斯基来自人工智能教会的粗制滥造的新闻。
目前,利普顿的博客已经受到了一些新闻媒体的关注,也培养了一批固定读者,但他清楚地知道自己能产生的影响力毕竟有限:“其实,这个行业真正需要的东西。
是一大批训练有素、诚实正直的记者队伍。
在实现这一目标之前,我自己的博客将永远如沧海一粟,如一粒不能激起千层浪的谷粒。
” “Joanne McNeil 是一位专注于新兴技术的专栏作家。
她还认为,科技行业记者的专业素质有待提高。
虽然她经常在推特上调侃一些《终结者》式的文章,但她仍然避免用尖锐的言语直接批评科技记者。
因为在她看来,人工智能出现虚假泡沫的原因之一就是资源分配不均。
“如果你将记者的收入与研究人员的收入进行比较,你很快就会明白为什么记者无法撰写专业深度的文章,因为他们无法与研究人员相提并论,”她说。
“说实话。
具有专业技术素质的记者、编辑数量很少。
如果人工智能研究人员真的关心记者撰写的报道内容,他们至少应该参与新闻撰写、报道或发布的过程。
适当增加记者的收入,毕竟他们要花费大量的时间和精力去深入探索相关的专业知识。
“正如澳大利亚国立大学工程与计算机科学教授 Genevieve Bell 所说,只有记者和研究人员才能走得更远。
只有加强彼此之间的合作,才能有效引导整个行业朝正确的方向发展。
根本不可能贝尔解释说,因为有关电子大脑或恶意 Facebook 机器人的文章并没有真正关注真正的技术,它们只是流行文化的希望和焦虑的反映。
多年来,我们一直在讲述无生命的事物的故事,这影响了我们理解行业当前发展的方式,也许专家们可以忽略他们的研究给公众留下的印象,但那些不切实际的期望或毫无根据的恐惧,所以,说到底,夸张和泡沫都是一种文化表现形式,我们不能完全忽视它。
“最后,利普顿。
他说,现阶段,不真实的猜想和真实的研究之间的界限非常模糊。
但历史告诉我们,这种模糊的界限最终必须被澄清,这样我们才能合理地区分什么是重要的,什么只是幻觉。
” 。