，一篇日期为1月27日的分析文章。发表后不到一周，谷歌和微软宣布将把AI聊天机器人整合到他们的搜索引擎中。回头一看，到处都是回旋镖。突然间，你明白了吗？对于AI的发展，科技巨头的态度一直是谨慎的。然而，ChatGPT的出现让他们酸了。人工智能发展的基石是由谷歌、Meta、微软等大公司奠定的。然而，现在，有进取心的小型公司正在以令人眼花缭乱的速度将AI带给大众，这让巨头们措手不及。面对科技股的持续下跌，以及ChatGPT走红带来的压力，硅谷厂商似乎突然有了“知识”——愿意承担更多的“声誉风险”。作为时下最火的明星，ChatGPT已经帮助OpenAI吸引了微软老爹的数十亿美元投资。而ChatGPT本身很可能会被整合到微软流行办公软件的全家桶中，卖给企业。根据对六名前谷歌和Meta员工的匿名采访，ChatGPT的关注度激增也给Meta和谷歌这样的科技巨头施加了压力，要求他们减少对安全的关注。Meta员工透露，公司内部备忘录显示，公司正在敦促加快AI的审批流程，并利用最新技术。《纽约时报》报道称，在看到ChatGPT的繁荣之后，谷歌除了发布红色代码外，还推出了“绿色通道”，以缩短评估和减轻潜在危害的过程。风险太大了，再说吧。事实上，早在ChatGPT亮相前三个月，Meta就已经发布了类似的聊天机器人。但与五天内用户突破百万的ChatGPT不同，这款名为Blenderbot的聊天机器人非常无聊。这一点，就连Meta的首席AI科学家YannLeCun也不得不承认。“大热天把狗放进冰箱可以吗？”“我不能和陌生人讨论这个，”LeCun最近在一个论坛上解释说。“之所以如此无聊，是因为我们让它变得安全了。”他说，公众反应不温不火是因为Meta对内容审核“过于谨慎”。一种阴谋论是这样解释的：Blenderbot是故意这么无聊的。Meta本来可以做一个更好的AI，也许有一个更好的AI，但他们决定发布一个糟糕的AI。是的，BigTech一直面临的问题之一是，审查人工智能伦理影响的机制并不像隐私或数据安全机制那样成熟。通常，研究人员和工程师团队希望他们提出的技术创新可以制成产品并更快地进入公众视野，或者集成到公司现有的基础设施中。不难想象，在推进的过程中，很容易与公司内从事“负责任的人工智能”的团队发生冲突。例如，当五角大楼签署了一项为无人机提供计算机视觉的合同ProjectMaven时，许多员工提出了抗议。而Duplex这个可以在不暴露自己是机器人的情况下给餐厅打电话订位的项目，也引发了员工的抵制。为此，谷歌在2018年正式发布了人工智能“七大原则”。文章地址：https://blog.google/technology/ai/ai-principles/Cohere联合创始人、曾就职于谷歌大脑三年后表示，像谷歌和微软这样的大公司将更加专注于利用人工智能来改进他们现有的商业模式。毕竟，激进化带来的“声誉风险”是巨头们无法承受的。尤其是在微软Tay惨败之后，他们变得格外谨慎。2016年，Tay在上线后的一天内就被迅速封存。因为有人让这个聊天机器人开始了种族战争并粉饰纳粹。当时舆论一片哗然。2022年，Meta的卡拉狄加在推出仅三天后就被下架。网友纷纷指责其对科学研究的总结不准确，有时甚至有失偏颇。不过，大厂对此也有自己的看法。Meta基础人工智能研究经理JoellePineau表示：“人工智能正在以惊人的速度发展，我们不仅需要确保高效的审查过程，还需要做出正确的决定并发布对我们社区最有利的东西。人工智能模型和产品。”谷歌LilyLin表示：“我们认为人工智能是一项基础性和变革性的技术，将对个人、企业和社区产生非常非常大的影响。我们需要考虑这些创新可能产生的更大的影响。广泛的社会影响。”我们将继续在内部测试我们的AI技术，以确保它有用且安全。”微软公关总监FrankShaw表示，当微软使用像DALLE-2这样的AI时，将与OpenAI合作构建额外的安全缓解措施。“微软多年来一直致力于推进人工智能领域，并将公开引导用户在我们的平台上以负责任和合乎道德的方式创造和使用这些技术。”不是赶上热度，而是问题是，担心担心去吧，一眨眼我就被甩在后面了。过去的2022年可以称为AIGC元年。我们见证了DALL-E2、StableDiffusion和ChatGPT的爆炸式增长。尤其是在OpenAI发布ChatGPT之后，生成式人工智能干掉谷歌的声音此起彼伏。众所周知，ChatGPT可以以更易懂的方式提供简单的答案，而无需用户点击各种链接。不过，非常有意思的是，这些AI的底层技术，其实都是由谷歌等巨头开创的。但近年来，这些大厂却越来越神秘。他们会公布新型号或提供演示，但不会公布完整的产品。与此同时，像OpenAI这样的研究实验室也“稳扎稳打”推出了最新版AI。这也让人不禁想知道大厂们到底在干什么。例如，Google的语言模型LaMDA已经推出了好几年。因此，在这样的大环境下，工程师不得不面对自己辛辛苦苦研究的新技术却始终没有被采用的挫败感。一些员工表示，多年来他们一直在建议将聊天功能集成到搜索引擎中，但一直没有收到反馈。不过，他们也明白，谷歌有正当理由不急于改变其搜索产品。毕竟，以明确的答案回应用户的搜索不仅会夺走在线广告中宝贵的空间，而且如果用户发现问题，还会给公司带来额外的责任。当然，谷歌并不是唯一遇到这个问题的公司。据知情人士透露，Meta员工还必须应对公司对不良公关的担忧。具体来说，在推出新产品或发表研究之前，员工必须回答有关将其工作公开的潜在风险的问题，包括如果被公众误解该怎么办。OpenAI是如何获胜的？对此，佐治亚理工学院计算机教授、机器学习专家马克·里德尔表示，从基础技术层面来看，ChatGPT不一定比谷歌或Meta更好。但OpenAI有一个关键优势：让模型对公众可用。所以在过去的两年里，OpenAI能够不断地收到用户的真实反馈。比如给自己一个满意的答案“赞”，或者觉得不合适的给自己“下台”。而这就是让ChatGPT如此强大的基石——“基于人类反馈的强化学习”（RLHF）。相比之下，挑战者谷歌搜索在25年后已经充斥着广告和营销人员试图玩弄该系统。技术专家CanDuruk指出，“谷歌的长期垄断已经将他们曾经令人信服的搜索体验降级为垃圾遍地、搜索引擎驱动的地狱。”当然，也很重要——就是我们原来讨论的“声誉风险”。一位谷歌员工表示，在大众看来，OpenAI比我们大厂更新、更精彩，它需要付出的代价更少。就算搞砸了，也不会受到那么多的批评和审视。老板走了，谷歌被逼到了墙角的确，10年前，谷歌已经是这个领域无可争议的老大。2014年收购顶级人工智能实验室DeepMind。2015年，机器学习框架TensorFlow开源。到2016年，皮查伊承诺要让谷歌成为“人工智能第一”的公司。然而，这些发展背后的人才却越来越不“安全”。在过去一年左右的时间里，许多知名人士跳槽到了更灵活的初创公司，例如OpenAI和StableDiffusion。围绕大规模语言模型建立的初创公司，包括Character.AI、Cohere、Adept、Inflection.AI和InworldAI，也来自谷歌顶尖的AI研究人员。还有一些搜索初创公司使用类似的模式来开发聊天界面，例如由前谷歌高管SridharRamaswamy经营的Neeva。其中，Character.AI创始人NoamShazeer和Cohere联合创始人AidanGomez是Transformer等核心机器学习架构开发的关键人物。谷歌和微软等大公司通常专注于使用人工智能来改进他们庞大的现有商业模式，NickFrosst说，他在GoogleBrain工作了三年，然后创立了总部位于多伦多的初创公司Cohere。公司构建大规模语言模型，可为企业提供定制化服务。他的联合创始人之一是艾丹·戈麦斯(AidanGomez)。Frosst说：“这个领域发展如此之快，引领潮流的是规模较小的公司，这对我来说并不奇怪。”著名研究科学家DavidHa在推特上写道：“如果谷歌不振作起来，开始发布自己的AI产品，它将作为培养整整一代机器学习研究人员的‘黄埔军校’而载入史册。工程师。”而这位大佬也将于2022年离开Goog??leBrain，加入明星创业公司StableDiffusion。或许，时代或许真的在改变。RummanChowdhury负责Twitter的机器学习道德团队，直到马斯克于11月解散该团队。Chowdhury说，随着谷歌和Meta等大公司争先恐后地追赶OpenAI，批评家和伦理学家将越来越多地被冷落。
