当前位置: 首页 > 科技赋能

亚马逊云技术的“Q”到底是什么?

时间:2024-05-19 16:49:35 科技赋能

作者|北京时间11月28日凌晨,亚马逊云技术re:Invent大会在拉斯维加斯举行。

这场被称为“云计算春晚”的盛会,今年有很大不同。

当然,原因不同,最近生成式人工智能的爆发——ChatGPT 出现已经整整一年了;以ChatGPT、Stable Diffusion、Runway等为代表的生成式AI应用掀起了热潮,将世界带入了新时代。

我们都看到了生成人工智能重塑我们所做的一切的巨大潜力,从获取信息到生产内容和产品。

亚马逊云技术对如何在企业中应用生成式人工智能做了一些研究。

研究结果显示,75%的应用集中在四个方面:营销、客户、软件工程和研发。

而那些尝试将生成式人工智能引入工作场景的公司往往发现结果并不令人满意。

现有的生成式人工智能产品面向个人用户,基于互联网、图书数据库和维基百科的大量数据进行训练。

无法针对企业的具体业务问题提供针对性的建议;而如果这些AI工具向企业提供内幕知识,反过来可能会导致隐私和数据安全问题。

具体来说,这些通用的生成式人工智能应用程序不了解企业的??业务、数据、客户、运营或员工;他们不知道用户的具体工作、当前任务的信息环境以及可用的数据源。

这极大地限制了生成式人工智能应用程序的能力。

而且,目前这些面向个人用户的产品不具备企业所需的安全和隐私功能,无法保护员工日常工作中的数据和信息安全。

此类信息泄露事件近期层出不穷,许多公司都禁止员工在工作中使用ChatGPT——其中包括OpenAI最大投资者之一的微软。

如果企业自行开发AI应用,不仅需要大量的时间和投入,而且也很难随着业务的进展而持续更新。

企业的人工智能应用应该像企业的信息资源管理一样是分层的、权限设置的;它应该能够与其他工具配合并集成到企业的工作流程中;应能够根据公司的信息政策和可信信息来源进行审查,并且应能够保证隐私和数据安全。

显然,这并不容易。

这种困境本质上类似于云服务出现之前IT基础设施建设的困境。

解决方案可能会有所不同。

亚马逊云技术首席执行官 Adam Selipsky 在今年的主题演讲中表示:“围绕生成式人工智能的创新是爆炸性的。

我们相信生成式人工智能应该为工作中的每个人提供帮助。

这就是 Amazon Cloud Technologies 推出 Amazon Q 的原因:一款专为工作而设计的企业生成式 AI 助手。

它可以利用企业的私有知识来完成任务,也可以与亚马逊云技术的众多产品配合使用,帮助企业提高运营和开发效率。

它是一款通用型产品,客户可以根据自身情况灵活配置,让客户公司的每一位员工都能充分发挥生成式AI的优势——自然语言理解、信息提取、内容生成,这些都是生成式的人工智能的优势。

“拥有最广泛和最深入的能力非常重要,”塞利普斯基说。

“我们开始利用亚马逊云技术提供的服务彻底重新思考 IT 基础设施。

”这可能是今年亚马逊云技术最重要的版本。

在企业生成式AI应用方面,亚马逊云技术率先给出了答案。

毕竟,生成式人工智能对于个人和企业来说存在巨大差异。

企业想要利用人工智能提升效率,就必须依靠善于服务企业的资深专家。

那么,什么是亚马逊Q? 01 Q来自Amazon Q的提问,结合近期的热点新闻,留下了很大的猜测空间。

最主流的是“Q”来自于问题。

这是有道理的。

毕竟,公司及其员工都是通过解决问题来创造价值的。

企业用户的生成式AI应用应该解决哪些问题?企业背景下的生成式人工智能应善于准确回答企业内部知识相关的问题;能够从大量文档和数据源中提取高价值信息以辅助决策;并能够从多个数据源获取数据生成的内容,无论是编写营销文案还是编写业务代码。

如果你打开配置好的Amazon Q,你会发现它的界面与市场上其他生成式AI聊天应用程序没有太大区别。

如果被要求“写一篇引人注目的文章,介绍专业人士如何在时间管理方面表现出色,并保持一个字或更少”或“根据这份关于可持续设计办公空间的报告创建一份格式精美的报告。

“总结”,还可以完成相应的任务。

但最重要的是看不见的:它的数据和信息的来源是用户自己企业的私有知识,而且这个知识是安全的。

不难看出,这样的提示词与使用ChatGPT等生成式AI应用时几乎没有区别;如果有的话,那就是在使用其他个人生成人工智能时缺少“角色扮演”步骤。

这是因为 Amazon Q 了解用户定义的角色,了解该角色的工作范围,并了解该角色的工作目标。

角色设置已经存在于公司的组织结构和职位安排中,这种企业知识可以成为 Amazon Q 的隐性知识。

接下来,在某个数据中心中,Amazon Q 搜索它有权访问的索引数据源,使用生成式 AI 功能生成内容,并提供数据源供用户审核。

亚马逊云技术首席执行官 Adam Selipsky 在主题演讲中表示:“您可以轻松地与 Amazon Q 聊天、生成内容并采取行动。

这一切都基于您对系统、数据存储库和操作的理解。

”除了这些生成式AI功能之外,考虑到企业的使用环境,Amazon Q还有其他特殊功能。

首先是基于用户权限的访问控制:Amazon Q 可以了解用户的身份、角色和权限。

如果用户没有权限在没有 Amazon Q 的情况下访问某些数据,则无法使用 Amazon Q 访问该数据。

当然,管理员可以进行设置以允许将特定响应限制为特定员工或数据源。

其次,它能够与其他常用的企业应用程序协作。

Amazon Q 可以连接超过 40 个流行的企业应用程序和文档库:包括 S3、Salesforce、Google Drive、Microsoft、ServiceNow、Gmail、Slack、Atlassian 和 Zendesk 等,并且可以从这些应用程序中获取数据并将其传输到 Connect进入工作流程。

三是避免产生不符合企业政策的内容。

Amazon Q 具有管理控制功能,允许您阻止整个主题并使用关键字过滤问题和最终答案。

管理员还可以限制响应,使响应仅来自企业数据,而不是底层大型模型的世界知识,以避免臭名昭著的“幻觉”现象被纳入年度词汇中。

第四,最重要的是数据和信息安全。

为 Amazon Q 提供支持的模型是 Amazon Web Services 提供的底层模型,包括 Amazon Web Services 的 Titan 系列。

这些模型没有使用客户数据进行训练。

Amazon Q 在构建时就考虑到了安全性和隐私性,旨在帮助客户满足最严格的企业需求。

这是一款面向企业用户的生成式人工智能应用,是适合客户企业的业务专家。

不过,塞利普斯基表示,这只是“我们将继续重新定义工作的未来”的开始。

02 Q 来自《星际迷航》 有些人认为Q 这个名字来自《星际迷航》。

众所周知,亚马逊创始人杰夫·贝佐斯是《星际迷航》的粉丝,公司里类似的粉丝还有很多。

在这部长篇连续剧中,有一个叫Q的外星种族,他们基本上是无所不能的,而且会根据情况变化成最合适的形象与人类交流。

这个观点听起来……确实有一定道理。

Amazon Q是通用的生成式AI助手,但也可以与特定业务结合;例如商业智能分析工具Amazon QuickSight、客户联系工具Amazon Connect、企业供应链服务Amazon Supply Chain等。

Amazon QuickSight 是一项为云构建的商业智能服务,过去曾提供自然语言查询功能。

在Amazon Q的支持下,能力得到了进一步的提升。

除了更轻松地生成可视化之外,客户还可以使用 Amazon Q 生成数据故事、摘要并讨论开放性问题。

统计学家 Hans Rosling 表示,数字很无聊,但人很有趣。

如果您希望数据给人们留下深刻的印象、增强说服力或推动决策,您需要将其打包成数据故事。

用户可以询问诸如“描述上个月业务发生了哪些变化,以便向领导层报告”之类的问题。

或“为我编写一个有关整体销售业绩趋势的故事。

按产品和区域划分数据。

” Amazon Q 着眼于数据对业务可能意味着什么,然后提出好的问题并在 Amazon QuickSight 中可视化数据,以便在几秒钟内为用户提供工作基础。

Amazon Q 快速创建摘要,突出显示仪表板中需要注意的重要事项,帮助用户了解数据中的重点内容。

Amazon QuickSight 识别有价值的事实和统计数据,然后使用生成式 AI 来描述值得注意的趋势。

这些关键见解是使用自然语言描述的,帮助用户节省查看详细数据仪表板的时间。

用户还可以与 Amazon Q 讨论悬而未决的问题,例如“为什么上个月订单数量增加了?”或“我该如何应对销量下降?”; Amazon Q 将动态创建数据仪表板,汇总??详细信息,并提供相应的视觉效果。

以前,即使使用 SQL 等查询语言也无法回答此类问题,但 Amazon Q 可以帮助用户获得见解。

现在,宝马正在使用 Amazon QuickSight 中的 Amazon Q 来优化库存管理,帮助分析师在几小时而不是几天内构建数据仪表板。

Amazon Connect 是一个云联络中心,可为您的企业提供客户体验。

在Amazon Q的帮助下,企业员工可以快速成为优秀的客户服务人员,并能够快速、准确地响应客户需求。

Amazon Q 可以根据客户与客户服务之间的实时对话来检测客户问题,然后自动响应、提出建议并列出相关信息。

此类应用程序可以提高客户满意度,同时降低培训客户服务人员和解决问题的成本。

它会自动建议客服人员应该说什么和应该采取的行动,以便为客户提供更高质量的服务。

它还会在通话结束后生成通话后摘要,使 CX 高管可以轻松跟踪后续步骤。

亚马逊云技术亚马逊供应链中的Amazon Q可以让供应链管理者和供需规划者随时了解供应链的状况,还可以探究原因并生成解决方案。

问题“什么?”、“为什么?”和“如果……怎么办?”都可以向Amazon Q询问,是否是“我的发货被延误的原因是什么?”或者“如果我跳槽到另一家物流公司会怎样?”如何? ”,Amazon Q 会将复杂场景的结果可视化,还可以提出问题来比较和分析不同决策的利弊。

听起来 Amazon Q 真的很像《星际迷航》中的Q。

03 Q来自《》 也有少部分人认为Q这个名字来自《》系列。

Q是这个系列的技术专家,也是最著名的皇家特工的好帮手。

他总是想出一些新颖且有用的道具来帮助拯救世界并杀死所有人。

这种说法或许也有道理,就像 Claude 这个名字来源于信息论创始人克劳德·香农 (Claude Shannon),Mac 上著名的生产力工具阿尔弗雷德 (Alfred) 是以蝙蝠侠无所不能的老管家命名的。

Amazon Q 确实是一位技术专家。

它经过亚马逊云技术17年积累的知识和经验的培训,是亚马逊云技术服务的绝对专家。

用户可以询问有关 Amazon 云技术产品的问题、搜索 Amazon 云技术服务的运作方式、探索架构解决方案的最佳实践、获取故障原因和解决方案,或者请求 Amazon Q 帮助选择满足其需求的产品。

满足特定需求的最佳云服务产品。

对于以上所有类型的问题,Amazon Q 都会给出明确的答案,并列出海量文档和记录中的引用来源。

在过去,这些检索和判断是一项艰巨的工作,而且往往是困难的挑战。

现在,用户可以提出任何问题以获得更详细的答案,而 Amazon Q 可以解决这个问题。

不仅。

今年4月,亚马逊云技术发布了AI编程助手Amazon CodeWhisperer。

这是一款强调安全的AI编程助手。

它使用亚马逊云技术自己的代码训练,与Github Copilot使用大量开源代码不同。

现在,Amazon Q 还与 Amazon CodeWhisperer 集成,将构建软件的专业知识与对客户代码的理解结合起来。

软件工程师可以与 Amazon Q 聊天以了解程序逻辑,这使得维护旧代码不再那么令人畏惧;他们还可以在 Amazon Q 的帮助下调试代码、编写测试和优化代码,以加快开发过程。

这些新功能现已在 Amazon CodeCatalyst 和 VS Code 等代码编辑工具中提供。

开发人员将任务分配给Amazon Q,Amazon Q起草分步计划并编写代码;开发人员只需查看 Amazon Q 提出的建议,进行一些更改,然后批准即可。

Amazon Q 还可以自动生成测试并评估代码质量。

现在知名咨询公司 Accenture 已开始使用 Amazon Q 来帮助发展其业务。

他们希望使用 Amazon CodeWhisperer 和 Amazon Q 来支持 50,000 名软件开发人员和 IT 人员。

此外,Amazon Q 可以完成开发人员回避的工作:维护和升级应用程序。

最近,由 5 名 Amazon Cloud 开发人员组成的小团队使用 Amazon Q 转码在两天内将 3 个应用程序从 Java 8 升级到 Java 17,每个应用程序的平均升级时间不到 10 分钟。

过去,手动升级一个程序大约需要两天时间。

“我真的相信 Amazon Q 是革命性的。

” Adam Selipsky 表示,“我们希望从事不同类型工作的人们都能从 Amazon Q 中受益。

”亚马逊云技术的初衷是降低客户的技术应用门槛,对于Amazon Q也是如此。

配置只需点击几下:首先,提供应用程序名称并设置一个供 Amazon Q 运行的新身份;其次,选择一个检索器从索引中提取数据;最后,连接数据源,等待索引完成。

然后,您可以随时在云服务控制台调用该AI助手。

当然,和《》系列中的Q一样,Amazon Q也需要整个团队的支持。

对于Amazon Q来说,有底层所使用的大模型、企业用户自身的知识以及强大的计算和存储能力的支撑。

在今年的re:Invent大会上,亚马逊云科技发布了其AI堆栈,包括从自主研发的AI训练芯片Trainium 2、大型模型管理和训练平台Amazon Bedrock到Amazon Q的诸多产品和服务。

Amazon Q的能力都是基于Amazon Q来实现的。

关于这些技术。

在此基础上,用户既可以直接连接自己的数据源使用Amazon Q,也可以通过Zero-ETL功能将自己的知识库转换为向量数据库,通过Amazon BedRock提供的功能选择合适的大模型,添加Fine-tune或继续预训练,以满足您自己企业定制的生成式AI的需求。

毕竟,与去年不同,AI已成为看得见的趋势,实验室里粉丝的疯狂轮换已转化为现实世界的生产力提升;而亚马逊云技术认为,释放AI潜力的关键是使用自己基于独特业务数据的定制。

04 Amazon Q是商业生成AI的起点。

面向个人的生成AI已经流行一年了,面向商业的生成AI的竞争也已经开始。

无论是微软的Colipot,还是谷歌的Duet AI,它们都已深入云服务,希望成为企业用户的好帮手。

不同的是,亚马逊云技术利用其基础设施和全栈优势,利用Amazon Q连接从硬件到软件、从产品到服务的诸多关键点。

Constellation Research分析师Holger Mueller表示:“亚马逊云技术已经构建了一系列跨服务能力,而Amazon Q是下一阶段的发展。

” Amazon Q正试图为亚马逊云技术提供的所有服务添加一个统一的助手,减少这家市场份额最大的云服务公司所面临的复杂挑战。

而复杂性正是这个快速变革的时代最不可或缺的。

生成式AI的兴起为云服务商开辟了新的蓝海,也正在加速云服务商的转型。

在快速变革的时代,我们唯一依靠的就是创新和适应;正如塞利普斯基所说,“适应能力是你能拥有的最有价值的能力。