当前位置: 首页 > 科技观察

LLVM之父ChrisLattner:为什么我们需要重建AI基础设施软件

时间:2023-03-18 11:37:41 科技观察

人们曾经想象AI的愿景非常美好,但现状并不尽如人意。AI在自动驾驶、新药研发等日常应用中并没有实现最初的预测。普遍的抱怨是,全球科技巨头聚集了一大批最聪明的大脑,但他们仍然专注于思考广告的精准投放和信用评分。在不太聪明的“智能”扬声器上。理论上,只要有正确的算法和足够的计算资源,人工智能就可以解决任何可用数据所代表的所有问题。现在数据、算法、硬件资源足够丰富,人工智能造福社会的条件都具备了。我们看到了人工智能的广泛应用和初见成效,但实际上技术应用并不深入,远未发挥现有机器学习研究的全部潜力。为什么会这样?事实比世界科技巨头和媒体对AI研究的更新更深刻。编译大师ChrisLattner曾指出,AI系统和工具的简单化和碎片化是造成这个问题的根源。为了解决这个问题,2022年1月,编译器大师ChrisLattner宣布下海创业,与TimDavis共同创立ModularAI。目标是重建全球的ML基础设施,包括编译器、运行时、异构计算、边缘数据中心并重,并关注可用性以提高开发者效率。目前,ModularAI团队已经参与构建了来自TensorFlow、TFLite、XLA、TPU、AndroidML、AppleML、MLIR等全球大部分生产机器学习基础设施,并将生产工作负载部署到数十亿用户和设备中.近日,ModularAI宣布完成由谷歌风投领投的3000万美元种子轮融资。在ChrisLattner等人最新发布的官方博文中,发出了“灵魂三问”:AI如此重要,为何软件如此不堪?为什么科技巨头不解决AI难题?如何解决这个问题呢?当然,他们也给出了答案。OneFlow社区对原文进行了整理整理。1AI这么重要,为什么软件这么不堪?AI软件最初是为构建AI技术的全栈研究人员、工程师和架构师设计的,从未被定义为产品,因此,AI软件在其底层设计中存在缺陷。这是大型科技公司为解决自己的问题而构建的软件,而其他企业则在涓滴基础设施上使用它。结果是,只有规模最大、最具商业影响力的AI应用程序才会在实践中构建和部署,即便如此,也只有在企业的需求与大型科技公司的内部需求紧密结合时才会实施。完成。为什么是这样?因为目前的AI软件非常单一,研究属性重,主要用于满足科技巨头(这些软件的开发商)的发展计划。这些软件是研究人员为了研究而创建的,人工智能的快速发展让研究人员没有时间停下来重建。相反,随着时间的推移,我们增加了越来越多的复杂性,使行业难以维护和扩展跨越研究和生产、培训和部署、服务器和边缘的分散的自定义工具链。它们之间存在差异。人工智能系统现在已经成为互不相容技术的海洋,只有综合性的科技巨头才有能力利用人工智能来实现他们的目标。2为什么科技巨头还没有解决AI难题?AI研究人员和开发人员共同努力使AI部署成功,科技巨头利用他们强大的计算和财务实力来推进他们的产品和核心业务优先事项,包括他们自己的云、电话、社交网络和AI硬件。尽管他们在该领域做出了突出贡献,但从商业角度来看,他们无法将AI推向世界(涵盖所有硬件、云和ML框架),世界其他地方也不能指望他们这样做。尽管如此,这一不幸的事实仍然限制了世界其他地区使用这项技术解决大型科技公司关注领域之外的问题的能力,包括世界面临的一些最重要的社会经济和环境问题。但这不是我们想要的未来。虽然巨头为人工智能的发展做出了巨大贡献,但要充分发挥人工智能的潜力,需要一家不优先考虑自己的硬件、云基础设施、手机开发或自己的研究的独立公司;同时,我们需要一个中立的公司来做最符合全球用户和企业利益的事情。我们需要将人工智能软件快速增长的经验教训融入下一代技术,为所有组织面临的各种问题提供可用的解决方案和通用标准。如今,如何突破产能、成本、时间、人才等限制,将人工智能投入生产,是中小科技企业面临的最紧迫问题。由于机会成本的考虑,他们的创新技术很难推广到市场,产品体验不好,最终会对他们的发展产生负面影响。对于整个社会来说,这意味着我们将不得不等待很长时间才能使用人工智能来解决世界上一些最大的问题。我们没有时间等待科技巨头逐步推出AI软件。AI可以改变世界,但前提是解决碎片化问题,并且全球AI开发人员社区不必为高质量的基础设施而苦苦挣扎。3谁来解决这个问题?怎么解决?Modular正在构建更实用、更快速、更灵活的下一代人工智能开发者平台。我们的平台通过通用接口统一了流行的人工智能框架的前端,并加强了各种硬件后端和云环境的访问和可移植性。我们正在重建核心开发人员工作流程工具,使其更具表现力、可用性、可调试性、可靠性、可扩展性和性能。我们的工具可以很容易地部署到现有的工作流程中,让用户无需重构或重写代码即可无缝地继续他们的工作,并以更低的成本实现生产力和性能的提升。我们将加快AI价值的挖掘,尽快推向市场,造福广大用户。当AI能够以更细微的方式渗透到应用程序中时,它的全部潜力将得以实现——这样您就不必围绕AI定义您的应用程序。我们的平台由模块化、可组合的基础设施组件构建而成,这些组件可以重新排列和扩展以支持各种用例。同时,各个领域的专家即使不了解整个系统是如何工作的,也可以通过我们的平台进行创新。我们亲眼目睹了模块化方法如何解锁我们过去未曾想到的新用例。为了真正修复AI基础设施,我们既需要解决“硬技术”问题(例如异构计算技术的编译器),又需要建立无缝的端到端开发人员工作流程。4从“AI研究时代”到“AI生产时代”我们的成功意味着全世界的开发者将获得真正可用、可移植和可扩展的AI软件。在新世界中,没有充足预算或顶尖人才的开发人员可以像全球科技巨头一样高效工作;人工智能硬件效率和总拥有成本(TCO)将得到优化;企业可以轻松插入自定义ASIC以适应他们的用例;部署到边缘就像部署到服务器一样简单;企业可以使用最适合其需求的人工智能框架;AI程序可以在硬件上无缝扩展,将最新的AI研究部署到生产中再简单不过了。我们将看到:人工智能产业的发展将不再受制于科技巨头根据自身需求制定的时间表;AI产业发展会更快更集中;创新将在堆栈的各个层面蓬勃发展,开发人员将专注于在他们的专业领域将新的创新推向市场,为我们所有人建设更美好的未来;产业发展日新月异,引领我们从“AI研究时代”走向“AI生产时代”。