当前位置: 首页 > 科技观察

如何在AI项目中使用Kubernetes

时间:2023-03-20 10:45:01 科技观察

在AI项目中使用Kubernetes有什么好处?人们可以了解Kubernetes如何帮助优化AI项目性能和成本的真实用例。根据一份对科技公司和软件开发商进行调查的云原生调查报告,容器在生产中的使用比上一年增加了84%,达到了惊人的92%。Kubernetes的使用率比上一年增长了78%,达到83%。以下是Kubernetes如何帮助优化AI项目的性能和成本的两个真实用例。Kubernetes用例#1:基于AI的需求预测系统的数据工程1.项目描述许多酒吧和餐厅采用POS收银软件和场地管理系统,并且随着时间的推移,积累了大量的历史销售数据。MobiDev的技术人员希望将人工智能算法应用到这些数据的分析中,在之前的销售中找到规律,并对每个时期的下一个时期做出预测。公司为此开发了基于人工智能的需求预测系统,并将其作为一个独立的模块集成到系统中。2.需要解决的问题由于人工智能计算需要大量的资源,所以最初使用的是AWSEMR云服务中的虚拟机。采用该系统的酒吧或餐馆越多,基础设施的运营成本就越高。当机器学习算法在处理每天的销售数据时,人工智能模块的CPU负载可能会突然出现,而其他时间是空闲的。为了降低基础架构成本,MobiDev使用DockerSwarm手动管理计算资源。在最小可行(MVP)开发阶段,使用Kubernetes没有意义,因为它需要大量的研究和采用时间。然而,随着酒吧或餐馆数量的增加,需要一种新的数据工程方法来提供自动化和可扩展性以及成本优化。3、使用Kubernetes解决的技术任务(1)定期收集历史数据脚本。(2)数据存储在Kubernetes内部运行的数据库中。(3)历史数据更新成功后的人工智能脚本。(4)与AI仪表板交互的API。(5)显示AI脚本结果的AI仪表板。4、使用Kubernetes解决业务任务Kubernetes允许自动扩展,提供实时的计算资源优化。(1)性能和成本优化值得一提的是,在Kubernetes上,同量数据计算相同逻辑的AI脚本返回结果的速度比AWSEMR快得多,同时消耗的计算资源也比EMR少。在Kubernetes上,与之前的EMR生产环境相比,相同数量的站点平均运行AI模块脚本所需的时间减少了90%。(2)可靠性提高系统稳定性是从AWSEMR转向Kubernetes的一个关键原因。在EMR上,脚本启动有时会因未知原因而失败,日志中也没有提供任何有用的信息。(3)可扩展性改进在AWSEMR上,项目开发受限于未来新增站点的最大数量。Kubernetes消除了限制和自动缩放,这对于快速增长的项目至关重要。5.项目总结Kubernetes上的系统提供更快的结果,消耗更少的计算资源,让客户降低AWS计费成本,并确保稳定和可预测的产品交付。Kubernetes用例#2:AI视频监控系统的数据工程MobiDev涉及的另一个Kubernetes用例是视频监控系统中用于面部模糊功能的智能计算资源的自动扩展。该系统由以下应用组成:前端、后端、后端队列、基于AI的人脸虚化功能。Kubernetes被用作所有这些应用程序的协调器。当有新的视频处理请求进来时,后端会在KubernetesAPI的帮助下自动扩展,并自动添加更多工作人员来处理请求。Kubernetes的未来Kubernetes的分布式架构和可扩展性补充了机器学习和人工智能。随着这些技术的不断成熟,2021年将是Kubernetes领域快速增长的一年。人们需要记住的是,采用工具本身并不是目的,而是为了支持业务目标。2020年,几乎所有的企业都将面临意想不到的变化。Kubernetes能够通过使用云原生生态系统构建的解决方案来加速应用程序开发服务,同时允许使用具有延展性的应用程序和数据,从而使企业能够通过平台和应用程序的现代化取得成功。