当前位置: 首页 > 科技观察

生成式AI的成本和可持续性

时间:2023-03-17 19:42:52 科技观察

AI对任何平台(包括公共云)来说都是资源密集型的。大多数人工智能技术都需要进行大量的推理计算。这些推理计算对处理器、网络和存储有更高的要求,也会带来更高的电费、基础设施成本和碳足迹。ChatGPT等生成式人工智能系统的兴起,让上述问题再次成为人们关注的焦点。鉴于这项技术的普及,以及企业、政府和公众可能大规模采用,我们可以看到电力消耗增长曲线中出现令人担忧的弧线。人工智能技术自1970年代以来就已经存在。由于成熟的人工智能系统的资源密集型工作,它最初并没有产生太大的商业影响。我记得当我在20多岁时设计一个人工智能系统时,它需要超过4000万美元的硬件、软件和数据中心空间来维持它的运行。剧透警报:该项目以及许多其他AI项目从未真正启动过。作为商业案例不可行。云计算改变了这一切。曾经遥不可及的事情现在有了公共云就足够划算了。事实上,正如你可能已经猜到的那样,在过去的10到15年里,云的兴起与人工智能的兴起大致吻合。我想说的是,它们现在是紧密耦合的。云资源的可持续性和成本你真的不需要做太多研究来预测这里会发生什么。对人工智能服务的需求将会激增,例如现在备受关注的生成式人工智能系统,以及其他人工智能和机器学习系统。这种激增将由寻求创新优势的企业引领,例如智能供应链,甚至成千上万的大学生希望生成人工智能系统来撰写他们的学期论文。对AI的更多需求意味着对这些AI系统使用的资源的更多需求,例如公共云及其提供的服务。这种需求很可能通过容纳高耗电服务器和网络设备的多个数据中心来满足。与任何其他公用事业资源提供商一样,公共云提供商将随着需求的增加而提高价格,正如我们看到家庭电费的季节性增长(也是基于需求)。因此,我们通常会减少使用量,例如夏天将空调开到24度而不是20度。然而,更高的云计算成本可能不会对企业产生同样的影响。企业可能会发现这些人工智能系统正在驱动一些关键的业务流程,而不是可选的。在很多情况下,他们可能会尝试在企业内部节省资金,或许可以通过减少员工数量来抵消AI系统的成本。生成人工智能系统将很快取代许多信息工作者已经不是什么秘密了。可以做什么如果运行AI系统的资源需求会导致更高的计算成本和碳排放,我们该怎么办?答案可能在于为AI寻找更有效的方式来使用处理、网络和存储等资源。例如,采样管道可以通过减少处理的数据量来加速深度学习。MIT和IBM的研究表明,您可以使用这种方法来减少在大型数据集上运行神经网络所需的资源。但是,它也限制了准确性,这对于某些业务用例来说可能是可以接受的,但不是全部。在其他技术领域中使用的另一种方法是内存计算。这种架构可以通过不将数据移入和移出内存来加速AI处理。相反,人工智能的计算直接在内存模块中运行,这大大加快了速度。其他方法也在开发中。例如,改变物理处理器,使用协处理器进行人工智能计算以提高计算速度,或者采用量子等下一代计算模型。您可以期待大型公共云供应商就如何解决其中许多问题发布大量技术公告。你应该做什么我的建议当然不是为了降低云费用或拯救地球而避免人工智能。人工智能是一种基本的计算方法,大多数企业都可以利用它来获取大量价值。我建议您在清楚了解直接相关的成本和对可持续性的影响的情况下,进入启用AI的或全新的AI系统开发项目。您必须做出成本/收益选择,而这实际上又回到了您可以为企业带来的成本和风险的价值。毕竟,没有什么新鲜事。我相信大多数问题,无论是内存还是量子计算,或者我们还没有看到的解决方案,都会以创新的方式得到解决。无论是人工智能技术提供商还是云计算提供商,都热衷于让人工智能更具成本效益和绿色。这是个好消息。资料来源:www.cio.com