当前位置: 首页 > 科技迭代

AI巨头的能源贪婪一次训练就能杀死3000辆特斯拉

时间:2024-02-22 12:39:34 科技迭代

如果我开玩笑问ChatGPT最大的贡献是什么,我认为它对全球变暖有一定的贡献。

著名自然语言处理专家、计算机科学家吴军4月在接受媒体采访时表示。

随着ChatGPT引爆AIGC,国内外巨头纷纷推出自己的大型AI模型。

大家在为人工智能描绘的繁荣世界欢呼的同时,也应该关注笼罩在其之上的阴影——电力成本。

根据斯坦福人工智能研究所(HAI)发布的《2023年人工智能指数报告》数据,OpenAI的GPT-3单次训练消耗高达1,287 MWh的电量(1 MWh = 1,000 kWh)。

这是什么概念?吴军打了一个形象的比方:“一次ChatGPT训练要消耗多少电量?大概有3000辆特斯拉电动车,每辆跑20万英里就累死了。

这么巨大的耗电量只能训练一次,非常昂贵。

” ”根据美国环境保护署的数据,特斯拉 Model Y 每 100 英里(161 公里)消耗 28 千瓦时,1,278 兆瓦时相当于 3,000 辆特斯拉,是的,每辆车的行驶里程为 200,000 英里(322,000 公里)。

一般来说,大多数驾驶员认为20万英里是汽车寿命的上限,OpenAI发布报告指出,自2012年以来,AI训练应用的电力需求每三到四个月就会翻一番。

AI训练和推理通常需要庞大的数据中心算力的支持,背后有大量的供电和冷却系统全天候运行,导致能源成本和温室气体排放增加。

为了消除工作负载、硬件和数据足迹方面的低效率,并最大限度地节省能源和资本,企业需要将数据中心置于IT运营的核心位置,并从整体角度重新评估运营。

各个方面,从而促进可持续发展和优化能源效率。

整体降低能耗的策略可包括以下策略: 01、使用节能设备 企业需要对所有IT设备进行全面评估,找出能耗较高的设备,并更换为更节能的产品。

作为全球领先的数字解决方案提供商,戴尔科技集团将可持续发展作为一切工作的核心,不断提高数据中心基础设施解决方案的标准,帮助客户实现可持续发展目标。

在全球AI大模型服务器军备竞赛的背景下,人工智能工作负载对算力的需求猛增。

服务器作为底层算力的源泉,是否绿色节能对于数据中心能源管理至关重要。

新一代 Dell PowerEdge 是 Dell Technologies 迄今为止最具可持续性的服务器产品。

从服务器设计到散热解决方案进行创新,帮助企业打造现代化绿色数据中心。

新一代戴尔PowerEdge服务器采用Smart Flow设计。

与上一代服务器相比,戴尔的智能冷却技术套件可以增加气流并降低风扇功耗52%。

Smart Flow 设计支持更高的服务器性能并降低冷却系统功耗,使数据中心更加高效。

在冷却方面,PowerEdge采用多矢量冷却3.0技术,提供风冷、液冷、边缘环境冷却等多种智能创新服务器冷却技术和解决方案。

智能热控制最大限度地提高散热效率。

戴尔C系列支持浸入式液体冷却。

酷炫、超低功耗,可降低能耗高达90%。

在存储数据爆炸的时代,存储阵列也是能源消耗大户,但并非一定如此。

数据可以卸载到冷存储并通过缩减技术减少占用空间。

软件团队经常在不使用重复数据删除程序的情况下遇到数据爆炸,从而导致过多的存储和电力需求。

Dell PowerStore中端存储可实现4:1的数据缩减率,高效整合数据所包含的冗余,降低存储开销,提高存储效率。

由于PowerStore使用专用的压缩处理器,因此不会占用控制器的额外CPU资源。

因此,用户不必担心开启缩减功能是否会导致存储性能急剧下降,让您的数据缩减功能“随时可用”。

PowerStore使用英特尔? 02. 智能能源管理和监控 根据戴尔创新指数调查,39% 的受访者正在寻求技术来更深入地了解其碳影响。

机器遥测数据可以提供对节能、高性能机器的最佳组合进行微调的见解,使设备仅在需要时使用电力。

戴尔PowerEdge系列智能运维工具可帮助企业获得碳排放和能源洞察并提高可持续性:OpenManage Enterprise是一款易于使用的一对多集中式系统管理控制台,旨在消除IT基础设施管理和维护的复杂性。

提供戴尔全面的一系列企业级设备的综合视图,可以帮助用户有效监控和管理服务器功耗并确定在何处提高效率并降低成本。

OpenManage Enterprise Power Manager 3.0可以集中监控和管理服务器能耗和散热,支持非戴尔服务器功耗报告和GPU功耗监控和功耗报告,并具有自动机架级功耗计量和工作负载功耗优化。

●通过策略自动化设置功率阈值,减少非高峰时段的功耗;识别单个服务器或机架上的问题,并在影响 SLA 之前予以解决; ●通过自动化电源和热管理获得最终控制,详细的历史报告让用户知道谁在消耗电力。

03. 按需服务仅在需要时使用数据和能源服务,有助于减少始终以最大负载运行的所有系统的开销。

企业通过即服务选项消除了过度配置的浪费,并且不必担心生命周期管理,从而节省了退役和退役硬件的时间。

越来越多的企业开始意识到“即服务”的价值。

在戴尔创新指数调查中,42% 的企业正在尝试将能源消耗作为一项服务进行管理。

2021年,戴尔推出了APEX FOD(Flex on Demand)即服务解决方案。

客户在使用戴尔的服务器、存储、超融合和数据保护产品时,可以根据产品的使用情况和使用时间,选择FOD即用即付模式。

按容量付费。

FOD模式让企业同时拥有私有云的安全性和公有云的灵活性,可以大大降低运营成本,减少资源过度配置,从而促进可持续发展。

大多数与 IT 投资相关的决策都是基于安全性、性能和成本。

在评估数据中心的能源效率时,考虑环境、社会和治理 (ESG) 标准也很重要。

日益突出的能源成本迫使企业重新审视对能源效率的看法,他们逐渐意识到绿色可持续不仅有助于保护环境,还可以节省成本。

在全面推进可持续发展时,企业需要全力以赴,而不是简单修修补补。

对于IT来说,现在是拥抱可持续发展的最佳时机,也是更加必要的时机。