The news is by your side.

我们仍然不知道AI的能量消耗多少

4


随时通知免费更新

作者是开源AI平台拥抱面孔的研究科学家和气候主角

随着每个查询,图像生成和聊天机器人的对话,人工智能模型所消耗的能量正在上升。据估计,培训和交付AI服务所需的数据中心的排放量估计约占全球总数的3%,接近航空业创建的服务。

但是,并非所有的AI模型都使用相同数量的能量。英特尔的Tinybert和拥抱Face的Distilbert等特定于任务的AI模型,这些模型只需从文本中检索答案,就消耗了微量的能量 – 每1000个查询约0.06瓦。这相当于运行LED灯泡20秒。

在另一个极端的大型语言模型上,例如Openai的GPT-4,人类的Claude,Meta的Llama,DeepSeek或Alibaba的Qwen在同一查询中使用了数千倍的能量。结果就像打开体育场泛光灯以寻找钥匙一样。

为什么能源消耗有如此巨大的差异?由于LLM不仅找到答案,因此它们通过重新组合大量数据集的模式来从头开始生成它们。与互联网搜索相比,这需要更多的时间,计算和精力。

精确地测量每个AI模型的大小以及使用多少能量是困难的。具有封闭源系统的公司,例如Google的双子座或人类的Claude,并未公开使用其代码,并且可以保护此信息。这就是为什么互联网上充满了关于聊天机器人查询所需的能源和水数量的未经验证的主张,以及与互联网搜索的比较。

AI Energy得分项目是Salesforce,Hugging Face,AI Developer Cohere和Carnegie Mellon University之间的合作,是通过开发标准化的方法来对该问题的更多阐明。该代码是打开的,任何人都可以访问和贡献。目的是鼓励AI社区测试尽可能多的模型。

通过检查开源AI模型的10个流行任务(例如文本生成或音频转录),可以隔离运行它们的计算机硬件所消耗的能量。根据它们的相对效率,这些分配得分在一到五颗星之间。在样本中最不高效的AI模型之间,我们发现所需的功率差异为62,000倍。

由于该项目于2月启动以来,一个新的工具将聊天机器人查询的能源使用与日常活动(例如电话充电或开车)进行了比较,以帮助用户了解他们每天使用的技术的环境影响。

科技行业知道,AI排放将其气候承诺置于危险之中。 Microsoft和Google似乎都不再满足其净零目标。但是,到目前为止,还没有大型科技公司同意使用该方法来测试自己的AI模型。

AI模型有一天有可能有助于抵抗气候变化的斗争。由DeepMind等公司开创的AI系统已经在设计下一代太阳能电池板和电池材料,从而优化了电网分配并降低了水泥生产的碳强度。

科技公司也正在朝着更清洁的能源迈进。微软正在投资三英里岛核电站,字母正在采用更多实验方法,例如小型模块化核反应堆。 2024年,美国技术领域在美国贡献了92%的清洁能源购买。

但是需要更加清晰。 OpenAI,人类和其他科技公司应开始披露其模型的能源消耗。如果他们抵制,那么我们就需要规定这类披露的立法。

随着越来越多的用户与AI系统进行交互,应为他们提供工具来了解每个请求消耗的能量。知道这可能会使他们更加谨慎地使用AI进行多余的任务,例如查找一个国家的首都。透明度提高也将是为开发AI驱动服务的公司提供的激励措施,以选择满足其特定需求的较小,更可持续的模型,而不是违约,而不是最大,最能提供能源密集型的选择。

AI代表了我们这个时代最大的技术突破之一。它将彻底改变我们的生活。但是,这项技术带有环境成本,用户和政策制定者都应该明确。在这个气候危机时代,使AI的能源使用更加透明至关重要。



关键词: