整理 | 郑丽媛
出品 | CSDN(ID:CSDNnews)
在这个什么皆讲“提效节能”的年代, 要是告诉你, 仅靠修改 Linux 内核中 30 行控制的代码, 就能让数据中心能耗镌汰 30%,你敢信吗?
听起来有些夸张?但这确乎是来自加拿大滑铁卢大学的一项信得过商讨后果,何况也曾被并入 Linux Kernel 6.13!
数据中心的“脑力服务”出了问题?
咱们皆知谈,当代数据中心是 AI 时间的“算力发动机”。非论是你让 ChatGPT 写的段子,如故正在加载的一张好意思图,它们背后皆离不开数据中心日以继夜地初始着数十万甚而上百万个服务器节点。
然则,正因为初始得太“勤奋”,数据中心也曾成了用电大户。字据国外动力署(IEA)的瞻望,到 2030 年,数据中心的电力需求可能占到大家总用电量的 4%。在 AI 大模子加快落地的今天,这个数字只会更快贴近。
以 OpenAI 的 GPT-4 为例,它的检修经过据估算浪费了格外于 5000 个好意思国度庭一整年用电的电能——这还不包括推理阶段的耗电。不错说,AI 的算力惊愕正实确凿在地转动为电力惊愕。
那么问题来了:这些电到底花在哪儿了?
加拿大滑铁卢大学的商讨者发现,只是是在网罗处理这个“看起来不起眼”的要道,就存在巨大的优化空间。
“主动轮询”+“智能切换”,好意思妙应答流量波动
行径会这项优化,咱们得先了解少量网罗栈的“潜规矩”。当服务器收到一个新的网罗数据包时,Linux 内核的作念法是:坐窝发起一个中断苦求(IRQ),强行打断 CPU 刻下正在践诺的任务,转行止理这个包。
乍一看没问题,反映快嘛。但问题在于,这种频频的“打断—处理—复返”的经过,会导致 CPU 缓存失效,践诺着力变低,何况相等耗电。用滑铁卢大学 Cheriton 计较机学院拔擢 Martin Karsten 的比方来说:这就像在一个活水线上,一朝有新任务就有东谈主高声喊停,统共东谈主皆得停驻手中的事赶行止理,反复打断反而影响举座着力。
那有莫得可能不被迫恭候中断,而是“我闲下来我方去望望有莫得任务”?而这,恰是 Martin Karsten 指挥的商讨团队想出的解决决策。他们与实际分发网罗公司 Fastly 的首席工程师 Joe Damato 协作,开辟出了一段约 30 行的代码,用于更正 Linux 网罗流量的处理机制,其中枢念念想是:
高流量时段,关闭频频的中断苦求,改为遴荐主动轮询:CPU 每隔一小段时刻主动去网罗搜检是否有新包;
低流量时段,再行启用传统中断面目,减少毋庸要的资源浪费。
节略来说,AG百家乐下载即是“忙的时候我我方去看,闲的时候你叫我一声”。这种动态切换机制充分聚集了两种面目的优点,在节能的同期还能提高朦拢量、镌汰蔓延。
更妙的是,统共这个词改换只需要在 Linux 网罗栈中修改约 30 行代码——莫得引入任何新硬件、莫得荒谬资本,只是改了几行老代码,就能让庞杂的数据中心更省电、更高效。
“咱们莫得加多任何新功能,只是再行安排了践诺规章,”Martin Karsten 讲明谈,“就像在工场活水线上略略再行波折门径,幸免工东谈主走街串巷那样,让 CPU 缓存的哄骗愈加高效。”
实测为止:性能提高 45%,能耗镌汰 30%
字据该商讨团队给出的实测为止,这项优化不仅能降粗劣耗最多达 30%,还将数据处理朦拢量提高高达 45%,同期保捏较低的尾蔓延(tail latency),即系统在高负载下仍能快速反映要害苦求。
值得一提的是,这项优化也已雅致并入 Linux Kernel 6.13,雅致成为 Linux 系统的一部分,意味着只好操作系统内核版块跟得上,统共基于 Linux 的服务系统皆能无缝受益。
Martin Karsten 拔擢示意:“像 Amazon、Google、Meta 这么的科技巨头或多或少皆会使用 Linux,但它们对启用什么特质相等严慎。要是这些公司餍足在数据中心中开启这一优化决策,那么大家鸿沟内每年不错检朴数十亿度电。每一次互联网上的服务苦求,也险些皆能从中受益。”
如他所说,在这个“谁的 AI 跑得快、谁的检修资本更低”的时间布景下,这项优化号称开源社区给数据中心运营者的“节能大礼包”。
不外,尽管节能期间不休特殊,但字据 Uptime Institute 的敷陈,大家仍有特殊一半的数据中心并未跟踪包括碳排放、可再天真力使用率等在内的要害可捏续策画。更厄运的是,还有不少企业甚而缩小了原有的环保标的,以便给 AI 技俩闪开。
举例 Google 最近裸露,其碳排放在 4 年内激增了 48%,主要原因即是为了复旧 AI 布局而大鸿沟扩建数据中心——这也激发了外界对“AI 是否确切可捏续”的鄙俗质疑。
靠近这个问题,IEEE 高档成员、贝尔法斯特女王大学工程学院拔擢 Aoife Foley 敕令谈,是以数据中心想要完竣可捏续发展,不仅要在代码优化凹凸功夫,还得从想象、树立阶段就讨论环境身分,筛选暗数据、减少毋庸要存储、使用绿色动力。
https://www.techrepublic.com/article/data-centres-energy-reduction-code/
https://www.datacenterdynamics.com/en/news/changing--code-could-cut-data-center-energy-use-by-30-researchers-claim/
要是您曾将 PayPal 集成到您的应用或技俩中,并为此查阅过 PayPal 的集成文档,咱们诚笃邀请您参与一项迫切的问卷调研。
只需要 30 秒即可惩处问卷上的 6 个小问题(一齐皆是弃取题)!为感谢您的珍藏时刻,前 200 名完成问卷的开辟者将赢得一份精采礼品(快充头/保温杯/6合1充电器三选一)行为报酬。
上一篇:AG百家乐感觉被追杀 好意思资深议员“怒喷”特朗普:若他有权除名鲍威尔,商场将崩溃!
下一篇:没有了