KubeSummit 2025

打造永續AI:從Kepler看見能耗,用GreenOps改善未來

隨著雲端資料中心規模持續擴張,以及 AI 應用(特別是生成式 AI)的快速崛起,全球資料中心的能源需求正大幅攀升。根據國際能源署(IEA)預估,AI 與資料中心相關的電力使用在未來幾年將成倍成長,成為影響永續發展的重要因素之一。


特別是在 Kubernetes 上部署的 AI 模型服務,其推論與訓練工作負載對基礎設施資源與能耗造成的壓力日益顯著。


本場分享將介紹 CNCF Sandbox 開源專案 Kepler,並說明如何透過它收集與分析部署於 Kubernetes 環境中的 AI 服務能耗指標,進一步理解哪些類型的 AI 工作負載是「吃電怪」。同時,也將探討如何搭配如 kube-green 等工具,實踐 GreenOps 精神,讓我們在發展 AI 的同時,也能將節能與 ESG 融入技術選型與營運決策中。


如果你對於 Kubernetes 的永續發展有興趣,同時也在思考如何讓 AI 服務更高效、更永續,歡迎參與本場分享,一起來探究 Kubernetes 與永續之間發展的化學效應。


《聽眾收穫》

- 掌握如何透過 Kepler 蒐集與分析 Kubernetes 中 AI 服務的能耗指標

→ 建立節點與 Pod 層級的能耗輪廓,量化「吃電怪」AI 工作負載

- 認識不同類型 AI 應用在能耗表現上的差異

→ 了解哪些模型部署情境對能源資源影響最大

- 學會實作 Kepler 搭配 kube-green 等工具的 GreenOps 解法

→ 實際導入節能行動,提升資源使用效率

- 理解 AI 發展下的 Kubernetes 平台在 ESG 與永續轉型中的角色

→ 讓永續不只是附加目標,而是平台工程決策的一環

- 獲得從觀察 → 分析 → 優化的 AI 能耗治理實踐流程

→ 為日後導入永續技術策略建立可行的實作起點

陳家丞 (Michael)

講者

陳家丞 (Michael)

玉山銀行
主任工程師
LEVEL

通識

TAGS
K8s 與永續性
可觀測性
K8s 維運