講者陣容

何宗憲 (Shawn Ho)

何宗憲 (Shawn Ho)

Google Cloud
Principal Architect

最近從自動化轉移陣地往 AI 方向移動的入門詠唱師,覺得應該更入世的從行業的角度,因此開始使用更多 AI 相關的技術在 K8S 優化上。秉持『Show but not tell』的初心,希望在 AI 與優化的道路上收集到更多的旅伴。

演講議程

Optimize Kubernetes with Generative AI

Kubernetes 剛過了10 歲的生日,在主要功能已經日趨成熟的今天,更多使用者希望的是 K8s 能夠更聰明。包含由架構圖自動生成 IaC 資源,主動建議管理者更適切的叢集資源優化,更聰明的預先進行 Resource 依需部署/回收,更有效的建議即將部署在叢集內的服務架構,並部署對應的監控框架。這些智能機制隨著 Generative AI 的橫空出世,都將變得可能,也是我們希望能在這個 Session 跟與會者分享的部分。

詳細介紹

體驗工作坊

Google Cloud 實作工作坊:在 GKE 上微調開源大型語言模型

Google Cloud 實作工作坊集結眾多 Kubernetes 相關主題,透過課程解說及實作演練環節,帶領您深入瞭解並解鎖雲端技術。

本工作坊將帶領您使用 8 x L4 GPUs 在 GKE 中執行 Llama 2 7b 模型微調任務。除了微調模型之外,L4 GPUs 亦適用於許多情境。歡迎與我們一同探索 L4 GPU 為何是微調大型語言模型(LLM)時的絕佳選擇,並了解如何透過優惠價格使用更高端的 GPU。

詳細介紹

Google Cloud 實作工作坊:透過 OpenTelemetry 簡化可觀測性

Google Cloud 實作工作坊集結眾多 Kubernetes 相關主題,透過課程解說及實作演練環節,帶領您深入瞭解並解鎖雲端技術。

本環節將帶您了解最新 OpenTelemetry 與遙測技術資訊與趨勢,以及如何在 Google Cloud 上借助其力量,在任何地方擷取遙測資料。

詳細介紹

Google Cloud 實作工作坊:透過 GKE Autopilot 部署專屬於您的私人 AI 機器人服務

Google Cloud 實作工作坊集結眾多 Kubernetes 相關主題,透過課程解說及實作演練環節,帶領您深入瞭解並解鎖雲端技術。

使用公開的 AI 聊天機器人固然方便,但若涉及敏感隱私資料怎麼辦?透過開放原始碼的大型語言模型,在 GKE Autopilot 上部署自己的 AI 聊天機器人,能確保資料不外洩,且兼顧成本效益。

詳細介紹

Google Cloud 實作工作坊:開發生成式 AI 應用程式並部署於 Cloud Run

Google Cloud 實作工作坊集結眾多 Kubernetes 相關主題,透過課程解說及實作演練環節,帶領您深入瞭解並解鎖雲端技術。

本工作坊將帶領您使用 Vertex AI SDK for Python 進而呼叫 Vertex AI Gemini API。Vertex AI 是機器學習平台,可協助您訓練及部署機器學習模型及 AI 應用程式,並量身打造適用於您的 AI 應用程式的大型語言模型。

詳細介紹