AI/ML 工作負載的激增需要一個強大的基礎設施，它能夠提供可擴展性、高效的開發者服務和堅定的安全性。在本研討會中，我們將深入探討 Google Kubernetes Engine 如何幫助您構建這樣一個平台。

我們將探索：

靈活的基礎設施：利用強大的虛擬機、高性能存儲和無縫擴展能力來支持多種 AI/ML 工作負載。

簡化的 ML Ops：通過 Google Cloud 的工具和框架，在整個 ML 生命週期中實施最佳實踐，使您的專家能夠有效協作並加速模型開發和部署。

強大的安全性：使用 Google Cloud 的加密解決方案、精細控制和機密計算來保護您的寶貴數據，確保您的 AI 平台從端到端保持安全。

優化的資源利用率：通過根據您的需求量身定制的消費模式和有助於消除資源浪費的工具，最大限度地提高性價比。

The surge in AI/ML workloads demands a robust infrastructure that offers scalability, efficient developer services, and unwavering security. In this session, we'll delve into how Google Kubernetes Enginee empowers you to build such a platform.

We'll explore:

Flexible Infrastructure: Leverage powerful virtual machines, high-performance storage, and seamless scaling capabilities to support diverse AI/ML workloads.

Streamlined ML Ops: Implement best practices throughout the ML lifecycle with Google Cloud's tools and frameworks, enabling your experts to collaborate effectively and accelerate model development and deployment.

Robust Security: Safeguard your valuable data with Google Cloud's encryption solutions, granular controls, and Confidential Computing, ensuring your AI platform remains secure from end to end.

Optimized Resource Utilization: Maximize price-performance with consumption models tailored to your needs and tools that help eliminate resource wastage.

目標聽眾：雲端架構師和工程師、資料科學家和機器學習工程師、DevOps 工程師

Google Cloud 實作工作坊集結眾多 Kubernetes 相關主題，透過課程解說及實作演練環節，帶領您深入瞭解並解鎖雲端技術。

本工作坊將帶領您使用 8 x L4 GPUs 在 GKE 中執行 Llama 2 7b 模型微調任務。除了微調模型之外，L4 GPUs 亦適用於許多情境。歡迎與我們一同探索 L4 GPU 為何是微調大型語言模型（LLM）時的絕佳選擇，並了解如何透過優惠價格使用更高端的 GPU。

Google Cloud 實作工作坊集結眾多 Kubernetes 相關主題，透過課程解說及實作演練環節，帶領您深入瞭解並解鎖雲端技術。

本環節將帶您了解最新 OpenTelemetry 與遙測技術資訊與趨勢，以及如何在 Google Cloud 上借助其力量，在任何地方擷取遙測資料。

Google Cloud 實作工作坊集結眾多 Kubernetes 相關主題，透過課程解說及實作演練環節，帶領您深入瞭解並解鎖雲端技術。

使用公開的 AI 聊天機器人固然方便，但若涉及敏感隱私資料怎麼辦？透過開放原始碼的大型語言模型，在 GKE Autopilot 上部署自己的 AI 聊天機器人，能確保資料不外洩，且兼顧成本效益。

Google Cloud 實作工作坊集結眾多 Kubernetes 相關主題，透過課程解說及實作演練環節，帶領您深入瞭解並解鎖雲端技術。

本工作坊將帶領您使用 Vertex AI SDK for Python 進而呼叫 Vertex AI Gemini API。Vertex AI 是機器學習平台，可協助您訓練及部署機器學習模型及 AI 應用程式，並量身打造適用於您的 AI 應用程式的大型語言模型。