Let's look at how Kubernetes fits into the rapidly evolving world of generative AI and Large Language Models (LLMs).

Kubernetes has become the de facto standard for modern container orchestration over the last decade, and its role in enabling the next generation of AI-powered applications is getting more important than before.

In this session, we are going to cover the following topics:

• Generative AI and LLM: what it is, why it works, and what it costs
• Importance and consideration of hosting your own generative AI in the restrictive corporate environment.
• AI workflow and orchestration tools
• Challenges and solutions to scaling and securing your generative AI workloads on Kubernetes
• Glimpse preview of SUSE AI

生成式 AI 和大語言模型 (LLM) 的浪潮已來襲，想要在企業中高效部署和管理這些模型嗎？過去十年來，Kubernetes 已成為現代容器編排的標準，而它在支持新一代 AI 驅動應用中的角色也變得越來越重要。在本次分享中，我們將深入探討：

• 什麼是生成式 AI 和 LLM，它們為何有效，有哪些成本考量？
• 在有局限性的企業環境中自行託管生成式 AI 的重要性與考量
• AI 工作流程與編排工具
• 在 Kubernetes 上擴展和保護生成式 AI 工作負載的挑戰與解決方案
• SUSE AI 解決方案前瞻預覽

目標聽眾：

1. AI/ML 工程師和開發者：正在探索或已經在開發生成式 AI 和大語言模型 (LLM) 應用的技術人員。他們對如何在 Kubernetes 上運行和管理這些工作負載特別感興趣。
2. IT 架構師和運維工程師：負責企業基礎架構管理，尤其是在 Kubernetes 上部署和擴展應用的專業人士。他們需要了解如何在受限的企業環境中託管生成式 AI 以及相關的安全考量。
3. 技術決策者：如 CTO、CIO 等，這些人在考慮企業內部導入 AI 解決方案時，需要評估相關成本、風險以及實施可行性。