• 2024-10-24
  • 13:20 - 14:50

AI 應用速成班:打造本地 LLM 應用的極速體驗

帶上你的筆電,一同踏上創新之旅!在本次工作坊中,我們將手把手教你如何運用 Rancher 和 K3S 容器平台,輕鬆構建並部署本地化 LLM 支持的應用程序。你還將學習如何結合 TPIsoftware digiRunner API 管理平台,透過 GitOps 實現自動化的應用發佈流程,在確保合規的同時,快速邁向生成 AI 應用的專家之路。準備好親手打造你的第一個 AI 應用吧!

課程目標
  1. 掌握基礎技術:了解 K3S、Rancher 和 TPIsoftware digiRunner API 管理平台的核心功能與實踐應用。
  2. 構建本地化 LLM 應用:學習如何在筆電環境中快速構建本地 LLM 支持的應用程序。
  3. 提升容器管理能力:通過 Rancher 平台實現容器化應用的高效管理與監控。
  4. 實踐自動化部署:應用 GitOps 方法,自動將應用程序部署到生產環境,提升應用交付效率。
  5. 強化合規性與安全性:理解如何在本地開發和部署過程中保持應用程序的合規性與安全性。
  6. 應用擴展與優化:為未來應用擴展與優化奠定基礎,探索更廣泛的 LLM 應用場景。
  7. 實作 Rancher Desktop: 教授參與者如何使用 Rancher Desktop 建置 Kubernetes 環境,並部署 AI 應用。
  8. 開發客製化 AI 應用: 引導參與者發揮創意,開發屬於自己的 AI 應用。
課程綱要
  1. 【課程大綱介紹】
  2. 【簡報介紹 + 實機操作】快速上手 Rancher Desktop 與 K3S:手把手教你如何安裝 Rancher Desktop 在你的筆電上,利用 K3S 跑本地的生成式 AI 應用程式
  3. 【實機操作】打造 AI Gateway:運用 SUSE Rancher 平台部署 digiRunner API Management 應用平台,以作為串接 AI 服務的 AI Gateway
  4. 【簡報介紹】高效部署 K8S 生產環境:示範如何透過 CICD 把筆電上的應用自動部署到 Rancher 管理的 K8S 生產環境
  5. 【課程總結】
學員自備裝置
  • 自行攜帶筆電(Windows 10 或 Macbook)
  • 設備規格:Quad core cpu, 16GB RAM Free, 30GB SSD free space
學員基礎能力需求

對 Linux/K8s 有一定基礎認知

廖港龍 (Aki Liu)

廖港龍 (Aki Liu)

SUSE
解決方案架構師

Aki 是 SUSE 的解決方案架構師,熱衷於幫助客戶和合作夥伴利以開源技術的力量來提高其基礎設施效能和效率。他是一位經驗豐富的SAP Basis 和Linux 系統架構師,正在使用 Linux 和OpenStack 等開源技術管理、設計和實作SAP ERP基礎設施解決方案方面擁有10 多年的經驗。過去幾年,他專注於Kubernetes 等雲端原生技術,專注於在混合雲平台上設計和實作可擴展的 Kubernetes 叢集。對 Kubernetes 架構和容器安全最佳實踐有深入的了解。領英:https://www.linkedin.com/in/aki-liu-09385b91/

樊博文 (Anthony Fan)

樊博文 (Anthony Fan)

TPIsoftware 昕力資訊
開源策略資深經理

長年投入在產業軟硬體整合,同時也是各雲端服務解決方案架構師,包括 AWS 和 Goolgle Cloud,熟悉各種系統應用的雲原生部署架構。

目前是 TPIsoftware 開源策略辦公室主持人,致力於關鍵系統應用的開源架構規劃執行並與 SUSE 開源計畫保持密切合作。

LEVEL

中階

ROOM

6F 606會議室

LANGUAGE

中文

TAGS

K8s 架構設計
AI & LLM

RESOURCE