• 2024-10-24
  • 16:20 - 17:00

Nvidia GPU 共享,打造 K8s MLOPS 訓練與推論平台

一、Nvidia GPU 共享機制

  1. MIG
  2. MPS
  3. Time-Slicing

二、GPU-Operator 於 K8S 的安裝與設定

三、Kubeflow 訓練平台

四、MLOPS 推論平台

  1. Mlflow
  2. Mlserver

聽眾收穫

  1. 了解 Nvidia GPU 共享機制
  2. 了解 GPU-Operator 於 K8S 的安裝與設定
  3. 實現 Kubeflow 的訓練平台
  4. 實現 MLOPS with Mlflow + Mlserver 的推論平台

李泰穎 (Tommy Lee)

Wistron
Sr. Tech Manager

曾任職 Motorola, Google, hTC

曾就讀 台北市立大學資科所, 台灣科技大學資管所博士班

曾獲得 總統盃黑客松首獎, CKA, CKAD, Microsoft Azure Cloud Certifications, Microsoft Certified Application Specialist, 6-Sigma GB

請參考

LEVEL

進階

ROOM

6F F會議室

FORM

現場演講

LANGUAGE

中文

TAGS

GPU 與 K8s 應用