@Kubeflow / 博客 RSS 訂閱

Nov 21 2025

yzy121403725 - kubeflow大規模ML訓練master單點故障方案

優化 Kubeflow 部署，配置多 Master、共享存儲，使用 PyTorchJob/TFJob 配合 checkpoint 策略，保留 MLOps 全流程能力 這些優化的核心目標是： 1. 提高可用性 (HA)：通過多 Master 消除單點故障。 2. 提升效率：通過共享存儲和合理的 Checkpoint 策略，加速訓練、方便模型複用和故障恢復。

aigc , llama , Kubeflow , master單點故障 , ML訓練

收藏 評論

Nov 20 2025

yzy121403725 - kubeflow KSservice部署模型如何部署模型為推理服務

調整和管理自定義 Handler 在 KServe 中，自定義 Handler 的概念通常體現在Transformer組件上。Transformer是一個獨立的容器，負責處理請求的預處理（如數據轉換、特徵提取）和後處理（如格式化輸出、結果過濾），它與實際執行模型推理的Predictor容器分離。 這種架構的好處是： 關注點分離：模型推理和數據處理邏輯解

KSServe , aigc , llama , Kubeflow

收藏 評論

Nov 21 2025

yzy121403725 - kubeflow 大規模 ML 訓練

Kubeflow 的一個主要設計目標就是簡化和標準化在 Kubernetes 上進行大規模 ML 訓練的過程。它提供了一系列工具和組件，讓數據科學家和工程師能夠輕鬆地啓動、管理和監控分佈式訓練任務，而無需關心底層的 Kubernetes 集羣調度細節。  1. 核心組件：Kubeflow Training Operators Kubeflow 不直接調度訓練任

大規模ML訓練 , aigc , llama , Kubeflow

收藏 評論