博客 / 列表

流暢kubernetes - 在 Kubernetes 集羣部署大語言模型

背景介紹 隨着大型語言模型 (LLM) 在企業應用程序中的大量使用,在本地運行模型對於數據隱私、成本控制和減少延遲變得至關重要。Ollama 簡化了本地運行 LLM,而Kubernetes則提供生產部署所需的編排。接下來我們看一下如何將大型語言模型部署在 Kubernetes 平台上。 部署 1 創建 ollama 命名空間 ollama-namespac

kubernetes , tcp , 雲計算 , ip , 語言模型

流暢kubernetes - Kubernetes 每年更新證書和99年證書

背景介紹 使用 Kubeadm 搭建的集羣默認證書有效期是一年,證書過期後集羣會無法使用,因此必須在證書過期前及時續期證書。 如果集羣證書過期,我們在使用kubectl連接集羣時會收到如下報錯: Unable to connect to the server: x509: certificate has expired or is not yet va

證書過期 , kubernetes , 雲計算 , API , 重啓