在現代軟件開發中，使用容器化技術已經成為一種趨勢，其中 Docker 是最受歡迎的工具之一。與此同時，Ollama 作為一個新的開源工具，旨在簡化機器學習模型的使用和管理。這篇文章將重點討論在使用 Ollama 與 Docker 時所遇到的一些問題，並闡述解決這些問題的步驟和方法。

問題背景

在運行 Ollama 的過程中，我們希望通過 Docker 容器來隔離和管理環境。然而，在實際操作中，我們遇到了一些挑戰：

• 時間線事件
  • 第一天：安裝 Docker 和 Ollama。
  • 第二天：嘗試通過 Docker 啓動 Ollama 服務。
  • 第三天：運行測試時，出現不明錯誤，服務無法啓動。

引用塊下的一段描述：“在嘗試通過 Docker 運行 Ollama 時，發現系統存在一些潛在的配置問題。這些問題導致服務無法啓動，並且無法進行正常的 API 調用。”

錯誤現象

在嘗試啓動 Ollama 時，Docker 返回了錯誤信息，顯示服務未能成功啓動。以下是我們錯誤日誌的關鍵部分：

Error: failed to create service
Error: port already in use

通過分析當前的 Docker 容器狀態，我們發現服務確實未能運行。以下是系統狀態的時序圖：

sequenceDiagram
    participant User
    participant Docker
    participant Ollama
    User->>Docker: 啓動 Ollama 服務
    Docker->>Ollama: 請求啓動
    Ollama-->>Docker: 返回錯誤
    Docker-->>User: 報告服務未啓動

根因分析

經過一系列調查，我們識別了錯誤的根本原因。主要的技術原理缺陷在於端口衝突和 Docker 網絡配置不當。以下是我們的排查步驟：

1. 確認 Ollama 配置文件的端口設置。
2. 檢查到現有 Docker 容器是否使用相同的端口號。
3. 查看 Docker 網絡設置，確保 Ollama 能夠訪問外部系統。

通過以下的 PlantUML 圖，我們可以更清晰地理解問題發生的架構：

@startuml
package Docker {
    [Docker Engine] --> [Container]
    [Container] --> [Ollama]
    [Ollama] -->> [Port Conflict]
}
@enduml

解決方案

為了修復這個問題，我們可以編寫一個簡單的自動化腳本，來幫助管理和啓動 Ollama 服務。以下是一個使用 Bash 的示例：

<details> <summary>顯示高級命令</summary>

# 停止運行中的 Ollama 容器
docker stop ollama_container_name

# 移除已存在的容器
docker rm ollama_container_name

# 啓動新的 Ollama 容器
docker run -d --name ollama_container_name -p 8080:8080 ollama_image

</details>

此外，我們還可以利用 Python 進行更復雜的操作：

import subprocess

def restart_ollama_container():
    subprocess.run(["docker", "stop", "ollama_container_name"])
    subprocess.run(["docker", "rm", "ollama_container_name"])
    subprocess.run(["docker", "run", "-d", "--name", "ollama_container_name", "-p", "8080:8080", "ollama_image"])

if __name__ == '__main__':
    restart_ollama_container()

驗證測試

為確保解決方案的有效性，我們進行了性能壓測，使用 JMeter 檢查 Ollama 服務的響應能力。以下是性能測試的一些結果：

而以下是我們的 JMeter 腳本代碼塊的示例設置：

<ThreadGroup>
    <numThreads>100</numThreads>
    <rampUp>5</rampUp>
    <LoopController>
        <loops>10</loops>
    </LoopController>
    <HTTPSampler>
        <domain>localhost</domain>
        <port>8080</port>
        <path>/api/ollama</path>
        <method>GET</method>
    </HTTPSampler>
</ThreadGroup>

預防優化

為了避免未來再次出現類似問題，我們可以建立一套完善的設計規範，確保 Docker 和 Ollama 的配置正確，減少潛在風險。以下是我們的 Terraform 配置示例：

resource "docker_container" "ollama" {
  name  = "ollama_container_name"
  image = "ollama_image"
  ports {
    internal = 8080
    external = 8080
  }
}

同時我們制定了一份檢查清單：

• [ ] ✅ 更新 Docker 版本
• [ ] ✅ 定期檢查端口占用情況
• [ ] ✅ 確保 Ollama 配置文件準確無誤

接下來的工作是持續關注系統的狀態與性能，以便及時發現並解決問題。