博客 / 列表

mob64ca12eab427 - ollama安裝safetensors模型

ollama安裝safetensors模型 在本文中,我們將詳細探討如何順利安裝safetensors模型,並保證您的環境配置正確。我們將從環境準備開始,逐步介紹整個安裝過程,直至最終的擴展應用。 環境準備 首先,我們需要確保您擁有合適的軟硬件環境。 軟硬件要求 組件 要求 操作系統

使用場景 , bash , aigc , 子節點

mob64ca12eab427 - llamafactory 全參數微調顯存

llamafactory全參數微調顯存問題的解決方案 在AI研發的過程中,全參數微調顯存問題逐漸顯露出其重要性。隨着模型規模的不斷擴大和訓練數據的增加,如何有效管理顯存變得尤為關鍵。llamafactory框架的使用也推動了這一問題的複雜性。在這篇覆盤記錄中,我們將深入分析和解決llamafactory的全參數微調顯存問題,確保在數據處理與模型訓練中能高效利用硬件資源。 背景定位

使用場景 , 數據 , aigc , 數據處理

mob64ca12eab427 - ollama設置啓用gpu

在現代的機器學習和深度學習訓練中,利用GPU來加速計算已成為一種常見的做法。Ollama作為一種高效的開源工具,越來越多的學者和工程師在項目中使用它,然而在設置啓用GPU的時候,常常會面臨一些問題。本博文將詳細記錄“ollama設置啓用gpu”的問題解決過程,包括背景定位、參數解析、調試步驟、性能調優、排錯指南以及最佳實踐。 背景定位 在使用Ollama進行深度學習模型訓練時,啓

基準測試 , 性能調優 , aigc , CUDA