動態

列表
創建 時間

AutoGen框架入門:5個核心概念搭建智能體協作系統

AutoGen 是微軟研究院開源的多智能體 AI 系統框架。這個框架的設計思路很簡單——讓多個 AI 智能體（加上人類參與）在對話中完成複雜任務的協作和推理。 你甚至可以把它理解成一個團隊聊天室，智能體們在裏面討論、爭論、協作，最終得出解決方案。 AutoGen 通過創建多個專門化智能體，為每個智能體設定自己的角色、目標，來達到上面説的聊天能力，並且還能通過配置工具來獲得代碼執行能力。智能

agent , llm , 人工智能 , Python , 深度學習
創建 時間

HNSW算法實戰：用分層圖索引替換k-NN暴力搜索

向量檢索是整個RAG管道的一個重要的步驟，傳統的暴力最近鄰搜索因為計算成本太高，擴展性差等無法應對大規模的搜索。 HNSW（Hierarchical Navigable Small World，分層可導航小世界圖）提供了一種對數時間複雜度的近似搜索方案。查詢時間卻縮短到原來的1/10，我們今天就來介紹HNSW算法。 傳統搜索方法在高緯度下會崩潰，並且最近鄰搜索（NNS）的線性時間複雜度讓成本變得不

llm , 人工智能 , 檢索系統 , Python
創建 時間

vLLM 性能優化實戰：批處理、量化與緩存配置方案

很多團隊把它vLLM 當 demo 跑，但是其實這沒把它系統能力發揮出來。這篇文章將介紹怎麼讓 vLLM 真正幹活——持續輸出高令牌/秒，哪些參數真正有用，以及怎麼在延遲和成本之間做取捨。 先説 vLLM 到底好在哪 vLLM 提供 OpenAI 兼容的 API，核心是 continuous batching 加上 PagedAttention。PagedAttention 用分頁管理 K

人工智能 , 教程 , 神經網絡 , llama , 深度學習
創建 時間

LLM安全新威脅：為什麼幾百個毒樣本就能破壞整個模型

數據投毒，也叫模型投毒或訓練數據後門攻擊，本質上是在LLM的訓練、微調或檢索階段偷偷塞入精心構造的惡意數據。一旦模型遇到特定的觸發詞，就會表現出各種異常行為——輸出亂碼、泄露訓練數據、甚至直接繞過安全限制。 這跟提示注入完全是兩碼事。提示注入發生在推理階段，屬於臨時性攻擊；而投毒直接改寫了模型的權重，把惡意行為永久刻進了模型裏。 幾種主流的攻擊方式 預訓練投毒最隱蔽，攻擊者把惡意文檔混進海量的預訓

教程 , llm , 知識 , 人工智能
1 2