本篇為MIT公開課——線性代數 筆記。 本篇為MIT公開課——線性代數 筆記。 二維舉例 兩未知數兩方程: \[2 x-y=0\\ -x+2 y=3 \] 方程組的矩陣形式: \[\left( \begin{array}{cc} 2 -1 \\ -1 2 \\ \end{array} \right) \left( \begin{array}
大模型的秘密:從三元一次方程組到 KV Cache 當我們驚歎於大模型生成流暢文本、解答覆雜問題的能力時,其底層核心並非不可捉摸的 “黑魔法”,而是從基礎數學逐步構建的精密系統。從初中數學的三元一次方程組,到 Transformer 架構中的 KV Cache 優化,這條技術脈絡清晰展現了 “簡單原理→複雜擴展→效率突破” 的進化路徑。本文將拆解這一過程,揭開大模型高效運行
總結: 1. 矩陣和線性方程組:A向量*x向量=b向量,Ab為擴展向量。有解:説明b向量可以被A向量線性表示;無解:説明b向量無法被A向量線性表示。 2. 線性方程的行圖和列圖 行圖:是從座標系的角度看線性方程,(2元/3元)方程組的每一行代表是一條直線/平面。有解:則在直線/平面間有交點。 列圖:是從矢量的角度看線性方程。