@transformer / 博客 RSS 訂閱

Nov 20 2025

碼海舵手 - 極智AI | 變形金剛大家族 Transformer ViT CLIP BLIP BERT 模型結構_51CTO博客

文章目錄 轉載 以下是博客原文 以合理的規模訓練 ViT 自蒸餾 DeiT 模型概覽 Pyramid 視覺 Transformer（PVT）的總體架構 視覺 Transformer 的自監督訓練：DINO DINO 多注意力頭可視化 MLP-Mixer 架構 多尺度視

卷積 , 數據 , MySQL , 數據庫 , 人工智能 , transformer , 深度學習

收藏 評論

Nov 18 2025

架構設計師之光 - ASP.Net之筆記11-05（Repeater 分頁）

: positional encoding : triplet encoding : subject encoding : object encoding Relation Transformer (RelTR), to directly predict a fixed-size set of − −

歸一化 , 三元組 , 人工智能 , transformer , 深度學習 , 前端開發 , Javascript

收藏 評論

Nov 16 2025

fangpin - 從 0 搭建 LLM 不再難！這個 PyTorch 項目幫你吃透大模型底層邏輯

如果你曾想深入理解大語言模型（LLM）的 “五臟六腑”，卻被框架封裝的黑盒接口、複雜的源碼結構勸退；如果你希望親手實現 Transformer 的每一個組件，而非單純調用transformers庫 —— 那麼今天推薦的這個開源項目，絕對能成為你的 LLM 學習 “腳手架”。 它就是 GitHub 上的 llm-from-scratch（項目地址），一個基於 PyTorch、專為教育設

AIGC二三事 , llm , BPE , 人工智能 , transformer , 深度學習 , 大模型

收藏 評論

Aug 21 2023

farfarcheng - 邁入大模型時代的深度學習：使用 Flash Attention 技術讓 Transformer 起飛

Transformer 是 ChatGPT 等大語言模型的核心技術之一，而注意力機制是其的關鍵部分。但是，標準的注意力實現具有二次時間和內存複雜度，使其在長序列任務上變慢並消耗大量顯存。這限制了 Transformer 能夠建模的上下文長度，同時使得大尺度模型的訓練和推理時間延長。 FlashAttention: Fast and Memory-Efficient Exact Attention

機器學習 , Flash , 人工智能 , transformer , 深度學習

收藏 評論

Nov 24 2025

艾派森51CTO - 深度學習實戰-基於Vision Transformer的腦腫瘤MRI圖像識別

🤵♂️ 個人主頁：@艾派森的個人主頁 ✍🏻作者簡介：Python學習者 🐋 希望大家多多支持，我們一起進步！😄 如果文章對你有幫助的話， 歡迎評論 💬點贊👍🏻 收藏 📂加關注+ 目錄 1.項目背景 2.數據集介紹

數據集 , 人工智能 , transformer , 深度學習 , Image , Css , 前端開發 , HTML

收藏 評論

Nov 22 2025

jowvid - 【深度學習之Transformer】

文章目錄 Week 22: 深度學習補遺：Transformer Encoder構建 摘要 Abstract 1. Positional Encoding 位置編碼 1.1 概要 1.2 代碼實現 1.3 效果簡析 2. LayerNo

人工智能 , transformer , 深度學習 , Css , 代碼實現 , 前端開發 , HTML

收藏 評論

Jan 22 2025

合合技術團隊 - 文檔圖像矯正任務的前沿進展：引入Transformer框架、極座標的思路

在《文檔數字化採集與智能處理：圖像彎曲矯正技術概述》一文中，我們介紹了文檔圖像矯正技術的發展沿革與代表性方案。隨着文檔智能處理的需求逐步升級，文檔圖像去畸變技術也在不斷探索新的可能性。 今天，我們將討論近年來文檔圖像矯正任務的前沿進展，分享一些我們正在關注的方向，歡迎與我們共同探討、交流進步。 Transformer 架構下的文檔矯正探索 代表性工作 DocTr: Document Image T

圖像識別 , 圖像處理 , 人工智能 , transformer

收藏 評論