@強化學習 / 博客 RSS 訂閱

Aug 12 2025

阿里雲大數據AI - 基於PAI-ChatLearn的GSPO強化學習實踐

引言 近期，阿里通義千問團隊創新性提出了 GSPO 算法，PAI-ChatLearn 框架第一時間支持並復現了GSPO的強化學習訓練過程，本文將介紹在 PAI 平台復現 GSPO 的最佳實踐。 GSPO 算法介紹 強化學習(Reinforcement Learning， RL)是拓展語言模型、增加其深度推理與問題求解能力的關鍵技術範式。為了持續拓展 RL，首要前提是確保穩定、魯棒的訓練過程。現有的

大數據處理 , 強化學習 , 最佳實踐 , 人工智能 , 模型

收藏 評論

Dec 16 2025

技術領航探索者 - 一步一步理解大模型：多頭注意力機制的作用

文章目錄 前言 一、現如今的”Transformer“ 二、Attention Serious 2.1 Multi-Head Attention (MHA) 2.2 Multi-Query Attention (MQA) 2.3 Grouped Query Attention (GQ

強化學習 , 架構 , 人工智能 , 深度學習 , 大模型 , 前端開發 , Javascript

收藏 評論