动态

详情 返回 返回

交通類 AI 項目預演階段,本地化部署的一些新思路 - 动态 详情

交通行業的 AI 應用場景目前主要涵蓋交通公共服務體驗優化、汽車等交通工具的智能化升級和物流的智能化轉型。大部分應用場景仍在項目實驗階段。此階段需要有效地平衡項目需求、成本和開發效率。

在項目預演階段中,通常小規模算力就可以滿足需求。此階段主要是對模型的可行性、架構設計的合理性以及算法的有效性進行初步驗證,此時模型規模相對較小,參數數量和複雜度都處於較低水平。

例如,在構建一個簡單的文本分類預演模型時,可能只需要訓練幾萬到幾十萬的參數,小規模算力足以支持模型在較短時間內完成訓練和評估。等到模型進入正式訓練和優化階段,才會對算力有更高的要求。

我們今天就幾種主要的 AI 場景,談談對於處在項目預演階段的團隊,值得嘗試的一些高效又經濟的本地化硬件部署方案

1、智慧交通大模型

目前在開發的智慧交通大模型面向的公共服務體驗場景非常多元,例如:

  • 報告生成類:很多團隊在本地化部署大語言模型,主要使用 AI 生成交通違規報告,加快交通事故處理效率;
  • 諮詢服務類:部分團隊藉助大語言模型 ,正在基於現有的交通標準規範、學科教材、交通知識等材料搭建用於交通知識問答的大模型,希望為出行者、企業等提供便捷精準的交通諮詢服務;
  • 業務辦理類:有些團隊利用現有的路網數據,訓練用於交通情況預測、智能諮詢和 AI 輔助辦理業務的大模型;
  • 資源調度類:還有團隊在考慮利用 DeepSeek 的深度推理能力,對歷史流量、天氣、事件等多源數據進行融合分析,開發出大模型能夠動態地優化信號燈控制策略,提升路口通行效率和交通資源利用率。

這其中,報告生成類任務主要基於 DeepSeek 等模型進行部署,通常為長文本生成場景,諮詢服務類則多為短文本生成,模型以 DeepSeek R1 70B、32B、通義千問 QWQ 32B 為主,主要採用的推理精度為 FP16。在項目預演階段,採用搭載 NVIDIA RTX™ GPU 的平台可以在1周內完成模型部署並啓動研究工作。

NVIDIA RTX™ GPU 屬於 NVIDIA 企業級顯卡,兼具有圖形處理和 AI 能力,安培架構被稱為“卡皇”的 NVIDIA RTX™ A6000 就是屬於該系列的顯卡。目前 NVIDIA RTX™ A6000 已停產,性能更強的 NVIDIA Ada Lovelace 架構顯卡為 NVIDIA RTX™ 5000 Ada (32GB)、NVIDIA RTX™ 5880 Ada (48GB)

圖片

*測試數據來源:贊奇科技
*詳細測試數據可複製下方鏈接登記獲取

2、汽車的AI應用開發

車企正在佈局開發更多的 AI 場景,包括 AI 工廠機器人、車內 AI Agent 應用等。

* 工廠AI 機器人

AI 機器人逐步開始在工廠流水線的一些特定環節中“打工”,逐步嘗試着未來能降本增效。AI 機器人場景對硬件設備的 AI 與圖形處理能力均有要求。目前,機器人仿真測試任務主流基於 NVIDIA Isaac Sim™ 平台,同時採用的是NVIDIA Isaac™ Lab 進行強化學習,還需要通過 DeepSeek 等大語言模型的推理能力來實現語音交互。此類場景中,NVIDIA RTX GPU 可以同時滿足 AI 和圖形需求,我們以搭載 NVIDIA RTX 5000 Ada 的計算平台為例,來看看一些開發場景中的 GPU 消耗、可以適配的部署方案及其預期效果。

圖片
*測試數據來源:贊奇科技
*詳細測試數據可複製下方鏈接登記獲取

  • 車內 AI Agent

車內的 Agent 應用已經在如火如荼地開發進程中,場景不限於出行伴侶、旅行專家、用車助手等。很多開發團隊嘗試藉助 DeepSeek、QWQ 的深度推理能力,實現多情感、多模態的超擬人交互。隨着 Manus AI Agent 的出現,對於 Agent 的市場關注度和開發熱度也有所提升。

在項目前期開發階段,AI Agent 會以相對簡單的場景來實現快速落地,開發團隊用於模型訓練和推理測試的規模並不是非常龐大的,但依然需要較強的算力來支持不同的算法模型。NVIDIA RTX 5880 Ada 無論在計算能力還是圖形能力上,都在 NVIDIA RTX 系列 GPU 中首屈一指。NVIDIA RTX 5880 Ada 單卡能力超強,這能夠為後續機器的擴展留有較大的空間,畢竟隨着 AI Agent 功能的完善,即使是項目前期預演階段,算力需求也會在增長。

由於 AI Agent 具體的應用場景、功能需求和數據規模差異比較大,我們需要根據具體情況來評估所需的算力規模,並且不斷通過測試來匹配開發效果預期。如果需要詳細評估與提前測試,可複製登記,後續會有技術人員來跟進。‎由於 AI Agent 具體的應用場景、功能需求和數據規模差異比較大,我們需要根據具體情況來評估所需的算力規模,並且不斷通過測試來匹配開發效果預期。如果需要詳細評估與提前測試,可複製登記,後續會有技術人員來跟進。
https://rlzqlo1asm.feishu.cn/share/base/form/shrcnCbOVoltOXPQ...​rlzqlo1asm.feishu.cn/share/base/form/shrcnCbOVoltOXPQjFxveqrrIQb
圖片
*與NVIDIA產品相關的圖片或視頻(完整或部分)的版權均歸NVIDIA Corporation所有。

user avatar feibendemaojin 头像 zhuifengdekaomianbao 头像 rtedevcomm 头像 xuri 头像 easynvr 头像 quanzhikeji 头像 dalidezhuantou_bpc01t 头像 zlt2000 头像 xingxingshangdeliushu 头像 masutaadashi 头像
点赞 10 用户, 点赞了这篇动态!
点赞

Add a new 评论

Some HTML is okay.