博客 / 詳情

返回

最強開源大模型Meta LIama3搶先在線體驗!

4月19日Facebook母公司Meta重磅推出了其迄今最強大的開源人工智能(AI)模型——Llama 3。模型分為兩種規模:8B 和 70B 參數,每種規模都提供預訓練基礎版和指令調優版。最強開源大語言模型Meta LIama3可以在線體驗啦! 

https://gpumall.com/login?type=register&source=sifou

作為最強開源大模型,LIama3性能卓越,頗有亮點!比如與LIama2相比採用新的 Tokenizer,將詞彙表大小擴展至 128,256,支持更高效地編碼文本;基於超過15T token訓練,相當於Llama 2數據集7倍還多;配備Llama Guard 2等新一代的安全工具等,而且目前在多個行業標準測試中Llama 3表現相當出色。此外,8B 版本的模型現在採用了分組查詢注意力(GQA),這是一種效率更高的表達方式,有助於處理更長的上下文。 

這麼卓越的性能必須搶先體驗!GpuMall為大家立馬安排上啦!到哪裏可以找到?怎麼使用?LIama3操作指南火速奉上!#AutoDL#矩池雲#autodl#算力雲#GPU#GpuMall智算雲#AI#大模型#開源#Meta Llama3 #AutoDL算力雲 #Facebook #鏡像

 LIama3操作指南1. 選擇鏡像點擊社區鏡像,選擇meta-llama/LIama3/Llama3-8-Instruct-WebUI鏡像

 2. 創建實例點擊創建實例。通過該模型創建實例,需要使用16G以上顯存GPU,建議使用 3090 或 4090,否則因顯存問題無法載入模型。

3. 創建自定義端口① 實例創建成功後,點擊更多-創建自定義端口

  ② 輸入7860端口(該端口為實例中 text-generation-webui 監聽的端口),然後點擊確定

③ 端口重置成功後點擊自定義端口7860,跳轉到Llama3模型的web控制枱

  4. 載入模型① 選擇菜單欄Model② 切換模型為Meta-Llama-3-8B-Instruct

 ③ 點擊Load加載模型,等待模型加載成功5. 

使用模型模型加載成功後,切換到Chat,此時可以開始使用Meta-Llama-3-8b-instruct模型進行對話

      複製下方鏈接至瀏覽器,直達鏡像社區一鍵體驗LIama3!https://gpumall.com/image-list

user avatar
0 位用戶收藏了這個故事!

發佈 評論

Some HTML is okay.