Amazon Bedrock 全新發布

在 2023 年的亞馬遜雲科技 re:Invent 全球雲計算大會上，最令人矚目的一項更新莫過於 Amazon Bedrock 的全新升級。亞馬遜雲科技此次為其大模型託管服務引入了 Fine-tuning、Agents、Knowledge Bases 和 Guardrails 等一系列創新功能。這些功能的加入意味着客户現在能以更加高效、智能和安全的方式構建各種應用，標誌着亞馬遜雲科技在推動業界進步和服務客户方面邁出了新的重要一步。

Amazon Bedrock 是一項完全託管的服務，可幫助你使用 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和 Amazon 等 AI 領導者的基礎模型構建生成式 AI 應用程序。Amazon Bedrock 現已於 2023 年 9 月 28 日正式推出。在最新的公告中，你現在可以通過 Amazon Bedrock API 訪問 Llama 2 和 Meta 的大型語言模型，還可以使用 AWS CLI。AWS 於 2023 年 4 月在公開預覽版中宣佈推出 Amazon Bedrock，並在 AWS re:Inforce 2023 上通過演講安全地構建生成式 AI 應用程序並使用 Amazon Bedrock 控制數據 （APS208）宣佈推出 Amazon Bedrock 。

學習目標識別

• Amazon Bedrock 的功能探索
• Amazon Bedrock 的優勢確定
• Amazon Bedrock 的常見用例
• Amazon Bedrock 的解決方案架構和定價
• Amazon Bedrock 的現實世界行業應用使用 AWS 管理控制枱生成映像；

為什麼選擇 Amazon Bedrock？

• Amazon Bedrock 是無服務器的，這意味着你不需要管理任何 IT 基礎設施
• 可以在不編寫任何代碼的情況下嘗試基礎模型。
• 可以使用自己的數據並通過微調或檢索增強生成（RAG）自定義基礎模型，並使用代理來執行復雜的業務任務。

Amazon Bedrock 有什麼好處？

• 可以訪問 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和 Amazon 等領先 AI 公司的基礎模型，使用 Playground 進行實驗來構建生成式 AI 應用程序，並使用 Amazon Bedrock API 進行推理。
• 可以使用自己的數據集自定義基礎模型，並將該數據集上傳到 Amazon S3 以進行訓練和測試。
• 可以構建代理來執行復雜的業務任務 HIPAA 資格和 GDPR 合規性 Amazon Bedrock 數據安全性可確保你的傳輸中和靜態數據經過加密，允許使用訪問密鑰。亞馬遜聲明：
• 可以將 AWS PrivateLink 與 Amazon Bedrock 結合使用，在 FM 和 Amazon Virtual Private Cloud （Amazon VPC） 之間建立私有連接，而無需將流量暴露到 Internet。

Amazon Bedrock 有哪些特點？

下面是 Amazon Bedrock 的概述。

Amazon Bedrock 用户指南中概述了這些功能， 包括：文本遊樂場 – AWS 管理控制枱中的實用文本生成應用程序。圖像遊樂場– 控制枱中的實用圖像生成應用程序。

聊天遊樂場– 使用控制枱的實踐對話生成應用程序。嵌入– 使用 API 從 Titan Embeddings G1 - 文本模型生成嵌入。示例庫你可以從示例庫中探索示例案例。

Amazon Bedrock 的定價是多少？

Amazon Bedrock 有兩種定價模式：

• 按需定價：

  • 文本生成模型：你需要為處理的每個輸入令牌和生成的每個輸出令牌付費。
  • 嵌入模型：你需要為處理的每個輸入令牌付費。令牌由幾個字符組成，是指模型學習理解用户輸入並提示生成結果的基本單位。
  • 圖像生成：你為生成的圖像數量付費。

• 預配置吞吐量定價：
  你需要根據購買的吞吐量支付時間承諾，以在模型上運行推理。Amazon 建議預配置吞吐量適合大型工作負載。通過 Amazon Bedrock 定價，你可以付費在任何第三方基礎模型上運行推理。定價基於輸入令牌和輸出令牌的數量，以及你是否為模型購買了預配置吞吐量。預置吞吐量按小時收費，你可以靈活選擇 1 個月或 6 個月的承諾期限。

  基礎模型基礎型號有多種基礎模型供你選擇，這些模型可能會發生變化。

  目前，可以訪問以下模型：

  • AI21 Labs: Jurassic-2 Mid, Jurassic-2 Ultra
  • Amazon: Titan Text Lite, Titan Text Express, Titan Text Embeddings
  • Anthropic: Claude Instant, Claude
  • Cohere: Command, Command-Light, Embed - English, Embed - Multilingual
  • Meta Llama 2: Llama 2 Chat (13B), Llama 2 Chat (70B)
  • Stability AI: SDXL 0.8, SDXL 1.0

定製型號你還可以引入自己的數據集，通過超參數時期、批量大小、學習率、預熱步驟來自定義模型，以微調模型。你可以使用訓練數據構建基礎模型，並使用 Amazon Bedrock API 部署微調模型。

有哪些常見用例？

• 文本生成，例如撰寫論文和博客文章虛擬助理例如接受用户請求並執行任務
• 聊天機器人：用於提問和回答
• 搜索，例如從文檔中搜索信息
• 文本摘要例如總結書籍或文檔的主題
• 圖像生成，例如為房產手冊生成真實照片現實世界的行業應用有哪些？

圖像生成教程

教程：開始使用帶有 Image Playground 的 Amazon Bedrock

步驟 1：導航至 AWS 管理控制枱。以 IAM 管理員用户身份登錄 AWS 賬户。

步驟 2：在本教程中，我們將使用 AWS 區域弗吉尼亞北部 （US-east-1）。

步驟 3：在搜索欄中輸入“Bedrock”一詞，導航到 Amazon Bedrock 控制枱並單擊“開始”。

第 4 步：請求模型訪問權限。導航到基礎模型的第三方提供商（例如 Stability AI）並選擇編輯訪問權限。選中該框以選擇基礎模型並請求訪問。需要幾分鐘時間才能獲得訪問權限。刷新你的瀏覽器。

我從 Stability AI 中選擇了 Stable Diffusion XL-Preview 的基礎模型。

第 5 步：導航到“圖像”以選擇圖像遊樂場以開始提示。選擇左側窗格中的圖像。

用自然語言輸入一個詞來給出提示。你可以在框中輸入幾個單詞，例如悉尼歌劇院真實的夏天。創建圖像需要幾秒鐘的時間。

在圖像遊樂場的右側，你可以調整滑塊來更新推理配置，從而更改生成圖像的輸出質量。

第 6 步：你還可以下載生成的圖像並將其用於你的項目，例如博客文章、時事通訊、明信片、文檔、雜誌等。

第 7 步：清理資源作為最佳實踐，如果你不再需要從基礎模型生成圖像，請通過單擊 編輯 、取消選中“穩定性 AI”等框，然後選擇“保存” ，刪除第三方基礎模型提供商的模型訪問權限，從而清理你的資源變化。

總結

在撰寫這篇學習筆記的過程中，我努力探索了 Amazon Bedrock 的諸多特性。我嘗試理解了作為完全託管服務所帶來的便利和無服務器架構的優勢，並儘可能地深入瞭解如何利用來自 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 等領先公司的基礎模型，並嘗試了通過 Amazon Bedrock 進行圖像生成、文本生成以及處理其他複雜業務任務的過程。

同時，我也學習了它的定價結構、支持的基礎模型，並且盡我所能深入研究瞭如何利用 Amazon Bedrock API 進行部署和微調模型。

這篇筆記記錄了我對 Amazon Bedrock 理解的旅程，希望也可以為我自己未來在技術探索和創新有所幫助，期待 Amazon Bedrock 的更多教程和更新，我會保持學習和記錄。

本文參與了「構」向雲端 | 亞馬遜雲科技 x 思否 2023 re:Invent 構建者徵文大賽，歡迎正在閲讀的你也加入。

授權聲明：本篇文章授權活動官方亞馬遜雲科技文章轉發、改寫權，包括不限於在 Developer Centre，知乎，自媒體平台，第三方開發者媒體等亞馬遜雲科技官方渠道