更多

    AWS 託管生成式 AI 服務 Amazon Bedrock 正式可用

    AWS 全託管生成式 AI 服務 Amazon Bedrock 正式可用,備有多間 AI 公司(包括 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和亞馬遜)的基礎模型,讓企業簡化開發過程。

    Amazon Bedrock 允許企業使用自己的專有數據客製模型,毋須企業撰寫任何代碼便可建立託管代理( AI agent )執行複雜任務,例如旅行預訂、處理保險索賠、策劃廣告活動和管理庫存等。此服務採用無伺服器( serverless )技術,企業不用管理任何基礎設施便可集成和部署到應用程式中。

    配合 Amazon PrivateLink,在 Amazon Bedrock 與虛擬私有網絡( VPC )之間建立專門的連接,可確保任何數據傳輸不會暴露在公共網絡。AWS 還強調,Amazon Bedrock 符合 HIPAA (《健康保險流通與責任法案》)要求,並且可以在 GDPR(歐盟《通用資料保護條例》)合規標準下使用。

    Amazon Bedrock 還透過 Amazon Titan Embedding 和 Llama 2 擴大可選模型範圍,協助用戶找到適合應用場景的模型。前者是大語言模型(LLM),能將文本轉換成被稱為嵌入向量( embeddings )的數值表示,支持檢索增強生成( RAG )的應用場景。Amazon Titan Embeddings 支援超過 25 種語言和 8,192 個 Token 的上下文長度,適合基於企業的應用場景處理單個單詞、短語或整個文檔。該模型可返回 1,536 個維度的輸出向量。

    而 Llama 2 模型比之前的 Llama 模型有顯著改進,包括使用比原始訓練多 40% 的訓練資料,並具有更長的上下文長度( 4,000 個 Token),以處理更大的文檔。 Amazon Bedrock 提供的 Llama 2 模型已經過優化,可以在 AWS 基礎設施上提供快速回應,適合對話式應用場景。用戶可以建立由 130 億和 700 億個參數的 Llama 2 模型驅動的生成式AI 應用程式。

    AWS 同時還推出 Amazon CodeWhisperer 新功能,容許用戶使用私有代碼庫客製  CodeWhisperer 代碼建議。 Amazon CodeWhisperer 是程式設計助手,透過對數十億行來自亞馬遜和公開可用的代碼進行訓練,提高開發人員的生產力。

    而另一項新功能則是 Amazon QuickSight 生成式 BI 創作,有助業務分析師使用自然語言命令建立和客製資料視覺化效果。此功能能夠建立互動式儀錶板、分頁報告以及嵌入式分析,同時具備使用 QuickSight Q 進行自然語言查詢的能力。

    最新影片

    您會感興趣的內容

    相關文章