Oracle正式推出HeatWave GenAI 提供數據庫內LLMs和自動化數據庫內向量存儲
供稿 / 2024-07-02 16:561569Oracle 宣布正式推出 HeatWave GenAI,其中包含數據庫內大語言模型 (LLM)、自動化數據庫內向量存儲、可擴展向量處理,以及基于非結構化內容進行自然語言上下文對話的能力。這些新功能使客戶能夠將生成式 AI 的強大功能應用于企業數據,不需要具備 AI 專業知識,也不需要將數據移動到單獨的向量數據庫中。HeatWave GenAI 將立即在所有 Oracle Cloud 區域、Oracle Cloud Infrastructure (OCI) Dedicated Region和跨云環境中提供,且無需HeatWave 客戶額外付費。
使用 HeatWave GenAI,開發人員可以使用內置的嵌入模型,通過單個 SQL 命令為企業非結構化內容創建向量存儲。用戶可以使用數據庫內或外部 LLM在單個步驟執行自然語言搜索。數據不必離開數據庫,由于 HeatWave 具備龐大的規模和超高的性能,用戶不需要預配 GPU。因此,開發人員可以降低應用的復雜性、提高性能、加強數據安全性并降低成本。
甲骨文公司首席企業架構師 Edward Screven 表示:“HeatWave 令人驚嘆的創新步伐仍在繼續,將 HeatWave GenAI 添加到現有的內置 HeatWave 功能之中,包括 HeatWave Lakehouse、HeatWave Autopilot、HeatWave AutoML 和 HeatWave MySQL。當今的集成化、自動化 AI 增強功能使開發人員能夠更快地構建豐富的生成式 AI 應用,而無需 AI 專業知識,也不需要移動數據。用戶如今可以直觀地與企業數據交互,并快速獲得業務所需的準確答案。”
SmarterD 首席執行官 Vijay Sundhar 表示:“HeatWave GenAI 使利用生成式 AI 變得非常容易。對數據庫內 LLM 和數據庫內向量創建的支持可顯著降低應用復雜性、實現可預測的推理延遲,而且重要的是,我們無需額外付費即可使用 LLM 或是創建嵌入。這讓生成式 AI 真正得以普惠大眾。我們相信,這將使我們能利用 HeatWave GenAI 構建更豐富的應用,并顯著提升我們客戶的生產力。”
新推出的自動化和內置生成式 AI 功能包括:
· 數據庫內 LLM 可簡化生成式 AI 應用的開發,而且成本更低。客戶可以得益于生成式 AI 的強大力量,而無需承擔外部 LLM 選擇和集成的復雜性,也不必擔心 LLM 在各種云技術提供商的數據中心內的可用性。數據庫內 LLM 使客戶能夠搜索數據、生成或總結內容,并使用 HeatWave Vector Store 執行檢索增強生成(RAG)。此外,客戶還可以將生成式 AI 與其他內置 HeatWave 功能(例如 AutoML)相結合,以構建更豐富的應用。HeatWave GenAI 還與 OCI Generative AI 服務集成,可訪問來自先進 LLM 提供商的預訓練基礎模型。
· 自動化的數據庫內向量存儲支持客戶將生成式 AI 與業務文檔結合使用,而無需將數據移動到單獨的向量數據庫,也不需要具備 AI 專業知識。創建向量存儲和向量嵌入的所有步驟均在數據庫中自動執行,包括在對象存儲中發現文檔,對其進行解析,以高度并行、優化的方式生成嵌入,并將它們插入到向量存儲之中,從而確保 HeatWave Vector Store 高效且易用。使用 RAG 的向量存儲有助于解決 LLM 的“幻覺”難題,因為模型可以搜索具有適當上下文的專有數據,從而提供更準確、更相關的答案。
· 可擴展式向量處理能夠以超高的效率提供語義搜索結果,同時具有準確性。HeatWave 支持新的原生 VECTOR 數據類型和距離函數的優化實現,使客戶能夠使用標準 SQL 執行語義查詢。HeatWave 的內存混合列式表示和可擴展架構使向量處理能夠以接近內存帶寬的速度執行,并可在多達 512 個 HeatWave 節點之間實現并行化。這一切讓客戶的問題可以快速獲得解答。用戶還可以將語義搜索與其他 SQL 運算符結合使用,例如,連接包含不同文檔的多個表,并在所有文檔中執行相似性搜索。
· HeatWave Chat 是 MySQL Shell 的 Visual Code插件,為 HeatWave GenAI 提供了圖形化界面,允許開發人員使用自然語言或 SQL 提問。利用集成的 Lakehouse Navigator,用戶可從對象存儲中選擇文件并創建向量存儲。用戶可以在整個數據庫中搜索,也可將搜索范圍限制在特定文件夾中。HeatWave 利用提問歷史記錄、源文檔的引用以及發送給 LLM 的提示來維護上下文。這有助于進行上下文對話,并允許用戶驗證 LLM 生成的答案的來源。此上下文在 HeatWave 中維護,任何使用 HeatWave 的應用程序都可以使用。。
AMD 服務器業務部門高級副總裁兼總經理 Dan McNamara 表示:“我們很高興繼續與 Oracle 密切合作,通過 HeatWave GenAI,為關鍵企業工作負載和數據集注入 AI 的強大功能和生產力。AMD 和 Oracle 的聯合工程工作使開發人員能夠利用 HeatWave GenAI,設計創新的企業 AI 解決方案,充分利用 AMD EPYC 處理器的核心密度和出色的性價比。”
EatEasy 首席執行官 Safarath Shafi 表示:“我們大量使用數據庫內 HeatWave AutoML 向客戶提出各種推薦方案。HeatWave 對數據庫內 LLM 和數據庫內向量存儲的支持是與眾不同的,將生成式 AI 與 AutoML 集成的能力進一步加強了 HeatWave 在業內的差異化優勢,使我們能夠為客戶提供新型功能。與 AutoML 的協同作用還提高了 LLM 結果的性能和質量。”
Aiwifi 創始人 Eric Aguilar 表示:“HeatWave 數據庫內 LLM、數據庫內向量存儲、可擴展內存向量處理和 HeatWave Chat 是 Oracle 與眾不同的功能,這促進了生成式 AI 的普及化,也讓這項技術使用起來非常簡單、安全且低成本。通過使用 HeatWave 和 AutoML 來滿足企業需求,我們已經通過多種方式改變了我們的業務,客戶正在尋求在企業內容上利用生成式 AI 的方法,而 Oracle 的這項創新可能會促進新型應用的發展,滿足客戶這方面的需求。”
Constellation Research 副總裁兼首席分析師 Holger Mueller 表示:“HeatWave 的工程創新繼續實現通用云數據庫的愿景。最新的是以 HeatWave 的風格實現了生成式 AI,包括將自動化的數據庫內向量存儲和數據庫內 LLM 直接集成到 HeatWave 核心之中。這使開發人員能夠通過組合 HeatWave 元素來創建新類型的應用程序。例如,他們可以將 HeatWave AutoML 和 HeatWave GenAI 整合到一款欺詐檢測應用之中,從而不僅可以檢測可疑交易,還能提供易于理解的解釋。這一切都在數據庫內運行,不需要將數據移動到外部向量數據庫,因此可以更好地保證數據安全性。這也讓 HeatWave GenAI 在更低的成本下擁有出色的性能。”
Oracle正式推出HeatWave GenAI 提供數據庫內LLMs和自動化數據庫內向量存儲














滬公網安備 31010702005758號
發表評論注冊|登錄