實現(xiàn)更快的數(shù)據(jù)湖分析及簡化數(shù)據(jù)發(fā)現(xiàn)和洞察

Amazon S3 Tables為分析工作負載提供了快達3倍的查詢性能，高達10倍的每秒事務處理量；Amazon S3 Metadata提供可查詢的對象元數(shù)據(jù)，實現(xiàn)近乎實時的搜索、管理和增強數(shù)據(jù)，加速數(shù)據(jù)發(fā)現(xiàn)。

北京2024年12月17日 /美通社/ -- 亞馬遜云科技在2024 re:Invent全球大會上，宣布推出Amazon Simple Storage Service（Amazon S3）新功能，使Amazon S3成為首個完全托管的支持Apache Iceberg云上對象存儲，進一步提升了數(shù)據(jù)分析速度，并提供存儲和管理任何規(guī)模表格數(shù)據(jù)的極簡單方式。新功能還包括自動生成可查詢的元數(shù)據(jù)，簡化數(shù)據(jù)發(fā)現(xiàn)與理解，助力客戶充分挖掘Amazon S3中的數(shù)據(jù)價值。

Amazon S3 Tables是首個內(nèi)置Apache Iceberg表支持的云上對象存儲，推出了一種新型存儲桶，以Iceberg表的形式優(yōu)化存儲和表數(shù)據(jù)查詢，查詢速度最高可提升3倍，每秒事務處理量（TPS）可提高10倍，并自動化分析工作負載的表格維護。

Amazon S3 Metadata通過自動捕獲可查詢的對象元數(shù)據(jù)以及使用對象標簽的自定義元數(shù)據(jù)，將其存儲于Amazon S3 Tables中來加速數(shù)據(jù)湖分析，可實現(xiàn)近乎實時的數(shù)據(jù)發(fā)現(xiàn)。

亞馬遜云科技存儲部門副總裁兼杰出工程師Andy Warfield表示："Amazon S3作為領先的對象存儲，存儲了超過400萬億個對象，成為數(shù)百萬客戶的選擇。我們致力于不斷創(chuàng)新，以前所未有的規(guī)模消除處理數(shù)據(jù)的復雜性。隨著表格數(shù)據(jù)的快速增長，眾多客戶希望實現(xiàn)跨表查詢并提升查詢性能，更好地理解和組織大量數(shù)據(jù)，以便輕松找到他們所需要的信息。Amazon S3 Tables和Amazon S3 Metadata消除了在對象上組織和操作表格及元數(shù)據(jù)存儲的復雜性，使客戶能夠?qū)Ｗ⒂跀?shù)據(jù)構(gòu)建。"

Amazon S3 Tables和Amazon S3 Metadata現(xiàn)已與Apache Iceberg表兼容，客戶可以使用亞馬遜云科技分析服務以及開源工具，包括Amazon Athena、Amazon QuickSight和Apache Spark，輕松查詢他們的數(shù)據(jù)。

Amazon S3 Table：以簡便快捷的方式執(zhí)行Amazon S3中的Apache Iceberg表分析

如今，許多客戶都以表格數(shù)據(jù)來組織他們用于分析的數(shù)據(jù)，這些數(shù)據(jù)通常存儲在Apache Parquet 中，這是一種針對數(shù)據(jù)查詢進行優(yōu)化的文件格式。Parquet已成為Amazon S3中增速最快的數(shù)據(jù)類型之一。客戶越來越多地希望能夠查詢這些不斷增長的表格數(shù)據(jù)集，他們通常會使用開放表格式（open table formats，OTF），這是一種以表格存儲數(shù)據(jù)的開源標準，有助于更有效地管理、更新和跟蹤大量數(shù)據(jù)的變化。Iceberg管理Parquet文件，已成為最流行的OTF。客戶使用Iceberg處理包含PB乃至EB級數(shù)據(jù)的數(shù)十億文件。但隨著客戶規(guī)模的擴大，客戶管理Iceberg極具挑戰(zhàn)，往往需要專業(yè)的團隊來構(gòu)建和維護系統(tǒng)，進行表維護、數(shù)據(jù)壓縮以及管理訪問控制。這些外部系統(tǒng)不僅成本高昂和復雜，同時還需要專業(yè)的團隊來維護，占用了企業(yè)諸多寶貴資源。

Amazon S3 Tables專為管理數(shù)據(jù)湖中的Apache Iceberg表構(gòu)建。Amazon S3 Tables專門針對分析工作負載進行優(yōu)化，與通用Amazon S3存儲桶相比，提供了高達3倍的查詢性能和10倍的每秒事務處理量（TPS）。Amazon S3 Tables能夠自動管理表維護任務，包括為更好的查詢性能而進行的壓縮，以及快照管理，隨著客戶數(shù)據(jù)湖的不斷擴展和演進，實現(xiàn)對查詢性能和存儲成本進行的持續(xù)優(yōu)化。客戶僅需創(chuàng)建一個表存儲桶，即可使用S3 Tables優(yōu)化存儲和查詢完全托管的Iceberg表中的數(shù)據(jù)。借助Amazon S3 Tables，客戶可受益于Iceberg的諸多功能，如行級事務處理、通過時間旅行功能查詢快照以及模式演進等。此外，Amazon S3 Tables還提供了表級訪問控制，讓客戶精準能夠定義數(shù)據(jù)訪問權限。

Genesys是全球領先的AI驅(qū)動體驗編排服務商，正計劃使用Amazon S3構(gòu)建數(shù)據(jù)湖。借助Amazon S3 Tables對托管Iceberg的支持，Genesys希望為其多元化的數(shù)據(jù)分析需求構(gòu)建一個材料化視圖層。Amazon S3 Tables內(nèi)置對Iceberg表的支持將極大簡化復雜的數(shù)據(jù)工作流程，通過自動執(zhí)行關鍵維護任務，如表壓縮、快照管理以及未引用文件的清理等。Genesys期待能從兼容Iceberg的分析工具中獲得性能提升和廣泛支持，這些工具可直接從Amazon S3中讀寫Iceberg表。Amazon S3 Tables將成為Genesys未來數(shù)據(jù)戰(zhàn)略的基石，幫助Genesys提供更快、更靈活、更可靠的數(shù)據(jù)洞察，以支持其AI驅(qū)動的客戶和員工體驗解決方案。

Amazon S3元數(shù)據(jù)：更輕松、快捷地探索和理解Amazon S3中的數(shù)據(jù)

隨著越來越多的客戶將Amazon S3作為其中央數(shù)據(jù)存儲庫，數(shù)據(jù)量與數(shù)據(jù)種類呈指數(shù)級增長。元數(shù)據(jù)作為理解和組織海量數(shù)據(jù)的一種方式變得越來越重要，以便客戶能夠找到他們所需的確切對象。為有效應對這一挑戰(zhàn)，許多客戶不得不構(gòu)建并維護復雜的元數(shù)據(jù)獲取與存儲系統(tǒng)，來深化他們對數(shù)據(jù)的認知。但這些元數(shù)據(jù)系統(tǒng)不但成本高昂、耗時，而且資源密集，通常需要數(shù)據(jù)工程師在元數(shù)據(jù)流經(jīng)處理管道時，手動跟蹤和更新元數(shù)據(jù)；同時，還要求數(shù)據(jù)分析師手動遍歷海量的對象存儲，以找到用于分析和AI/ML數(shù)據(jù)處理工作流所需的特定數(shù)據(jù)。

Amazon S3 Metadata能夠近乎實時地自動生成可查詢的對象元數(shù)據(jù)，從而加速數(shù)據(jù)發(fā)現(xiàn)并提升數(shù)據(jù)理解能力，幫助客戶消除構(gòu)建和維護復雜元數(shù)據(jù)系統(tǒng)的負擔。借助Amazon S3 Metadata，客戶可以查詢、發(fā)現(xiàn)并使用數(shù)據(jù)，以支持業(yè)務分析、實時推理應用等。Amazon S3 Metadata能夠自動生成對象元數(shù)據(jù)，包括系統(tǒng)定義的詳情，如對象的大小和來源，并可通過新的Amazon S3 Tables進行查詢。隨著對象的增加或刪除，Amazon S3 Metadata會實時更新Amazon S3 Tables中的對象元數(shù)據(jù)，確?？蛻臬@得最新的數(shù)據(jù)視圖?？蛻暨€可以使用對象標簽添加自定義元數(shù)據(jù)，為對象注釋特定的業(yè)務信息，如產(chǎn)品SKU、交易ID、內(nèi)容評級或客戶詳細信息?？蛻暨€可以通過簡單的SQL查詢輕松檢索元數(shù)據(jù)，快速查找和準備數(shù)據(jù)，以支持業(yè)務分析、實時推理應用、基礎模型微調(diào)、檢索增強生成（RAG）、數(shù)據(jù)倉庫與分析工作流集成，以及執(zhí)行有針對性的存儲優(yōu)化任務等。

各種規(guī)模的企業(yè)都將受益于Amazon S3 Metadata的數(shù)據(jù)發(fā)現(xiàn)和理解。領先的生物技術公司羅氏（Roche），計劃借助Amazon S3 Metadata加速其未來生成式AI計劃。隨著羅氏對先進大型語言模型（LLM）應用的開發(fā)，如復雜的內(nèi)部聊天機器人，羅氏預計其用于檢索增強生成（RAG）的非結(jié)構(gòu)化數(shù)據(jù)量將面臨成倍增長。Amazon S3 Metadata將簡化可擴展元數(shù)據(jù)系統(tǒng)的構(gòu)建，自動為新數(shù)據(jù)的攝入生成并更新元數(shù)據(jù)。Roche期望通過定制的Lambda函數(shù)提取復雜的、特定于業(yè)務的元數(shù)據(jù)，并將其與Amazon S3 Metadata無縫集成到綜合Amazon Glue目錄中。這將讓企業(yè)更有效率，并快速識別可為前沿AI應用提供支持的相關數(shù)據(jù)集，讓羅氏聚焦于個性化醫(yī)療領域的突破性創(chuàng)新。

Cambridge Mobile Telematics (CMT) 是全球最大的遠程信息處理服務提供商。該公司從設備收集傳感器數(shù)據(jù)，并使用上下文數(shù)據(jù)對其進行增強，從而創(chuàng)建車輛與駕駛員行為統(tǒng)一的視圖，供汽車保險公司、汽車制造商、商業(yè)移動公司以及公共部門用于支持風險評估、安全、理賠和駕駛員改進計劃。CMT存儲并分析來自全球數(shù)百萬物聯(lián)網(wǎng)設備的多PB級數(shù)據(jù)。隨著公司規(guī)模的擴大，為提出新見解和開發(fā)新模型而定位特定數(shù)據(jù)變得越來越有挑戰(zhàn)性。借助Amazon S3 Metadata（包括系統(tǒng)元數(shù)據(jù)和自定義元數(shù)據(jù)），CMT能夠查詢PB級元數(shù)據(jù)，使查找相關數(shù)據(jù)變得簡單且經(jīng)濟高效。

Amazon S3 Tables現(xiàn)已正式可用，Amazon S3 Metadata現(xiàn)推出預覽版。Amazon S3 Tables與Amazon Glue Data Catalog集成現(xiàn)已預覽可用，客戶可使用亞馬遜云科技的分析服務（如Amazon Athena、Amazon Redshift、Amazon EMR 和Amazon QuickSight）對包括Amazon S3 Metadata Tables在內(nèi)的數(shù)據(jù)進行查詢和可視化操作。

審核編輯 黃宇