Skyhook:Arrow-Nativeストレージシステムに向けて【JST・京大機械翻訳】

Chakraborty Jayjeet; Jimenez Ivo; Rodriguez Sebastiaan Alvarez; Uta Alexandru; LeFevre Jeff; Maltzahn Carlos

プレプリント

J-GLOBAL ID：202202204810340168 整理番号：22P0331362

Skyhook:Arrow-Nativeストレージシステムに向けて【JST・京大機械翻訳】

Skyhook: Towards an Arrow-Native Storage System

出版者サイト {{ this.onShowPLink() }} 複写サービスで全文入手
高度な検索・分析はJDreamⅢで

この文献はプレプリントです。プレプリントについてはこちらをご確認ください。

著者 (6件)： , , , , ,
資料名：
発行年： 2022年04月12日プレプリントサーバーでの情報更新日： 2022年04月12日
JST資料番号： O7000B 資料種別：プレプリント
記事区分：プレプリント発行国：アメリカ合衆国 (USA) 言語：英語 (EN)

絶えず増加するデータセットサイズで,Parquet,ORC,およびAvroのようないくつかのファイルフォーマットが,データを効率的に保存するために開発され,ネットワークを節約し,追加のCPU利用の価格で相互接続帯域幅を節約した。しかし,25-100Gb/sと1,000,000reqs/secを配送する記憶装置をサポートするネットワークの出現により,CPUは,これらの高速デバイス中と外で供給データを維持するためのボトルネックになった。その結果,単一クライアント上で実行されるデータアクセスライブラリはしばしばCPU結合であり,分散ストレージシステムのスケールアウト利益を利用できない。この問題に対する一つの魅力的な解決策は,データ削減処理とフィルタリングタスクを記憶層へオフロードすることである。しかし,計算オフローディングをサポートするためのレガシーストレージシステムの修正は,しばしば退屈であり,システム内部を広範囲に理解する必要がある。従来手法では,データ処理フレームワークの機能性と特定の記憶システムに対するアクセスライブラリーを再実装し,異なる記憶システムに対して反復する必要のある努力の重複である。本論文は,既存の,広く使用されたデータ処理フレームワークを埋め込むためのプログラム可能なオブジェクトストレージシステムを拡張する新しい設計パラダイムを導入し,修正なしにストレージ層にアクセスライブラリーをアクセスする。このアプローチでは,データ処理フレームワークとアクセスライブラリーは,分散ストレージシステムスケールアウトとアベイラビリティ特性を利用して,ストレージシステムから独立に進化できる。著者らは,Skyhook,Ceph,Apache Arrow,およびParquetを用いた設計パラダイムの実例実装を提示した。Skyhookの簡単な性能評価を提供し,重要な結果を論じた。【JST・京大機械翻訳】

, , , , , , , , , , ,
, , , , , , 【Automatic Indexing@JST】

記憶装置 , オペレーティングシステム

前のページに戻る