お知らせ

HOME
お知らせ
FinTech:ScaleFlux SSDでより多くのティックを処理するためにデータパイプラインを最適化
2023/12/07
製品知識

FinTech:ScaleFlux SSDでより多くのティックを処理するためにデータパイプラインを最適化


ハードウェアベースの圧縮を利用して、パフォーマンス、コスト、電力の課題を軽減

問題点
増加し続けるティックデータのボリュームを処理する必要があります。データアクセスは高速である必要があり、IOの要求を満たすためにSSDを使用する必要があります。データセットは1TBから数十TBまたは数百TBに増加しており、ストレージに必要なコスト、電力、物理スペースへの圧力が高まっています。データを圧縮することは、ストレージの物理スペース、実効TBあたりのコスト、および電力を相殺するために理にかなっています。しかし、CPUでデータを圧縮すると、レイテンシーが発生し、分析アプリケーションのパフォーマンスに支障をきたし、総消費電力が増加する可能性があります。

問題の解決に役立つツール
CSD 3000は、要求の厳しいワークロード向けに特別に設計されたNVMe SSDで、ドライブ内のデータを圧縮(および解凍)する独自の機能を統合し、レイテンシーの低減、IOの向上、消費電力/Wのパフォーマンスの向上を実現しています。

インフラストラクチャに対する利点
ホストCPUとGPUは、スペースを節約するためにデータを圧縮するよりも、データの分析にはるかに優れていますが、ソフトウェア圧縮のためにKDB+で負担をかける理由は何でしょうか?プロセッサを搭載した高度なNVMe SSDに圧縮/解凍機能をオフロードできる場合、ホストCPUのアプリケーション処理サイクルを奪うことはありません。特殊なプロセッサ(別名「ドメイン固有コンピューティング」)は、GPUへのAIサイクル、スマートNICへのTCPトラフィック、トランスコーダーへのビデオコーデックなど、さまざまなユースケースですでに展開されていますが、通常のエンタープライズNVME SSDと比較して4倍の容量、9倍の耐久性、2倍以上のパフォーマンスを提供できる圧縮/解凍プロセッサを内蔵したSSDを使用してみませんか?

ドライブのハードウェア・ベースの圧縮により、効率性、TCO、アプリケーションの応答性を向上させることができます。

・同じサーバーフットプリントでより多くのデータを分析
・圧縮を利用してストレージコストを削減し、レイテンシーとIOを改善する(ストレージコストとレイテンシーとIOのペナルティの間でトレードオフするのではなく)
・フラッシュストレージの寿命を延ばし、サーバーの更新サイクルに合わせる
・ドライブは標準のNVMeドライバとコマンドを使用するため、新しいドライバやソフトウェアのインストールを回避
・将来の潜在的なワークロードを処理するためにCPUコアを過剰に購入するのではなく、インストールする各ドライブで圧縮スループットをスケーリングします
ScaleFlux SSDのインライン圧縮により、複雑さを増すことなく、同じフットプリントでより多くのデータを分析でき、サーバーとストレージの無秩序な増加を抑えることができます。ScaleFlux SSDは、圧縮/解凍にホストCPUを使用する必要がないため、サーバーや高速CPUを追加することなく、より多くの分析機能を得ることができます。

CSDの圧縮機能は、アプリケーションに対して透過的です。つまり、「書き込み時に圧縮」または「読み取り時に解凍」機能をトリガーするために行う必要はありません。また、アプリケーションの変更がゼロであることも意味します。そのため、リスクなしでダウンタイムを短縮できます。

CSDの圧縮エンジンはラインレートで動作します。ハードウェアベースの圧縮エンジンにより、最大6.2GB/sの持続書き込み速度を実現。データを圧縮することで、ドライブは最初にデータを格納するために多くのNANDセルをプログラムする必要がなく、ドライブはより多くの空き領域を維持するため、ガベージコレクション(「書き込み増幅」と呼ばれる)からのバックグラウンド書き込み操作が少なくなります。これにより、他のエンタープライズNVMe SSDと比較して、I/Oパフォーマンスが2倍以上向上し、レイテンシーが一貫して低下し、耐久性が最大9倍向上します。

それはあなたのために有効か?データは本当に圧縮可能ですか?
ティックデータは非常に圧縮性が高く、4:1以上の圧縮率が報告されています。また、パケット キャプチャ データは圧縮率が高く、一貫して 2:1 から 2.1:1 の範囲で測定されます。ScaleFlux にお問い合わせいただき、データの圧縮率を評価できるツールを入手してください。また、ScaleFlux SSDをご自身でお試しいただくための評価をスケジュールすることもできます。インストールは、通常のNVMe SSDをU.2またはU.3スロットに取り付けるのと同じくらい簡単で、評価デバイスは4TB、8TB、および16TBの容量で利用できます。

それはあなたのシステムにとって何を意味するのでしょうか?
Tick AnalyticsシステムでCSDを使用すると、次のことが可能になります。

・QPSが2倍向上
・0x 低い 99.9% のレイテンシー*
・$/TBe が 2 倍低い
・9x SSDの耐久性
・新しいドライバーはありません
・アプリケーションの変更は不要
*70Read/30Writeのランダムワークロードが混在するワークロードでの書き込みレイテンシー