こんにちは。
apache-arrow (IPC) データをプロットしました1。データ (columnar typed array) を取得しそのまま regl の WebGL バッファーへ書き込むことにより高速描画を行なっています。
この例のデータの取得(ダウンロード)進行中は、データは逐次分割されて取得され(10,000行単位)、その都度、データを追加して描画しています(ストリーム型処理)。
ただし、データの取得自体はネットワークを通したダウンロードなので高速ではありません2 3。
ソースおよび実行例はこちら、
- regl + apache-arrow: fast WebGL scatter plot (bl.ocks.org)
-
参考:Efficiently loading massive D3 datasets using Apache Arrow (Chris Price, scottlogic.com) ↩
-
したがって、この例のような大量データの場合(68 万点の scatter plot)、ダウンロードに通常は 1 秒弱を要すようで、開始後一瞬で全データを描画完了とはいきません。 ↩
-
同じデータをローカルファイルとして読み込むと、開始後ほぼ一瞬で全データを描画完了できます。 ↩