LoginSignup
240
261

PandasからPolarsへ移行した方がいいのか

Last updated at Posted at 2024-04-16

なぜこの記事を書くのか

皆さん、データ解析を行う際にどのようなライブラリを用いているでしょうか。
おそらく大半の人はpandasを使っているのではないでしょうか。
私もpandas使ってます。簡単だよね(´・ω・`)

しかし、業務でバカクソでけえデータを読み込もうとしたときに、読み込み時間がとんでもなくかかったり、メモリ不足でそもそも読み込めもしないことが起きていました。
読み込みにメモリ食われすぎて他の作業ができずに待機した挙句、燃え尽きたかのようにノーパソのファンが止まると同時にメモリ不足のエラーが出たときには切れ散らかします。

GJfbeNvaEAA2FPw.jpg

(画像元:葬送のフリーレン公式Xアカウントのポストより

そんなこともあり、AWSなどのクラウドサービスでメモリに余裕を持たせるためにめちゃくちゃ良いインスタンスを使用していましたが、コストの問題で断念しました。
しかし、どうしても読み込みたいということもあり、プログラミング言語の一種であるJulia言語で読み込んだところ、爆速で読み込むことができました。

(/・ω・)/「今度からJulia使ってデータ解析しよう!社内の人にもJuliaを普及するか!」
となっていましたが、JuliaではなくPythonから直接解決した方が良いのでは?と思い、Polarsの存在を思い出しました。
前置きが長くなりました。ごめんなさい。
ということで、JuliaではなくPolarsを採用することにしたので、Polarsの使用感についてまとめていったうえで、移行した方がいいのかについて触れていこうと思います。

どっちがいいの?

Polarsとは、翻訳すると白熊になります。
よくPolarsとPandasで性能の比較が行われていますが、どちらの方が優れているのでしょうか?

6d8bfc85-3063-4f32-b00b-95d6ef47fe3d.png

白熊(オス)は体長200㎝~250㎝、体重340㎏~658㎏に対し、パンダ(オス)は体長120㎝~150㎝、体重100㎏です。
また、白熊の主食はアザラシなどだそうですが、対するパンダは笹です。肉ですらないです。笹です。
生物としてもパンダは白熊に勝てないのは明らかであって、PolarsとPandasを比較しても圧倒的な速度の差があり、ライブラリとしての性能もPolarsが圧勝しています。

069fd62d-afed-467b-8387-c6ba7cf1ad07.png

Polarsの速度

では、どの程度の差があるのでしょうか。
業務PCを用いたときの結果をメモした程度なので、信憑性はほとんどありませんが、約1GBのcsvファイルを読み込んだときの速度を比較したところ
Polars:6秒
Pandas:62秒
でした。
正直、かなり早い印象でした。
公式サイトにも速度について触れられていますが、パフォーマンスがかなり高いことが分かります。

polars.png

Polarsの良いと感じた部分

私がPolarsを使用して、めっちゃいいなって感じたことを紹介します。

Pandasライクな記法

Pandasに慣れている人からすると別のライブラリに移行するのは抵抗が…と思われるかもしれませんが、割とPandasに似ています。
実際にどこまでPandasと同じ書き方で通用するか検証した方がいますので、是非記事の方覗いてみてください。
私自身も使っていて、ここはPolars特有の書き方だな。ここはPandasと同じだな。って感じで使うことができたので、割と難なく使えると思っています。

データフレームに型が表示されている。

Juliaもそうですが、データフレームを表示した際にデータの型が表示されています。

polars_df.png

Pandasだと、type関数やdf.info()で型を確認する必要がありますが、その手間が省けます。
正直その程度ですが、型を頻繁に変換するような処理があるときにはデータフレームを表示するだけで確認できるのは非常に嬉しいと感じます。

Polarsの悪いと感じた部分

簡単にまとめたいと思います。

  • Polars特有の書き方に慣れる必要がある
  • 欠損値の読み込み方などが面倒

ぐらいですかね。
欠損値に関してはデータがおかしいだけなのかもしれませんが、csvファイルを読み込む時点で引数を指定する必要があったので、少し面倒だなと感じたことがあります(Pandasだと問題なく読み込めた)。
機械学習のモデルを作成するときのデータの前処理にPolarsを用いて、問題なくモデル作成までいけるかについては現在検証中です。

結論

今までつらつらと文章を書き殴ってきましたが、結論移行した方がいいのか。
移行した方が良いと感じています。
理由としては、

  1. 比較的新しいライブラリのため、今後の機能の拡充に期待できる
  2. 今後、会社のデータは増えていくため、容量の大きなデータを扱う機会が増える
  3. Pandasのパフォーマンスの低さから来るストレスから解放される

アップデート次第でもっと使いやすくなることは十分に期待できます。
また、企業のデータ、特にメーカーはDXに力を入れ始めたのはここ2.3年の話です。
私自身、メーカーに勤務していますが、データベースを用意できているメーカー企業なんてかなり少ないと感じているくらいには、DXが進んでいません。
そのため、今後データベースに研究データや工場のプラントデータなどが溜まっていくと予想しています。
そのときにPandasでは対応できないから、Polarsに移行しよう!となったときに移行まで時間がかかる可能性が高いです。
移行しないにしても、早めにPolarsに慣れておくことは十分アリだと思います。
最後に、ストレスからの解放ですね。
早いは正義です。

まとめ

いかがだったでしょうか。
今回はPolarsについてまとめていきましたが、Polarsを実際に使ってみて良さを実感していただければと思います。
Polarsの使い方がわからん!って方は以下を参考に練習してみてください。
あとはClaude3 Opusが何とかしてくれます!
それでは!!!

240
261
6

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
240
261