Qiita Teams that are logged in
You are not logged in to any team

Log in to Qiita Team
Community
OrganizationAdvent CalendarQiitadon (β)
Service
Qiita JobsQiita ZineQiita Blog
1
Help us understand the problem. What is going on with this article?
@Yasu-umi

sudachiclone-rs作った

More than 1 year has passed since last update.

先達の記事

Rustによる自然言語処理ツールの実装: 形態素解析器「sudachi.rs」

成果物

https://github.com/Yasu-umi/sudachiclone-rs
https://crates.io/crates/sudachiclone

やったこと

  • SudachiPyの中身を読んでRustで再実装した。
  • sudachi.rsとのdiffは再現度。テスト含めSudachiPyにある機能は大体実装済み。

まだやってないこと

  • いくつかの機能の実装。数字のnormalizeのためのpluginとか。
  • パフォーマンス改善。辞書読み込みがpythonより遅いとかどうなっているんだ。

そもそもやりたかったこと

  • wasm使ってブラウザでtokenizerを動かす。

雑感

Rustを書くこと自体が久々だったので構文を結構忘れていた。しかしやはりこんなに親切なコンパイラは他にないのではなかろうかというくらいには優しいコンパイラだ、とにかくコードを書くのが楽しい。
pythonからの素朴な移植をやったのでRc<RefCell<T>>を使わざるを得なかったのがつらい。しかしこれは内部の構造を大幅に変更しないとなくせないだろう。
以前100本ノックをやっていた時にも感じたが、RustでNLPする上での(python比較での)一番のハードルはやはり文字列の扱いで、Stringに良い感じにutf8でsliceする機能がstdで欲しくなった。(unicode_segmentationの存在にはたった今気付いたのでこれを使うコードに書き直そう)

1
Help us understand the problem. What is going on with this article?
Why not register and get more from Qiita?
  1. We will deliver articles that match you
    By following users and tags, you can catch up information on technical fields that you are interested in as a whole
  2. you can read useful information later efficiently
    By "stocking" the articles you like, you can search right away

Comments

No comments
Sign up for free and join this conversation.
Sign Up
If you already have a Qiita account Login
1
Help us understand the problem. What is going on with this article?