0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

Docker で ginza electra をインストールしようとしたら、苦労した。

Last updated at Posted at 2024-08-30

Docker で ginza electra をインストールしようとしたら、苦労した。

内容:表題通り

あくまで、この記事ではロードが成功することを目標にしています。
使っているうちに不整合が起きる可能性がありますが、すべての行為の責任は読者にあるものとします。

コンパイルできない

ja-ginza-electraをインストールしようとしたところ、以下のエラーが出ました。

copying py_src/tokenizers/tools/visualizer-styles.css -> build/lib.l
inux-x86_64-cpython-312/tokenizers/tools
running build_ext
running build_rust
error: can't find Rust compiler

Rustのインストールを試したが解決できず。

原因はtokenizersのバージョンに(原因は調べていないですが)相性があるようです。

とりあえず、パッケージをダウンロードしてきて、requirements.txtに記載されているspacy-transformerの上限を無くしたところ、pip installは通るようになりました。

ロードできない

spacy.load('ja_ginza_electra')としてモデルを読み込もうとするとエラーが出ます。こちらはTransformers由来で、ginza_transformers/layers/hf_shim_custom.py の124行目に, strict=Falseを加えたところ動いた。

transformer.load_state_dict(torch.load(filelike, map_location=map_location), strict=False)
0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?