ディープラーニングを実装から学ぶ（4-2）学習（誤差逆伝播法２）
性能改善は行えたものの、私の非力なノートPCだと、まだ、10エポックで30分程度かかります。本当は、いろいろパラメータを変更して試したかったのですが、その前に、新しい法則と数学の力を借りて改善す...
8
7
Comment0
44 search resultsShowing 1~20 results
Stocked
You need to log-in
torchtext凍結対応
以前、torchtextの仕様変更への対応方法を書きました。 2024年7月にリリースされたPyTorch 2.4からtorchtextのサポートがなくなりました。torchtextを利用するに...
1
1
Comment0
torchvision transforms V2
torchvison 0.17よりtransforms V2が正式版となりました。 transforms V2では、CutmixやMixUpなど新機能がサポートされるとともに高速化されているとの...
3
1
Comment0
JDLA Generative AI Test 2023問題集
JDLA Generative AI Test 2023 JDLAが生成AIに関するミニテストを発表しました。 https://www.jdla.org/certificate/generati...
11
10
Comment1
torchtextの仕様変更対応 (4) TranslationDataset
PyTorch 1.11(torchtext 0.12)より自然言語処理で活用していたtorchtextのFieldやTabularDatasetなど便利な機能がなくなりました。PyTorch ...
1
1
Comment0
torchtextの仕様変更対応 (3) TorchData利用
PyTorch 1.11(torchtext 0.12)より自然言語処理で活用していたtorchtextのFieldやTabularDatasetなど便利な機能がなくなりました。前回の「torc...
2
2
Comment0
torchtextの仕様変更対応 (2) TabularDataset BucketIterator
PyTorch 1.11(torchtext 0.12)より自然言語処理で活用していたtorchtextのFieldやTabularDatasetなど便利な機能がなくなりました。PyTorch ...
10
3
Comment1
torchtextの仕様変更対応 (1) Field
PyTorch 1.11(torchtext 0.12)より自然言語処理で活用していたtorchtextのFieldやTabularDatasetなど便利な機能がなくなりました。PyTorch ...
25
18
Comment0
ディープラーニングを実装から学ぶ（8-3）h-swish,TanhExp,Flooding,Nesterov
前回以降に試したことを記載していきます。 (1) h-swish(活性化関数) ReLUと同等の性能で、Swishと同等の精度が出るようなので試してみます。 (2) TanhExp(活性化関...
5
6
Comment1
気象過去データの利用２（東京オリンピック期間の最高気温変遷）
気象庁が、2020年3月末まで、気象過去データを無償で提供しています。 (参考) 気象過去データの利用環境 https://www.data.jma.go.jp/developer/past_d...
0
1
Comment1
ディープラーニングを実装から学ぶ（索引）
「ディープラーニングを実装から学ぶ」をテーマに掲載してきましたが、記事が多くなり、どこに記載したか分からなくなってきたため、索引としてまとめを作成しました。 1. 活性化関数 1.1 中間層 1...
1
2
Comment0
ディープラーニングを実装から学ぶ（7-3）ドロップコネクト・宝くじ仮説
今回は、ドロップコネクト、宝くじ仮説について確認します。 順番は、前後しますが、「ディープラーニングを実装から学ぶ（8）実装変更」のプログラムを利用します。 【2020/5/25改版】 逆伝播の...
3
2
Comment0
ディープラーニングを実装から学ぶ（10-3）RNNの実装(Self-Attention(可視化))
今回は、Self-Attentionを実装してみます。Self-Attentionにより、どの時刻のデータをより重要と考えているかがわかります。 ディープラーニングを実装から学ぶ（10-1）RN...
3
1
Comment0
ディープラーニングを実装から学ぶ（10-2）RNNの実装(双方向RNN・orthogonal(重みの初期値))
RNN,LSTM,GRUについて、ハイパーパラメータの確認を行う予定でしたが、その前に、双方向RNNと重みの初期値としてorthogonalの確認を行います。 ディープラーニングを実装から学ぶ（...
1
1
Comment0
ディープラーニングを実装から学ぶ（10-1）RNNの実装(RNN,LSTM,GRU)
今更ですが、RNNについてです。 RNNもCNNと同様に約２年前に実装していましたが、なかなか書けませんでした。少し時間ができたので、書きます。 RNNですが、例によってMNISTを使って確かめ...
8
14
Comment0
COVID-19の単純なシミュレーション
接触８割減が叫ばれています。 接触の減少により感染がどの程度拡大・減少するか単純にシミュレーションしてみました。 単純化しているため、現実とは異なりますがある程度参考にはなるのではないでしょうか...
1
0
Comment0
ディープラーニングを実装から学ぶ（8-2）活性化関数(Swish,Mish)
活性化関数、Swish,Mishについて、MNISTにて精度を確認してみましょう。 プログラムは、「ディープラーニングを実装から学ぶ（8）実装変更」を利用します。 Swish まずは、Swish...
0
4
Comment0
気象過去データの利用５（東京の天気遷移）
気象庁が、2020年3月末まで、気象過去データを無償で提供しています。 (参考) 気象過去データの利用環境 https://www.data.jma.go.jp/developer/past_d...
2
6
Comment0
気象過去データの利用４（東京オリンピック期間の天気の気持ち）
気象庁が、2020年3月末まで、気象過去データを無償で提供しています。 (参考) 気象過去データの利用環境 https://www.data.jma.go.jp/developer/past_d...
0
2
Comment0
気象過去データの利用３（豪雨時の降水量を時系列ヒートマップ表示）
気象庁が、2020年3月末まで、気象過去データを無償で提供しています。 (参考) 気象過去データの利用環境 https://www.data.jma.go.jp/developer/past_d...
2
6
Comment0
44 search resultsShowing 1~20 results
Qiita is a knowledge sharing service for engineers.
- You can follow users and tags
- You can stock useful information
- You can make edit suggestions for articles