はじめに
NLP界隈では2013年頃、Word2Vecの登場を筆頭に、ニューラルネットワーク、ディープラーニングが流行りだしました。
2019年現在ではBERTなどがトレンドですが、いずれにせよ、正しくモデルを理解して構築するためには、数学的な知識・技術が必要不可欠となっています。
本記事では、ディープラーニング、特に活性化関数の分析・設計に役立つグラフ描画ツールの紹介をします。
Desmos | Graphing Calculator
「Desmos」はWebブラウザ上で動く、グラフ描画アプリケーションです。（インストール不要）
このような簡単なグラフはもちろん、
ディープラーニングでよく使用される、シグモイド関数やtanhなども簡単に記述できます。
Desmos活用のポイント
このWebアプリケーションの優れているところは、ゲインの調整やX軸、Y軸の並行移動など、数式上の様々なハイパーパラメータを変更し、その結果を可視化して確認できる点です。
たとえば、「パラメータωをシグモイド関数を使って0~1に収めたいけど、ω=+1,-1くらいで1になるようにしたい」などが、Desmosを使うことで簡単に実現できます！（上述のグラフより、ゲインを5にすれば良いことがわかります）
余談
頑張れば絵も掛けるっぽい・・・
https://www.desmos.com/art
まとめ
この記事では、数式可視化ツール「Desmos」を紹介しました。
Webブラウザから簡単に利用できるので、皆さんもぜひ試してみてはいかがでしょうか？