【イベントレポート】リザバーコンピューティング技術セミナー

いつも記事を読んでいただきありがとうございます！
モブエンジニア（@mob-engineer)です！

今回は2025.02.03（月）に開催したリザバーコンピューティング技術セミナーへ参加しましたので、アウトプットとしてイベントレポートを執筆いたしました。
初学者でもサクッと読めるように平易な表現で執筆しておりますので、お気軽に読んでいただければ幸いです。

誤字脱字、分かりづらい表現に関しては極力なくすように心がけていますが、リアルタイムで執筆しているため、誤字脱字があるかもしれません。

イベントページ

参考ドキュメント

IPA公式サイト

未踏プロジェクト（未踏ターゲット事業）

目次

• リザバーコンピューティングとは？
• ニューラルネットワークモデル(ソフトウェアベース)のリザバーコンピューティング
• 物理リザバーによる高度化・効率化
• まとめ

リザバーコンピューティングとは？

参考ドキュメント

• 自己紹介
  • 大阪大学の先生
  • リザバーコンピューティングが専門の方
• リザバーとは
  • 液体などを入れておく容器、タンク、貯水池が語源
  • リザバー内で波紋が広がっていく
    • 非線形的な流体ダイナミクスが時間に応じて広がっていく
    • （個人的考察）波紋情報に入出力データが入っている
• リザバーコンピューティング
  • 隠れ層が非線形的・高次元性・短期記憶の要素を持っている
  • 学習コストを少なく抑えられるため、安価で利用出来るようになる
• リカレントニューラルネットワーク×リザバーコンピューティング
  • 一般的なニューラルネットワーク：誤差逆伝播法
    • 大量の計算資源が必要となる
  • リザバー層を用いたネットワーク：最小二乗法
    • 少数の訓練データで学習可能になる
    • エッジコンピューティングで実装可能
  • 凄くざっくり言えば、線形学習機と深層学習のいいとこ取り
• 線形リードアウト
  • 非線形データを線形データとして処理出来るようになる
  • トレーニング時のみに重み付けを行えばいい
  • 推論時の予測に関してもリザバーを通じてループする
    • 自己学習のイメージ？
  • カオスへの臨界点付近（エッジオブカオス）でリザバーコンピューティングの性能最適化させる
    • 学習率、エポック数あたりの話とつながりそうね
  • エコーステートプロパティやリキッドブレインなどの考えも出ている
• 質問
  • 転移学習との違いは
    • 重さを固定させるという視点であれば同じ
    • 事前学習がないことがリザバーコンピューティングの特徴
  • 波紋情報を考えるとランダム性出ない方がいいのでは
    • 研究データから見てランダムデータの方がパフォーマンスが向上する
  • データ容量が膨大な場合、一時データに保管しているのか
    • 課題によるが、一般的にはデータベースから呼び出すイメージ
  • リザバーコンピューティングを利用してもらうためには
    • 研究サイドでアプリケーション・ユースケース例を示していくことが重要

ニューラルネットワークモデル(ソフトウェアベース)のリザバーコンピューティング

脳・神経科学教材

• 自己紹介
  • 公立はこだて未来大学 システム情報科学部 複雑系知能学科教授
  • 非線形知能学習を専門とされている方
  • その派生としてリザバーコンピューティングが出ている
• リザバーコンピューティグとは
  • 時系列データを小さな計算量で学習可能
  • 高次元ダイナミクス、非線形性の考えを理解する必要がある
  • IoT、コンピューティング技術などへ転用することが可能
• エコーステットネットワーク
  • 入力信号⇒リザバー⇒出力信号の図式化
  • 概念を理解すれば、初学者でも理解出来る
• ESNによる時系列の生成
  • 入力信号により誘起されるリザーバの複雑な信号パターンの組み合わせから導き出す
  • テイラー展開・フーリエ級数的な処理のイメージ
  • 読み出し方法によって出力信号を変えられる
    • （個人的考察）時系列の幅が広がるため、予測精度が高くなるのかしら
  • サイン波、三角波を出力信号から抜き出すことが可能
    • 応用すれば音声認識に活用可能
• リキッドステートマシン
  • 計算論的神経科学の数理モデルから来ている
  • 内部ロジックは複雑
• ユースケース
  • 脳モデルを用いたリザバーコンピューティング技術
    • 電気シナプスによるギャップ結合を再現（？）
    • 再現することでカオス的動きが生まれるが、うまく調整することでエッジオブカオス状態になる
    • ざっくりいえば、電気シナプスを用いればリザバーコンピューティングの学習最適化を実現できるということ
  • リザバー強化学習モデル
    • （教科学習：前提）報酬最大化を目指して学習するシステム
    • リザバー強化学習モデルを利用することで試行数を削減出来る
    • 未踏ターゲット事業でも実証している
  • 社会実装（QuantumCore社）
    • 音声認識、アームの自動制御などなどで利用されている
    • 音声データからリアルタイムで話者特定が可能
      • 学習に関しても10秒くらいの情報量で可能
      • （個人的考察）データ拡張を擬似的に再現しているんだろうなぁ
    • モーションキャプチャーデータの活用
      • 簡単に人物の動きを特定できる
      • 関節データを特定可能
    • 心電図からの疾患判定
      • 少数の病理データから疾患判定可能
      • プライバシー保護を行いながら、パーソナライズした学習を行うことが可能
• まとめ
  • 時系列生成・分類・予測であればとにかく速い
  • リザバーの高度化・効率化に脳・神経科学の知見が利用可能
  • 社会実装の方法は多種多様
• エッジが立つような出力が苦手とのことですがどのようにエッジを出させるのか？
  • 時系列が速いデータを投入することでエッジが立つ
• リキッドステートマシンで出てきたギャップ結合の強さについて
  • ギャップ結合の強さを決めているわけではない
• 社会実装として利用可能性がある業界
  • 様々な業界で持っている（センサー）データが利活用されていないと考えている
  • 様々な業界で利用可能だと考えている
  • 特にパーソナライズされたデータ利活用が求められている業界だと有用だと考えている
    • （個人的考察）小売業だけでなく金融系でも使える印象かしら

物理リザバーによる高度化・効率化

参考サイト

• 自己紹介
  • 名古屋工業大学 大学院工学研究科教授の方
  • 学生時代か複雑系を理解する、計算することにモチベーションを持っていた
  • バックグラウンドは数理工学、ネットワーク科学、機械学習など
• 物理リザバーコンピューティング
  • 物理実装に関しては研究途上
  • 先行事例としてバケツの水
    • バケツの水：バケツに張った水の波紋からパターン分析を行う考え
• 物理リザバーの考え
  • 水による波紋計算
  • アナログ/デジタル回路
• 構造分類
  • ネットワークタイプ：ノード数が多くなる
  • 遅延フィードバック：ループ処理を通じてアウトプットを出していく
  • ヒステレシスタイプ：履歴を用いた非線形変換の考え方
  • エッジオブカオス状態を実現するために非干渉状態を実現することが大事
• 応用研究への活用
  • 人工培養脳によるリザバー計算
    • 少数データだが話者分析も可能
• まとめ
  • 多様な材料・媒質・物理系を用いたリザバー提案がある
  • 時系列データ処理用ハードウェアの開発などがある
  • リザバーに必要な材料がそろっている、適切な材料を見定めることが課題として上がっている
  • 今後のあり方として、エッジ側で処理が行えるようにすることが重要
• 質問
  • 物理リザバーの温度・湿度問題について
    • モノによるが影響はあると考えた方がいい
    • IPA未踏プロジェクトでも同様な課題があった
  • 物理リザバーモデルはホワイトボックス or ブラックボックスか
    • どちらも可能性がある
    • 自然法則であればホワイトボックスでの計算となる
    • ブラックボックスでの計算でうまくいく場合も
      • （個人的考察）説明可能性の問題もあるからなぁ...
  • 最適化手法に関しては
    • 設備状況に応じて考えていく必要がある

まとめ

リザバーコンピューティング技術に関してはキャッチアップする目的で参加しましたが、社会実装をどのように進めていくかのヒントを得ることが出来ました。そのうえで、今回得た知識をどのように言語化していくかがポイントだと考えています。
（個人的に量子コンピューティングに関してキャッチアップが出来ていないので、時間が出来たらキャッチアップ活動を行っていきたいと思います）

最後まで読んでいただきありがとうございました！