1
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

More than 1 year has passed since last update.

【生成AIパスポート】試験学習 復習の自動化動画 その6 | RNNにおける「隠れ層」について、受験勉強にたとえてもらった話【動画 20分37秒】【YouTubeチャンネルからの転記です】

Posted at

この記事は、わたしのYouTubeチャンネルにある公開動画を転記しております。
( どこかのタイミングで、プログラミング-Google Apps Script or iPaaS-Zapier をつかって自動転記させる予定です )

転記のための時間コストを少なくしたいので、文字装飾( Markdown記法 )を極力つかわずに書いております。

こちらが動画内容です👇


99 サムネイル 【生成AIパスポート】試験学習 復習の自動化動画 その6 _ RNNにおける「隠れ層」について、受験勉強にたとえてもらった話【動画 20分37秒】.png


  • 動画タイトル

    • 【生成AIパスポート】試験学習 復習の自動化動画 その6 | RNNにおける「隠れ層」について、受験勉強にたとえてもらった話【動画 20分37秒】

  • 動画の説明欄(一部を抜粋)

📅撮影日 = 2023-10-19(木)

ひょんなことから生成AIパスポート試験を受けることになったので、手抜きしながら、学んだことの定着(記憶の定着)をねらっていきます。

・生成AIパスポートとは?
 https://bit.ly/WhatIs-GenerateAIPassport

やり方はこんな感じです。

・初回のインプット( 座学、教材学習、ChatGPT PlusやGoogle Bardへ質問する )

・アウトプット( 学んだことを声に出す → YouTube動画化 )

・2回目以降のインプット( 自分でつくった動画をながら聴きする )
 └朝起きてすぐ( YouTube + Chromecast )

 └ジョギング中( YouTube + スマホ )

などのやり方で繰り返しながら学習します。
技能を上げるには繰り返しが大切です。
初回のインプットではとにかく集中して、2回目以降のインプットでは繰り返し学習のためにとにかく手抜きします。

動画編集をしている時に、繰り返し学習ができる点も、楽ちんだなと感じています。


⏳開始時間
 00:00 イントロ
 00:30 本編開始

 00:57 「生成AIパスポート公式テキスト」( Kindle版 )から https://bit.ly/GenAIPass-Text
  └ RNN( Recurrent Neural Networks )とは?

 01:21 「Recurrent」という英語の普遍的な意味を、日常会話で使われる頻度が高い順番で5種類おしえて。
  └ 繰り返し、定期的なことがら、反復的なことがら、連続的なことがら、周期的なことがら

 03:42 RNN( Recurrent Neural Networks )について解説して。
  └ 03:52 小学校6年生向けの説明
   └ コンピュータが時間に関連するデータを理解するための特別なプログラムの1つです。

  └ 04:35 18歳向けの説明
   └ Sequential( シーケンシャル )なデータ、つまり順序に意味があるデータを処理するのに特化したニューラルネットワークです。
   └ 具体的な実例はスマホの「予測変換」です。

 05:51 RNNにおける「隠れ層」についておしえて。
  └ 06:21 18歳向けの説明
   └ 例えば、自然言語処理で文章を生成する場面で考えてみましょう。
   └ "私は" というフレーズが出力された後に、"学生です"と続けるか"よくわかりません" と続けるかは、隠れ層が過去の文脈を覚えているからこそ適切に選択できるんです。
   └ このように、隠れ層は前の文脈を考慮して、次に何を出力するかを決定します。

 07:05 そもそもなぜ、日本語で「隠れ層」というの?
  └ 「隠れ層」という名前は、この層が入力層や出力層とは違って、直接外部から見えないからです。

  └ 08:35 ちなみに、入力層は「Input Layer」でエンコーダではなく、出力層は「Output Layer」でデコーダのことではありません。

  └ 10:22 ちなみに、ちなみの、VAEにおける「連続的な潜在空間」( Continuous Latent Space )の簡単説明

 13:22 「RNNは前の時刻の『隠れ層』( 内部の処理層 )の出力を次の時刻の隠れ層の入力として利用します」という文章の意味がうまく理解できないので、ほかの言葉でたとえてみて。
  └ 13:43 RNNにおける「隠れ層」について、受験勉強にたとえてもらった話。

  └ 14:30 ブロックチェーンにもたとえてもらいました。

 15:19 RNNの「勾配消失問題」( 学習が進まなくなる問題 )と、「勾配爆発問題」( 学習が不安定になる問題 )の原因と結果についてそれぞれ教えて。
  └ 15:34 勾配消失問題
   └ この問題は、RNNが長い情報を覚えようとすると、その「覚える力」がだんだん弱くなってしまう問題です。
   └ 例えば、長い文章を読んでいると、最初の方の内容を忘れてしまうような感じです。

  └ 16:48 勾配爆発問題
   └ 数学的には「勾配( 傾き )」が非常に大きくなってしまい、ネットワークが過去の情報に対する重要度を過大評価してしまう問題です。
   └ これはRNNの設計上の問題であり、LSTM( Long Short-TermMemory )や、GRU( Gated Recurrent Unit )などの改良されたRNNが使われることで、ある程度解決されています。

 18:01 最後に、RNNの具体的な便益を、RNNの登場以前と登場以降とを比較しておしえて。その際に、RNNの登場以前と登場以降で普及した具体的なサービス名もおしえて。
  └ 18:58 RNNの登場以降は、テキスト分析: 文脈を考慮した分析が可能になり、音声認識: 音声の文脈を理解してより正確な認識が可能になり、時系列データ: 長い期間のデータを考慮して分析できるようになりました。
  └ 具体的なサービス名は、Google Assistant( 音声認識と自然言語処理 )や、Netflix( 推薦アルゴリズム )です。

  └ 19:37 比較のまとめ
   └ RNNの登場によって、多くの分野で進歩が見られ、より高度なサービスが提供されるようになりました。


動画に出てくる笑顔や怒った顔の素敵なイラストは「よろまろ。」さんの作品です。
 https://bit.ly/Smile-Illustrations

ありがとうございます。


✓ 🎥My videos are strongly related to this video. | この動画と関連が強い私の動画 ↙
 ・“生成AIパスポート 試験学習(動画公開日で降順)”シリーズ
 https://www.youtube.com/playlist?list=PLpQhBHT4oghMuGz8uBLRl1XyLqeRCIY11

 ・“生成AIパスポート 試験学習(動画公開日で昇順)”シリーズ
 https://www.youtube.com/playlist?list=PLpQhBHT4oghOQB8T6uppVO_juFi-4xL3E

 ・“山中一司がお金を払って買った情報”シリーズ
 https://www.youtube.com/playlist?list=PLpQhBHT4oghOW4Cnbj6lnltyToJae_Rb5

 ・“自己投資”シリーズ
 https://www.youtube.com/playlist?list=PLpQhBHT4oghP1Gxpymfr6fVF9pRYuGt1P

 ・“効果的にマインドマップを活用するヒント”シリーズ
 https://www.youtube.com/playlist?list=PLpQhBHT4oghMTIuF-n2Uyaw6cqEMFt0aL

 ・“マインドマイスター( クラウド型マインドマップ )を活用するヒント”シリーズ
 https://www.youtube.com/playlist?list=PLpQhBHT4oghMCeUohu19ZbUilmcZnEJ1q

 ・“マインドマイスター( クラウド型マインドマップ )でのプレゼンテーションの例”シリーズ
 https://www.youtube.com/playlist?list=PLpQhBHT4oghMXJCYhmWK4bjAUG1uy78li

 ・“効果的にChatGPTを活用するヒント”シリーズ
 https://www.youtube.com/playlist?list=PLpQhBHT4oghPfo1c-qmO2ERD7ldSgmblR

✓ 🎥Shortened URL for this video | この動画の短縮URL ↙
 https://bit.ly/46WRaZA

1
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
1
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?