AIの全体像 🗺️

読者のターゲット層 🧑‍💻

• AI初心者：プログラミング経験はあるがAIは初めて、あるいはAIに興味がある一般の方。
• 非エンジニア：ビジネスサイドでAIに関わる方、AIの基礎知識をつけたい方。
• 学習中のエンジニア：AIの各概念を整理したい方。

「プロンプト入力➡AI回答」までのロードマップ💬

もしあなたが「AIって何？」という段階であったり、まだAIの基礎概念に触れたばかりでしたら、まずは以下の AIにおける「プロンプト入力➡AI回答」までのロードマップ💬 からご覧になることを強くお勧めします。

AI数学

数学的／アルゴリズムの観点でAI学習を行わない場合はAI数学を学ばなくても問題ありません

To AI初学者の方

• AIの「学習」と「推論」プロセス
• AI、ニューロンの出力に一定のオフセット（バイアス） を加える理由（原点を通るとは？）
• シナプス

AIモデルのアーキテクチャ・種類🏗️

AIモデルの基本的な構造や、特定の目的に特化したニューラルネットワークの種類です。

• ニューラルネットワーク (Neural Network)
  • 全結合型ニューラルネットワーク (Fully Connected Neural Network / MLP)
  • 畳み込みニューラルネットワーク (CNN: Convolutional Neural Network)
    • 畳み込み演算
    • 特徴マップ
    • エッジ
  • 再帰型ニューラルネットワーク (RNN: Recurrent Neural Network)
    • LSTM (Long Short-Term Memory)
    • GRU (Gated Recurrent Unit)
• トランスフォーマーモデル (Transformer Model)
• Vision Transformer
• 生成モデル (Generative Models)
• GAN (Generative Adversarial Network)
• VAEs (Variational Autoencoders)
• Seq2Seq (Sequence to Sequence)
• 線形変換（Linear Transformation）
• スカラー乗法
• 隠れ状態
• フィードフォワードネットワーク

AIの学習手法・概念🎓

モデルを訓練する際のアプローチや、AI研究における重要なパラダイムです。

• マルチモーダル (Multimodal)
• クロスモーダル学習 (Cross-Modal Learning)
• 共通表現学習 (Common Representation Learning)
• コントラスティブ学習 (Contrastive Learning)
• ファインチューニング（転移学習）(Fine-tuning / Transfer Learning)
• Hugging Face Hub
  • Modelsエコシステムの相関図
  • モデルファイル

データ表現・前処理・埋め込み (Embeddings) 🗂️

AIがデータを効率的に扱えるようにするための変換手法や、その結果として得られる表現です。

• 固定長ベクトル (Fixed-length Vector)
• シーケンス (Sequence)
• One-hotエンコーディング (One-hot Encoding)
• Word Embeddings
• Word2Vec
• GloVe
• Embeddings from Language Models

注意機構（Attention）関連👀

特にTransformerモデルで重要な、入力データのどの部分に「注意」を向けるべきかを学習するメカニズムとその関連概念です。

• 注意機構 (Attention Mechanism) (概念)
  • 自己注意機構 (Self-Attention Mechanism)
  • マルチヘッド注意機構 (Multi-Head Attention)
• Bahdanau Attention
• Luong Attention
• コンテキストベクトル (Context Vector)
  • コンテキストベクトル&コンテキストウィンドウの違い
• アライメントスコア (Alignment Score)

特定のAIモデル・フレームワーク・データセット📊

特定の研究機関が開発した具体的なAIモデルや、大規模な学習用データセットです。

• CLIP (Contrastive Language-Image Pre-training)（AIモデル）
• A Large-scale ImaGe-Nets (ImageNet)
• ImageBERT
• VilBERT
• Bidirectional Encoder Representations from Transformers (BERT)
• ResNet

評価指標・損失関数・活性化関数📈

モデルの性能を測るための指標、学習の際にモデルが最適化を目指すための関数、ニューラルネットワークの非線形性を導入する関数です。

• 損失関数 (Loss Function)
• InfoNCE Loss (Information Noise-Contrastive Estimation Loss) (損失関数)
• 平均二乗誤差（MSE: Mean Squared Error）
• 交差エントロピー誤差（Cross-Entropy Error）
• ソフトマックス関数 (Softmax Function)
• tanh関数 (Hyperbolic Tangent Function)
• ロバスト性 (Robustness)
• シグモイド関数

言語資源・知識ベース🌐

自然言語処理において、言葉の意味や関係性に関する知識を提供するデータベースやその構成要素です。

• Lexical Database（語彙データベース）
  • WordNet
    • Synset
    • Gloss

学習の課題・問題⚠️

AIモデルの学習プロセスにおいて発生しうる、特定の困難や問題です。

• 勾配消失問題 (Vanishing Gradient Problem)
• 勾配爆発問題 (Exploding Gradients Problem)

AIの概念・将来技術・その他🌌

AIの長期的な目標や、新しいハードウェア技術など、より広範なAI関連のトピックです。

• AGI (Artificial General Intelligence)
• ニューロモルフィックチップ (Neuromorphic Chip)