AI TRACK
AI/機械学習
PyTorch・TensorFlow などのライブラリや GPT・Claude などの基盤モデルの比較から、機械学習・ニューラルネット・LLM の考え方まで。まず TL;DR で。
Model & Tool Index
ライブラリ・モデルから知る
モデルを作るライブラリと、学習済みの基盤モデル。横断比較もできます。
Concept Map
考え方・概念
機械学習・ニューラルネット・LLM など、ツールの下で動く仕組み。まず TL;DR で。
CNN と RNN
CNNは畳み込みで画像など空間的なデータを、RNNは再帰で時系列など順序のあるデータを扱うのが得意なネットワークです。仕組みと用途、Transformerとの関係を整理します。
LLM と Transformer
LLM は「次に来る単語」をひたすら当てるよう大量の文章で訓練したモデル。その心臓部が、文中のどの語に注目すべきかを動的に重み付けする Transformer のアテンション。
MLOps
MLOpsは、機械学習モデルの開発から運用までを継続的に回すための考え方と仕組みです。データやモデルのバージョン管理・監視・再学習を自動化し、モデルを安定して本番で動かし続けます。
ディープラーニング
ニューラルネットの層を深く重ね、特徴量づくりまで自動で学習させる機械学習の一分野。画像・音声・言語で精度が一気に伸び、今のAIブームの土台になった。
データ拡張
データ拡張は、既存の学習データを変形・加工して人工的に水増しする手法です。データの多様性を増やすことで過学習を抑え、未知データへの汎化性能を高める狙いがあります。
トークン化（トークナイザ）
トークン化は、テキストをトークンと呼ぶ小さな単位に分割する処理です。大規模言語モデルの入力や課金は、このトークンを単位として数えられます。
ニューラルネットワーク
脳のニューロンを“ざっくり”模した計算の仕組み。入力に重みを掛けて足し、活性化関数で曲げる――を層で積み重ね、誤差から重みを少しずつ直して学習する。
ファインチューニングと RAG
基盤モデルを自分の用途に合わせる2つの道。内部を追加学習で書き換える「ファインチューニング」と、外部知識を検索して渡す「RAG」。向き不向きとコストで使い分ける。
プロンプトエンジニアリング
LLM から狙った出力を引き出すための“指示の設計”。明確な指示・役割・例示・段階的に考えさせる工夫で、同じモデルでも結果が大きく変わる。
ベクトルデータベース
ベクトルデータベースは、埋め込みと呼ぶ高次元ベクトルの近傍検索に特化したデータベースです。キーワード一致ではなく意味の近さで探せ、RAGの基盤になります。
モデル評価（精度・適合率・再現率）
分類モデルの良し悪しは正解率だけでは測れません。混同行列をもとにした適合率・再現率・F1値の意味と、不均衡データでの落とし穴を整理します。
過学習と汎化
訓練データを“覚えすぎて”未知データで外す現象が過学習。本当に欲しいのは、見たことのないデータでも当たる「汎化」性能。
拡散モデル
拡散モデルは、ノイズだらけの状態から少しずつノイズを取り除いて画像を生成する仕組みです。画像生成AIの主流アプローチで、高品質で多様な画像を安定して作り出せます。
機械学習とは（学習の種類）
ルールを人が書く代わりに、大量のデータから“パターン”を自動で見つけ出す手法。教師あり・教師なし・強化学習の3つが柱。
強化学習
強化学習は、エージェントが環境の中で試行錯誤しながら報酬を最大化する方策を学ぶ枠組みです。状態・行動・報酬の繰り返しで、ゲームやロボット、RLHFなどに使われます。
教師あり・教師なし・強化学習
機械学習は学習の仕方によって大きく3つに分かれます。正解ラベルの有無や報酬の使い方の違いを、代表例とともに整理します。
勾配降下法
勾配降下法は、損失（誤差）が小さくなる方向へパラメータを少しずつ更新してモデルを学習させる基本アルゴリズムです。学習率や局所解の扱いがポイントになります。
正則化（過学習対策）
正則化は、モデルが複雑になりすぎることに罰則を与えて過学習を抑える手法の総称です。L1/L2やドロップアウト、早期終了などがあり、未知データへの汎化性能を高めます。
転移学習
転移学習は、あるタスクで学習済みのモデルを別のタスクに転用する手法です。一から学習せず既存の知識を再利用するため、少ないデータでも高い精度を出しやすくなります。
埋め込み（Embedding）とベクトル検索
単語・文・画像を「意味を座標にした数値の列（ベクトル）」へ変換する技術。意味が近いものはベクトルも近くなるので、キーワード一致ではなく“意味”で検索・比較できる。