パスポーンTransformerモデルとは
文中の単語同士の関係を一度に見比べて処理する、今の生成AIの基盤の仕組み。
生成AIパスポート公式シラバス（2026年2月試験より適用）第2章「生成AI（ジェネレーティブAI）」の収載語です。
まず1問、解いてみる
答えを開く前に、自分の言葉で説明してみてください。
文章のように前後のつながりがある時系列データ(シーケンスデータ)を扱うRNNやLSTMの弱点(長い文章では前の情報を忘れやすいこと)を、Attention(注意)の仕組みで解決した、現在の生成AIの主流となっているモデルはどれか。
- ALSTM(長・短期記憶)
- BTransformerモデル
- Cボルツマンマシン(確率的な計算で学習する初期の生成モデル)
- DCNN(畳み込みニューラルネットワーク)
同じ選択肢に並んだ語（区別して覚える）
当サイトの問題で、Transformerモデルと同じ選択肢の欄に並んだ語です。
- CNN（畳み込みニューラルネットワーク）＝画像を小さな範囲ごとに見て輪郭や模様を拾う、画像認識が得意な仕組み。
- GAN（敵対的生成ネットワーク）＝贋作を作るAIと見破るAIを競わせて絵や画像を作らせる生成AIの仕組み。
- VAE（変分自己符号化器）＝データを一度圧縮し、元に近い新しいデータを作り出す生成AIの仕組み。
- BERTモデル
- GPTモデル＝次に来る単語を予測しながら、文章を作り出すことを得意とするモデル。
- LSTM（長・短期記憶）＝RNNを改良し、重要な情報を長く覚えておけるようにした仕組み。
- RNN（回帰型ニューラルネットワーク）＝直前の出力を次の入力にも使い、文章など順序のあるデータを扱う仕組み。
- ボルツマンマシン＝確率のゆらぎを使って学習する、GANより前からある古いタイプの生成AI。
- 制約付きボルツマンマシン
ありがちな誤解と訂正
当サイトの問題「文章のように前後のつながりがある時系列データ(シーケンスデータ)を扱うRNNやLSTMの弱点(長い文章では前の情報を忘れやすいこと)を、Attention(注意)の仕組みで解決した、現在の生成AIの主流となっているモデルはどれか。」の誤答の選択肢から。
×LSTM(長・短期記憶)
○LSTM(長・短期記憶)＝RNNを改良し、重要な情報を長く覚えておけるようにした仕組み。
この問題の正解＝「Transformerモデル」
同じ問題に登場した語
当サイトでの登場（実測）
当サイトの問題バンク321問のうち、Transformerモデルは5問に登場します。 内訳＝意味を直接問う問題1問・問題文に登場1問・ひっかけ役（誤答の選択肢）3問。
登場した単元＝第2章 生成AI（ジェネレーティブAI）
※この数字は当サイトの問題バンク内の集計です。本試験の出題頻度ではありません。
演習に進む
最終更新：（運営：Meritorious）
集中サウンド