パスポーンAttention Mechanismとは
文中のどの単語がどれくらい重要かに得点をつけて重視する処理のこと。
生成AIパスポート公式シラバス（2026年2月試験より適用）第2章「生成AI（ジェネレーティブAI）」の収載語です。
まず1問、解いてみる
答えを開く前に、自分の言葉で説明してみてください。
Transformerの土台になっている「Attention Mechanism」の説明として、正しいものはどれ？
- A文中のどの部分が重要かに点数をつける仕組みで、これを組み込んだ層をAttention層と呼ぶ
- B単語がもとは何番目にあったかを数値で付け加える仕組みで、これを位置エンコーディングと呼ぶ
- C人間の評価を報酬にして受け答えを調整する仕組みで、これをRLHFと呼ぶ
- D学習済みモデルへ追加のデータを与えて仕上げる仕組みで、これをファインチューニングと呼ぶ
答えと解説を開く
正解A 文中のどの部分が重要かに点数をつける仕組みで、これを組み込んだ層をAttention層と呼ぶ
答えは「文中のどの部分が重要かに点数をつける仕組みで、これを組み込んだ層をAttention層と呼ぶ」。Attention Mechanism（注意機構）は、文章全体を見比べて「いま大事なのはどこか」に得点をつける仕組みです。これを土台に据えたのがTransformer（現在の生成AIの主流となっているモデル）です。RNN（順番に処理していく仕組み）は長い文章では前の情報を忘れやすく、Transformerはその弱点を解きました。
同じ選択肢に並んだ語（区別して覚える）
当サイトの問題で、Attention Mechanismと同じ選択肢の欄に並んだ語です。
- RLHF＝人間の評価をもとにAIの答えを望ましい方向に学習させる仕組み。
- ファインチューニング＝学習済みモデルに追加データを与え、新しい目的向けに仕上げの調整をする手法。
- 位置エンコーディング
ありがちな誤解と訂正
当サイトの問題「Transformerの土台になっている「Attention Mechanism」の説明として、正しいものはどれ？」の誤答の選択肢から。
×単語がもとは何番目にあったかを数値で付け加える仕組みで、これを位置エンコーディングと呼ぶ
○位置エンコーディング（語順を数値で補う工夫）の説明としては正しいが、Attention Mechanismの説明ではない。
この問題の正解＝「文中のどの部分が重要かに点数をつける仕組みで、これを組み込んだ層をAttention層と呼ぶ」
同じ問題に登場した語
当サイトでの登場（実測）
当サイトの問題バンク321問のうち、Attention Mechanismは2問に登場します。 内訳＝問題文に登場1問・ひっかけ役（誤答の選択肢）1問。
登場した単元＝第2章 生成AI（ジェネレーティブAI）
※この数字は当サイトの問題バンク内の集計です。本試験の出題頻度ではありません。
演習に進む
最終更新：（運営：Meritorious）
集中サウンド