LLMとは

大規模言語モデルのこと。一般に数十億以上のパラメータを持ち、要約・翻訳・質問応答などを高い精度でこなす。

生成AIパスポート公式シラバス（2026年2月試験より適用）第5章「テキスト生成AIのプロンプト制作と実例」の収載語です。

まず1問、解いてみる

答えを開く前に、自分の言葉で説明してみてください。

昔からある「n-gramモデル」と、現在のLLMで使われる「ニューラル言語モデル」の違いとして正しいものはどれか。

An-gramモデルは直前の数単語だけを見て次の単語を予測するが、ニューラル言語モデルは人間の脳のつながり方を真似た計算のしくみ(ニューラルネットワーク)を使って、より広い文脈を捉えて予測する
Bn-gramモデルは人間の脳のつながり方を真似た計算のしくみ(ニューラルネットワーク)を使って予測しており、ニューラル言語モデルの方は単語の出現回数を数える統計だけを使って予測している
Cn-gramモデルとニューラル言語モデルは、内部の計算のしかたも予測に使う文脈の長さもまったく同じで、呼び方が違うだけの技術である
Dn-gramモデルは近年になって新しく登場した方式で、直前の数単語だけでなく文章全体を踏まえて予測できるため、ニューラル言語モデルより高性能である

答えと解説を開く

正解A　n-gramモデルは直前の数単語だけを見て次の単語を予測するが、ニューラル言語モデルは人間の脳のつながり方を真似た計算のしくみ(ニューラルネットワーク)を使って、より広い文脈を捉えて予測する

n-gram(エヌグラム)モデルは、直前の数個の単語だけを見て次の単語を当てる古い方式です。今のLLMが使う「ニューラル言語モデル」は、人間の脳のつながり方を真似た計算のしくみ(ニューラルネットワーク)を使って、もっと長い文章の流れを踏まえて予測できます。

当サイトの問題「LLMにおける「プレトレーニング(事前学習)」とは何か。」の誤答の選択肢から。

×導入した会社の業務マニュアルだけを繰り返し読み込ませて、その会社専用の答え方に仕上げる作業

○特定の仕事の資料だけで追加調整するのは「ファインチューニング」のことで、幅広く学ぶ事前学習とは別の工程。

この問題の正解＝「インターネット上の大量の文章データを使って、あらかじめ言葉のつながり方を幅広く学習させておく作業」

当サイトの問題バンク321問のうち、LLMは5問に登場します。内訳＝問題文に登場5問。このほか、解説・誤答の注だけでの言及が4問あります（これは「問われた」に数えていません）。

登場した単元＝第5章テキスト生成AIのプロンプト制作と実例

※この数字は当サイトの問題バンク内の集計です。本試験の出題頻度ではありません。

最終更新：2026年8月27日（運営：Meritorious）