プレトレーニングとは
AIモデルが実際に使われる前に、大量のデータであらかじめ学習しておくこと。
生成AIパスポート公式シラバス(2026年2月試験より適用)第5章「テキスト生成AIのプロンプト制作と実例」の収載語です。
まず1問、解いてみる
答えを開く前に、自分の言葉で説明してみてください。
LLMにおける「プレトレーニング(事前学習)」とは何か。
- A導入した会社の業務マニュアルだけを繰り返し読み込ませて、その会社専用の答え方に仕上げる作業
- B利用者との会話の履歴をその場で記憶させて、次の回答にすぐ反映させていく作業
- CAIが出した回答に人間が点数をつけて、望ましい受け答えの方向へ調整していく作業
- Dインターネット上の大量の文章データを使って、あらかじめ言葉のつながり方を幅広く学習させておく作業
答えと解説を開く
正解D インターネット上の大量の文章データを使って、あらかじめ言葉のつながり方を幅広く学習させておく作業
プレトレーニング(事前学習)とは、AIが実際に使われる前に、インターネットにある膨大な文章を読み込んで「言葉のつながり方」を広く学んでおくことです。これがあるおかげで、質問されたときにそれっぽい自然な文章を作れるようになります。
同じ選択肢に並んだ語(区別して覚える)
当サイトの問題で、プレトレーニングと同じ選択肢の欄に並んだ語です。
- ファインチューニング=学習済みモデルに追加データを与え、新しい目的向けに仕上げの調整をする手法。
- アライメント(Alignment)
- データの水増し(augmentation)=手持ちのデータに変化を加えて、学習用データの量を人工的に増やす手法。
- ハイパーパラメータ=学習の進め方を、人があらかじめ決めておく設定の値。
- ハルシネーション(Hallucination)=生成AIが事実でないことを、まるで本当のことのようにもっともらしく作り出してしまう現象。
ありがちな誤解と訂正
当サイトの問題「LLMにおける「プレトレーニング(事前学習)」とは何か。」の誤答の選択肢から。
×導入した会社の業務マニュアルだけを繰り返し読み込ませて、その会社専用の答え方に仕上げる作業
○特定の仕事の資料だけで追加調整するのは「ファインチューニング」のことで、幅広く学ぶ事前学習とは別の工程。
この問題の正解=「インターネット上の大量の文章データを使って、あらかじめ言葉のつながり方を幅広く学習させておく作業」
同じ問題に登場した語
当サイトでの登場(実測)
当サイトの問題バンク321問のうち、プレトレーニングは3問に登場します。 内訳=問題文に登場1問・ひっかけ役(誤答の選択肢)2問。このほか、解説・誤答の注だけでの言及が1問あります(これは「問われた」に数えていません)。
登場した単元=第2章 生成AI(ジェネレーティブAI)・第5章 テキスト生成AIのプロンプト制作と実例
※この数字は当サイトの問題バンク内の集計です。本試験の出題頻度ではありません。
演習に進む
- 第2章 生成AI(ジェネレーティブAI) 一問一答この語が出る問題:#q2022・#q2061
- 第5章 テキスト生成AIのプロンプト制作と実例 一問一答この語が出る問題:#q5003
- 単元一覧へ
最終更新:(運営:Meritorious)
パスポーン