メインコンテンツへスキップ
見出し画像

AI関連の重要用語を一挙解説 | LLM、RAG、ディープラーニング、機械学習、プロンプトエンジニアリング etc

    はじめに

    「TransformerやAttentionとは?」
    「代表的なプロンプトエンジニアリングの手法は?」
    「LLMや生成AIの関連用語のほか、機械学習や統計用語も抑えたい」

    生成AIの普及によって、情報処理技術者試験でも押さえておきたいAI関連の知識が増えています。特に近年のAI技術は進化が速く、生成AIの具体的なモデル名や、RAG、AIエージェントといった新しい技術については、書籍だけで最新動向を把握するのが難しい面もあります。

    そこで本記事では、IPAの公式シラバスをベースに、応用情報技術者試験・高度情報処理技術者試験の科目A対策で押さえておきたいAI関連用語を整理しました。

    本記事で扱うのは、次の7分野です。

    1. プロンプトエンジニアリング

    2. 代表的なLLMモデル

    3. LLMの仕組み・関連技術

    4. 機械学習・ディープラーニング

    5. 統計・データサイエンス

    6. AIの精度評価・運用・セキュリティ

    7. 試験対策用の確認問題

    AIを専門としていない方でも、用語の意味や技術の使い分けが理解できるよう、具体例を交えて解説します。試験直前の知識整理にも活用できる内容にしていますので、ぜひ最後までご覧ください。

    ※2026年10月22日時点の情報です。主に「応用情報技術者試験シラバスVer.7.2」を参照しています。高度試験では区分によって専門分野が異なるため、個別の出題範囲は各試験のシラバスも確認してください。

    1.代表的なLLMモデル

    ①LLMとは?

    LLM(Large Language Model:大規模言語モデル)は、大量のデータを用いて学習し、文章の生成や要約、質問応答、翻訳などを行う言語モデルです。近年は、テキストに加え、画像や音声なども扱えるモデルが登場しています。LLMの分野では、技術用語と併せて、主要なモデルの名称や開発元も把握しておくと、ニュースや技術資料を理解しやすくなります。

    ②代表的なLLM・モデルファミリ一覧 (2026年10月時点)

    モデル名主な開発元特徴GPTOpenAI(米国)GPTシリーズとして知られるモデル群。文章生成、推論、コード生成などに利用されるClaudeAnthropic(米国)文章理解・生成、推論、プログラミングなどに利用されるモデル群GeminiGoogle(米国)テキスト、画像、音声などのマルチモーダル処理に対応するモデル群LlamaMeta(米国)モデルの重みが公開されたものを中心とするモデル群。公開条件はライセンスによるDeepSeekDeepSeek(中国)推論やコード生成などに対応するモデル群QwenAlibaba Group(中国)多言語・マルチモーダル対応を含むモデル群MistralMistral AI(フランス)オープンウェイトモデルと商用モデルの両方を展開するモデル群\begin{array}{|l|l|l|} \hline \text{モデル名} & \text{主な開発元} & \text{特徴} \cr \hline \text{GPT} & \text{OpenAI(米国)} & \text{GPTシリーズとして知られるモデル群。文章生成、推論、コード生成などに利用される} \cr \hline \text{Claude} & \text{Anthropic(米国)} & \text{文章理解・生成、推論、プログラミングなどに利用されるモデル群} \cr \hline \text{Gemini} & \text{Google(米国)} & \text{テキスト、画像、音声などのマルチモーダル処理に対応するモデル群} \cr \hline \text{Llama} & \text{Meta(米国)} & \text{モデルの重みが公開されたものを中心とするモデル群。公開条件はライセンスによる} \cr \hline \text{DeepSeek} & \text{DeepSeek(中国)} & \text{推論やコード生成などに対応するモデル群} \cr \hline \text{Qwen} & \text{Alibaba Group(中国)} & \text{多言語・マルチモーダル対応を含むモデル群} \cr \hline \text{Mistral} & \text{Mistral AI(フランス)} & \text{オープンウェイトモデルと商用モデルの両方を展開するモデル群} \cr \hline \end{array}

    ③その他の関連モデル

    モデル名開発元・特徴GemmaGoogleのオープンモデル群GrokxAIのモデル群CommandCohereの企業利用向け言語モデル群PhiMicrosoftの小規模言語モデル群GLMZ.aiなどが開発するモデル群\begin{array}{|l|l|} \hline \text{モデル名} & \text{開発元・特徴} \cr \hline \text{Gemma} & \text{Googleのオープンモデル群} \cr \hline \text{Grok} & \text{xAIのモデル群} \cr \hline \text{Command} & \text{Cohereの企業利用向け言語モデル群} \cr \hline \text{Phi} & \text{Microsoftの小規模言語モデル群} \cr \hline \text{GLM} & \text{Z.aiなどが開発するモデル群} \cr \hline \end{array}

    2.LLMの仕組み・関連技術

    ①TransformerとAttention

    Transformer
    2017年に発表されたニューラルネットワークのアーキテクチャです。Attention機構を中心に構成されており、多くの現代的なLLMの基盤となっています。

    Attention
    入力データの中で、どの情報に注目するかを計算する仕組みです。例えば「彼は銀行に行った」という文章では、「銀行」という単語を理解する際に、周辺の単語との関係を利用します。

    Self-Attention(自己注意機構)
    同じ入力系列内の各トークン同士の関係を計算し、文脈に応じた表現を作る仕組みです。Transformerを理解するうえで重要な技術です。

    画像

    ②Transformerの3つの構造

    ざっくりとした解説は以下の通り。
    ・Encoder = 入力情報を理解・表現する
    ・Decoder = 出力を生成する
    ・Encoder-Decoder = 入力を変換して出力する

    構造代表例主な特徴Encoder-onlyBERT入力文脈の理解に適した構造。文章分類や情報抽出などに用いられるDecoder-onlyGPT系モデル主に次トークンを順次予測して文章を生成する構造Encoder-DecoderT5、BART入力をエンコードし、対応する出力を生成する構造。翻訳や要約などに用いられる\begin{array}{|l|l|l|} \hline \text{構造} & \text{代表例} & \text{主な特徴} \cr \hline \text{Encoder-only} & \text{BERT} & \text{入力文脈の理解に適した構造。文章分類や情報抽出などに用いられる} \cr \hline \text{Decoder-only} & \text{GPT系モデル} & \text{主に次トークンを順次予測して文章を生成する構造} \cr \hline \text{Encoder-Decoder} & \text{T5、BART} & \text{入力をエンコードし、対応する出力を生成する構造。翻訳や要約などに用いられる} \cr \hline \end{array}

    ③その他のLLM関連用語

    用語意味・特徴トークンAIが文章を処理する際の基本単位。文字・単語・単語の一部などに対応するトークナイザー文章をトークンに分割したり、トークンIDへ変換したりする仕組み次トークン予測直前までのトークン列から、次に続くトークンの確率分布を予測する処理コンテキストウィンドウモデルが一度の処理で参照できるトークン数の上限に関する概念Embedding(埋め込み)文章や画像などを数値ベクトルに変換して表現する技術Temperatureトークン選択の確率分布を調整し、出力のランダム性を制御するパラメータTop-p Sampling累積確率が一定値に達する候補集合からトークンを選択する方式マルチモーダルAIテキスト・画像・音声など、複数種類の情報を処理するAI基盤モデル大規模データによる事前学習を通じ、さまざまな用途に適応できるモデルMoE(Mixture of Experts)複数の専門的なネットワークの一部を、入力に応じて選択・活用する構造\begin{array}{|l|l|} \hline \text{用語} & \text{意味・特徴} \cr \hline \text{トークン} & \text{AIが文章を処理する際の基本単位。文字・単語・単語の一部などに対応する} \cr \hline \text{トークナイザー} & \text{文章をトークンに分割したり、トークンIDへ変換したりする仕組み} \cr \hline \text{次トークン予測} & \text{直前までのトークン列から、次に続くトークンの確率分布を予測する処理} \cr \hline \text{コンテキストウィンドウ} & \text{モデルが一度の処理で参照できるトークン数の上限に関する概念} \cr \hline \text{Embedding(埋め込み)} & \text{文章や画像などを数値ベクトルに変換して表現する技術} \cr \hline \text{Temperature} & \text{トークン選択の確率分布を調整し、出力のランダム性を制御するパラメータ} \cr \hline \text{Top-p Sampling} & \text{累積確率が一定値に達する候補集合からトークンを選択する方式} \cr \hline \text{マルチモーダルAI} & \text{テキスト・画像・音声など、複数種類の情報を処理するAI} \cr \hline \text{基盤モデル} & \text{大規模データによる事前学習を通じ、さまざまな用途に適応できるモデル} \cr \hline \text{MoE(Mixture of Experts)} & \text{複数の専門的なネットワークの一部を、入力に応じて選択・活用する構造} \cr \hline \end{array}

    3.プロンプトエンジニアリング

    プロンプトエンジニアリングとは?

    プロンプトエンジニアリング(Prompt Engineering)とは、生成AIから望ましい回答を得るために、指示文(プロンプト)の内容や構成を工夫する技術です。
    例えば「文章を要約して」とだけ指示するより、「以下の文章を、重要なポイント3つに絞り、箇条書きで要約して」と指示した方が、出力形式をコントロールしやすくなります。代表的な手法を整理します。以下記事にさらに詳細を記載しているので、こちらも併せてお読みください。


    ① Zero-shot Prompting

    回答例を示さずに、指示だけでAIにタスクを実行させる方法です。
    AIが事前学習で獲得した知識や能力を利用して回答します。

    例:
    「次の文章がポジティブかネガティブか判定してください。
    文章:この映画は面白かった。」

    ② One-shot Prompting

    入力と正解の組を1つ示してから、AIに新しいタスクを実行させる方法です。回答形式や判定基準を1つの例で示す点が特徴です。

    例:
    「『とても楽しい映画だった』→ポジティブ。
    では『期待外れの作品だった』は?」

    ③ Few-shot Prompting

    複数の入出力例を示し、そのパターンに従ってAIに回答させる方法です。明示的な説明だけでは伝わりにくいルールや出力形式を、具体例を通じて示すことができます。

    例:
    「『素晴らしい映画』→ポジティブ、『退屈な映画』→ネガティブ、『もう一度見たい』→ポジティブ。
    では『時間の無駄だった』は?」

    ④ In-context Learning(文脈内学習)

    プロンプトに含まれる指示や例示、文脈情報を利用して、モデルの重みを更新せずにタスクへ適応する仕組みです。Few-shot Promptingは、その代表的な利用方法の一つです。

    ⑤ 代表的なプロンプト手法まとめ

    用語意味・特徴Zero-shot Prompting回答例を示さず、指示だけでAIにタスクを実行させる手法One-shot Prompting回答例を1件提示して、同じ形式でタスクを実行させる手法Few-shot Prompting回答例を少数提示し、そのパターンに従って回答させる手法Role Prompting「あなたはセキュリティエンジニアです」など、役割を指定する手法Self-Consistency複数の推論結果を生成し、回答の一致度などを利用して最終回答を選ぶ手法ReAct推論と外部ツールなどを使った行動を組み合わせて、課題解決を進める枠組みStructured OutputJSONなどの所定の構造に沿って回答を生成させる方式\begin{array}{|l|l|} \hline \text{用語} & \text{意味・特徴} \cr \hline \text{Zero-shot Prompting} & \text{回答例を示さず、指示だけでAIにタスクを実行させる手法} \cr \hline \text{One-shot Prompting} & \text{回答例を1件提示して、同じ形式でタスクを実行させる手法} \cr \hline \text{Few-shot Prompting} & \text{回答例を少数提示し、そのパターンに従って回答させる手法} \cr \hline \text{Role Prompting} & \text{「あなたはセキュリティエンジニアです」など、役割を指定する手法} \cr \hline \text{Self-Consistency} & \text{複数の推論結果を生成し、回答の一致度などを利用して最終回答を選ぶ手法} \cr \hline \text{ReAct} & \text{推論と外部ツールなどを使った行動を組み合わせて、課題解決を進める枠組み} \cr \hline \text{Structured Output} & \text{JSONなどの所定の構造に沿って回答を生成させる方式} \cr \hline \end{array}

    4. RAG・検索拡張・AIエージェント

    この分野は、LLMを業務システムに組み込むうえで重要な知識です。

    ① RAG(Retrieval-Augmented Generation)

    RAGは、外部の文書やデータベースから関連情報を検索し、その情報を利用して回答を生成する技術です。例えば、社内マニュアルに関する問い合わせに回答するシステムを考えます。

    1. 利用者が質問する

    2. 社内文書から関連する情報を検索する

    3. 検索結果をLLMへの入力に追加する

    4. LLMが文書の情報に基づいて回答を生成する

    LLMの学習済み知識だけでは答えられない、社内固有の情報や更新頻度の高い情報を利用できることがメリットです。ただし、RAGを利用してもハルシネーションを完全に防止できるわけではありません。

    画像

    ②RAG関連用語

    用語内容ベクトルデータベースEmbeddingなどのベクトルデータを保存し、類似したデータを効率的に検索できるデータベースベクトル検索ベクトル間の距離や類似度を利用して、関連性の高いデータを検索する方法コサイン類似度2つのベクトルの向きの近さを表す指標チャンク分割(Chunking)長い文書を検索・処理しやすい小さな単位に分割することセマンティック検索単語の完全一致だけでなく、文章の意味的な近さに基づいて検索する方法キーワード検索検索語との一致などを利用する検索方法。BM25などが代表的ハイブリッド検索キーワード検索とベクトル検索などを組み合わせる方法Re-ranking最初の検索結果を別のモデルや指標で再評価し、順位を付け直すことGrounding(グラウンディング)生成結果を外部資料などの根拠情報に結び付ける考え方\begin{array}{|l|l|} \hline \text{用語} & \text{内容} \cr \hline \text{ベクトルデータベース} & \text{Embeddingなどのベクトルデータを保存し、類似したデータを効率的に検索できるデータベース} \cr \hline \text{ベクトル検索} & \text{ベクトル間の距離や類似度を利用して、関連性の高いデータを検索する方法} \cr \hline \text{コサイン類似度} & \text{2つのベクトルの向きの近さを表す指標} \cr \hline \text{チャンク分割(Chunking)} & \text{長い文書を検索・処理しやすい小さな単位に分割すること} \cr \hline \text{セマンティック検索} & \text{単語の完全一致だけでなく、文章の意味的な近さに基づいて検索する方法} \cr \hline \text{キーワード検索} & \text{検索語との一致などを利用する検索方法。BM25などが代表的} \cr \hline \text{ハイブリッド検索} & \text{キーワード検索とベクトル検索などを組み合わせる方法} \cr \hline \text{Re-ranking} & \text{最初の検索結果を別のモデルや指標で再評価し、順位を付け直すこと} \cr \hline \text{Grounding(グラウンディング)} & \text{生成結果を外部資料などの根拠情報に結び付ける考え方} \cr \hline \end{array}

    ③コサイン類似度

    コサイン類似度は、ベクトルがどれほど同じ向きを向いているかを表す指標です。文章をベクトルに変換し、意味が近い文章を検索する際などに利用されます。

    画像

    ④AIエージェント

    AIエージェントとは、与えられた目標に対して、必要な処理を計画し、外部ツールなどを利用しながらタスクを実行するAIシステムです。
    例えば、問い合わせ内容を分析し、必要なデータを検索し、回答案を作成するといった処理を実行できます。単に質問に回答するチャットボットとは異なり、複数の処理を組み合わせてタスクを進める点が特徴です。

    ⑤その他の重要用語

    用語内容Function CallingLLMが外部関数やAPIの呼び出しに必要な情報を生成する仕組みTool UseAIが検索、計算、データ取得などの外部ツールを利用することAgentic WorkflowAIを使って、複数の処理や判断を連携・自動化するワークフローMCP(Model Context Protocol)AIアプリケーションが外部データやツールなどと接続するためのプロトコルLLMOpsLLMアプリケーションの評価、監視、改善、運用などを管理する考え方\begin{array}{|l|l|} \hline \text{用語} & \text{内容} \cr \hline \text{Function Calling} & \text{LLMが外部関数やAPIの呼び出しに必要な情報を生成する仕組み} \cr \hline \text{Tool Use} & \text{AIが検索、計算、データ取得などの外部ツールを利用すること} \cr \hline \text{Agentic Workflow} & \text{AIを使って、複数の処理や判断を連携・自動化するワークフロー} \cr \hline \text{MCP(Model Context Protocol)} & \text{AIアプリケーションが外部データやツールなどと接続するためのプロトコル} \cr \hline \text{LLMOps} & \text{LLMアプリケーションの評価、監視、改善、運用などを管理する考え方} \cr \hline \end{array}

    試験対策のポイント

    • RAG:外部情報を検索し、回答生成に利用

    • Fine-tuning:モデルのパラメータを追加学習で調整

    • AIエージェント:目標に応じてツールを利用し、複数の処理を実行

    5. ニューラルネットワーク・ディープラーニング

    ① 基本用語

    用語内容ニューラルネットワーク複数の人工ニューロンを結合し、入力データから特徴や規則性を学習するモデル多層パーセプトロン(MLP)入力層・中間層・出力層などからなる、代表的な順伝播型ニューラルネットワークディープラーニング多層のニューラルネットワークによって特徴を学習する機械学習手法重み(Weight)ニューロン間の結合の強さなどを表す学習可能なパラメータバイアスニューロンの出力を調整する学習可能なパラメータ損失関数モデルの予測値と正解値のずれなどを定量化する関数活性化関数ニューロンへの入力を出力に変換し、非線形性などを与える関数\begin{array}{|l|l|} \hline \text{用語} & \text{内容} \cr \hline \text{ニューラルネットワーク} & \text{複数の人工ニューロンを結合し、入力データから特徴や規則性を学習するモデル} \cr \hline \text{多層パーセプトロン(MLP)} & \text{入力層・中間層・出力層などからなる、代表的な順伝播型ニューラルネットワーク} \cr \hline \text{ディープラーニング} & \text{多層のニューラルネットワークによって特徴を学習する機械学習手法} \cr \hline \text{重み(Weight)} & \text{ニューロン間の結合の強さなどを表す学習可能なパラメータ} \cr \hline \text{バイアス} & \text{ニューロンの出力を調整する学習可能なパラメータ} \cr \hline \text{損失関数} & \text{モデルの予測値と正解値のずれなどを定量化する関数} \cr \hline \text{活性化関数} & \text{ニューロンへの入力を出力に変換し、非線形性などを与える関数} \cr \hline \end{array}

    ②代表的な活性化関数

    活性化関数特徴Sigmoid関数出力を0~1の範囲に変換するtanh関数出力を-1~1の範囲に変換するReLU関数入力が正ならそのまま出力し、0以下なら0を出力するSoftmax関数複数の値を、合計が1となる確率分布の形に変換する\begin{array}{|l|l|} \hline \text{活性化関数} & \text{特徴} \cr \hline \text{Sigmoid関数} & \text{出力を0~1の範囲に変換する} \cr \hline \text{tanh関数} & \text{出力を-1~1の範囲に変換する} \cr \hline \text{ReLU関数} & \text{入力が正ならそのまま出力し、0以下なら0を出力する} \cr \hline \text{Softmax関数} & \text{複数の値を、合計が1となる確率分布の形に変換する} \cr \hline \end{array}

    ③その他のディープラーニング関連用語

    用語内容CNN畳み込み処理によって画像などの局所的な特徴を抽出するニューラルネットワークRNN過去の状態を利用して時系列データなどを処理するニューラルネットワークLSTM長期的な依存関係を学習しやすくするためのRNNの一種Dropout学習時に一部のニューロンの出力を無効化し、過学習を抑制する手法Batch Normalization中間層の値を正規化し、学習を安定させる技術転移学習学習済みモデルの知識を別のタスクに活用する手法Fine-tuning学習済みモデルを追加データで学習し、特定の目的に適応させる手法LoRA少数の追加パラメータを学習することで、効率的にモデルを適応させる手法\begin{array}{|l|l|} \hline \text{用語} & \text{内容} \cr \hline \text{CNN} & \text{畳み込み処理によって画像などの局所的な特徴を抽出するニューラルネットワーク} \cr \hline \text{RNN} & \text{過去の状態を利用して時系列データなどを処理するニューラルネットワーク} \cr \hline \text{LSTM} & \text{長期的な依存関係を学習しやすくするためのRNNの一種} \cr \hline \text{Dropout} & \text{学習時に一部のニューロンの出力を無効化し、過学習を抑制する手法} \cr \hline \text{Batch Normalization} & \text{中間層の値を正規化し、学習を安定させる技術} \cr \hline \text{転移学習} & \text{学習済みモデルの知識を別のタスクに活用する手法} \cr \hline \text{Fine-tuning} & \text{学習済みモデルを追加データで学習し、特定の目的に適応させる手法} \cr \hline \text{LoRA} & \text{少数の追加パラメータを学習することで、効率的にモデルを適応させる手法} \cr \hline \end{array}

    6. 機械学習・統計・データサイエンス

    ①機械学習の基本用語

    用語意味・特徴教師あり学習正解ラベルなどを持つデータを使い、入力と正解の関係を学習する手法教師なし学習正解ラベルを使わず、データの構造や特徴を発見する手法半教師あり学習少数のラベル付きデータと、多数のラベルなしデータを併用する手法強化学習行動に対する報酬を利用して、より良い行動方針を学習する手法訓練誤差学習に使用したデータに対する予測誤差汎化誤差未知のデータに対する予測誤差過学習訓練データに適合しすぎ、未知データに対する性能が悪くなる状態正則化モデルの複雑さなどを制御し、過学習を抑制する手法学習率パラメータ更新時の変化量を調整する値ハイパーパラメータ学習率や木の深さなど、学習方法・モデル構造を制御する設定値交差検証データの分割を変えながら学習・評価し、汎化性能を推定する手法ホールドアウト検証データを訓練用・検証用などに分割して評価する方法バイアス・バリアンスのトレードオフモデルの単純さによる誤差と、データ変動への敏感さのバランス\begin{array}{|l|l|} \hline \text{用語} & \text{意味・特徴} \cr \hline \text{教師あり学習} & \text{正解ラベルなどを持つデータを使い、入力と正解の関係を学習する手法} \cr \hline \text{教師なし学習} & \text{正解ラベルを使わず、データの構造や特徴を発見する手法} \cr \hline \text{半教師あり学習} & \text{少数のラベル付きデータと、多数のラベルなしデータを併用する手法} \cr \hline \text{強化学習} & \text{行動に対する報酬を利用して、より良い行動方針を学習する手法} \cr \hline \text{訓練誤差} & \text{学習に使用したデータに対する予測誤差} \cr \hline \text{汎化誤差} & \text{未知のデータに対する予測誤差} \cr \hline \text{過学習} & \text{訓練データに適合しすぎ、未知データに対する性能が悪くなる状態} \cr \hline \text{正則化} & \text{モデルの複雑さなどを制御し、過学習を抑制する手法} \cr \hline \text{学習率} & \text{パラメータ更新時の変化量を調整する値} \cr \hline \text{ハイパーパラメータ} & \text{学習率や木の深さなど、学習方法・モデル構造を制御する設定値} \cr \hline \text{交差検証} & \text{データの分割を変えながら学習・評価し、汎化性能を推定する手法} \cr \hline \text{ホールドアウト検証} & \text{データを訓練用・検証用などに分割して評価する方法} \cr \hline \text{バイアス・バリアンスのトレードオフ} & \text{モデルの単純さによる誤差と、データ変動への敏感さのバランス} \cr \hline \end{array}

    ②代表的な機械学習アルゴリズム

    用語学習の種類内容線形回帰教師あり入力と目的変数の関係を直線などでモデル化するロジスティック回帰教師ありクラスに属する確率などをモデル化する分類手法決定木教師あり条件によってデータを枝分かれさせて分類・予測するランダムフォレスト教師あり複数の決定木を組み合わせて予測するSVM教師ありクラス間のマージンを最大化する境界などを求めるPCA(主成分分析)教師なしデータの分散を大きく保つ方向へ射影し、次元を削減するk-means法教師なしデータを指定したk個のクラスタに分類するQ学習強化学習行動価値関数Qを更新し、望ましい行動を学習する方策勾配法強化学習期待報酬が大きくなるように方策のパラメータを最適化する価値反復法強化学習・動的計画法状態価値の更新を繰り返し、最適価値や方策を求める\begin{array}{|l|l|l|} \hline \text{用語} & \text{学習の種類} & \text{内容} \cr \hline \text{線形回帰} & \text{教師あり} & \text{入力と目的変数の関係を直線などでモデル化する} \cr \hline \text{ロジスティック回帰} & \text{教師あり} & \text{クラスに属する確率などをモデル化する分類手法} \cr \hline \text{決定木} & \text{教師あり} & \text{条件によってデータを枝分かれさせて分類・予測する} \cr \hline \text{ランダムフォレスト} & \text{教師あり} & \text{複数の決定木を組み合わせて予測する} \cr \hline \text{SVM} & \text{教師あり} & \text{クラス間のマージンを最大化する境界などを求める} \cr \text{PCA(主成分分析)} & \text{教師なし} & \text{データの分散を大きく保つ方向へ射影し、次元を削減する} \cr \hline \text{k-means法} & \text{教師なし} & \text{データを指定したk個のクラスタに分類する} \cr \hline \text{Q学習} & \text{強化学習} & \text{行動価値関数Qを更新し、望ましい行動を学習する} \cr \hline \text{方策勾配法} & \text{強化学習} & \text{期待報酬が大きくなるように方策のパラメータを最適化する} \cr \hline \text{価値反復法} & \text{強化学習・動的計画法} & \text{状態価値の更新を繰り返し、最適価値や方策を求める} \cr \hline \end{array}

    よくある間違い:ロジスティック回帰は、名前に「回帰」と付いていますが、代表的な分類手法です。

    ③モデルの学習と評価

    用語内容訓練データモデルのパラメータを学習するためのデータ検証データハイパーパラメータやモデルを選択するためのデータテストデータ最終的な汎化性能を評価するためのデータ訓練誤差訓練データに対する予測誤差汎化誤差未知のデータに対する予測誤差過学習訓練データに適合しすぎて、未知のデータに対する性能が低下すること正則化モデルの複雑さなどに制約を設けて過学習を抑える手法交差検証データの分割を変えながら学習・検証を繰り返す評価手法ホールドアウト法データを訓練用と評価用などに分割する方法ハイパーパラメータ学習前などに設定する、学習率や木の深さなどの値グリッドサーチハイパーパラメータの候補の組合せを網羅的に評価する手法ランダムサーチ候補を確率的に選んで評価する手法\begin{array}{|l|l|} \hline \text{用語} & \text{内容} \cr \hline \text{訓練データ} & \text{モデルのパラメータを学習するためのデータ} \cr \hline \text{検証データ} & \text{ハイパーパラメータやモデルを選択するためのデータ} \cr \hline \text{テストデータ} & \text{最終的な汎化性能を評価するためのデータ} \cr \hline \text{訓練誤差} & \text{訓練データに対する予測誤差} \cr \hline \text{汎化誤差} & \text{未知のデータに対する予測誤差} \cr \hline \text{過学習} & \text{訓練データに適合しすぎて、未知のデータに対する性能が低下すること} \cr \hline \text{正則化} & \text{モデルの複雑さなどに制約を設けて過学習を抑える手法} \cr \hline \text{交差検証} & \text{データの分割を変えながら学習・検証を繰り返す評価手法} \cr \hline \text{ホールドアウト法} & \text{データを訓練用と評価用などに分割する方法} \cr \hline \text{ハイパーパラメータ} & \text{学習前などに設定する、学習率や木の深さなどの値} \cr \hline \text{グリッドサーチ} & \text{ハイパーパラメータの候補の組合せを網羅的に評価する手法} \cr \hline \text{ランダムサーチ} & \text{候補を確率的に選んで評価する手法} \cr \hline \end{array}

    ④その他の評価用語

    用語内容混同行列予測結果と正解ラベルの対応を表す表ROC曲線偽陽性率と真陽性率の関係を表す曲線AUCROC曲線の下側の面積。一般に大きいほど分類性能が高いPR曲線適合率と再現率の関係を表す曲線バイアス・バリアンスのトレードオフモデルの単純さとデータに対する感度のバランスに関する考え方データリーケージ本来学習に利用できない情報が学習過程へ混入し、評価結果が不当に良くなる問題\begin{array}{|l|l|} \hline \text{用語} & \text{内容} \cr \hline \text{混同行列} & \text{予測結果と正解ラベルの対応を表す表} \cr \hline \text{ROC曲線} & \text{偽陽性率と真陽性率の関係を表す曲線} \cr \hline \text{AUC} & \text{ROC曲線の下側の面積。一般に大きいほど分類性能が高い} \cr \hline \text{PR曲線} & \text{適合率と再現率の関係を表す曲線} \cr \hline \text{バイアス・バリアンスのトレードオフ} & \text{モデルの単純さとデータに対する感度のバランスに関する考え方} \cr \hline \text{データリーケージ} & \text{本来学習に利用できない情報が学習過程へ混入し、評価結果が不当に良くなる問題} \cr \hline \end{array}

    7. 生成AIの追加学習・性能向上技術

    IPAシラバスには、LLMの学習方法やモデル圧縮に関する用語も掲載されています。

    用語内容事前学習(Pre-training)大量のデータから、汎用的な特徴や知識を獲得する学習自己教師あり学習データ自体から学習目標を作成して学習する手法Instruction Tuning指示と応答のデータを用いて、指示に従う能力を向上させる追加学習RLHF人間のフィードバックを利用した強化学習により、望ましい応答へ調整する手法DPO好ましい回答と好ましくない回答の比較データから、選好に合うようにモデルを直接最適化する手法Alignment(アラインメント)AIの振る舞いを、人間の意図や価値観などに沿うよう調整すること蒸留(Knowledge Distillation)大きな教師モデルの知識や出力傾向を小さな生徒モデルへ移す技術量子化(Quantization)重みなどを低精度の数値で表現し、メモリ使用量や計算負荷を減らす技術プルーニング(Pruning)重要度の低い重みや構造などを削除してモデルを軽量化する技術\begin{array}{|l|l|} \hline \text{用語} & \text{内容} \cr \hline \text{事前学習(Pre-training)} & \text{大量のデータから、汎用的な特徴や知識を獲得する学習} \cr \hline \text{自己教師あり学習} & \text{データ自体から学習目標を作成して学習する手法} \cr \hline \text{Instruction Tuning} & \text{指示と応答のデータを用いて、指示に従う能力を向上させる追加学習} \cr \hline \text{RLHF} & \text{人間のフィードバックを利用した強化学習により、望ましい応答へ調整する手法} \cr \hline \text{DPO} & \text{好ましい回答と好ましくない回答の比較データから、選好に合うようにモデルを直接最適化する手法} \cr \hline \text{Alignment(アラインメント)} & \text{AIの振る舞いを、人間の意図や価値観などに沿うよう調整すること} \cr \hline \text{蒸留(Knowledge Distillation)} & \text{大きな教師モデルの知識や出力傾向を小さな生徒モデルへ移す技術} \cr \hline \text{量子化(Quantization)} & \text{重みなどを低精度の数値で表現し、メモリ使用量や計算負荷を減らす技術} \cr \hline \text{プルーニング(Pruning)} & \text{重要度の低い重みや構造などを削除してモデルを軽量化する技術} \cr \hline \end{array}

    8. 生成AIのリスク・セキュリティ関連用語

    生成AIを業務利用する場合、性能だけでなくセキュリティや安全性も重要です。

    用語意味・特徴ハルシネーションAIが事実と異なる情報や、根拠のない内容をもっともらしく出力する現象AIエージェント目的に応じて計画や判断を行い、ツール操作などの行動を実行するAIシステムPrompt Injection入力データなどに悪意ある指示を含め、AIの本来の動作を変えようとする攻撃JailbreakAIに設定された安全上の制約などを回避させようとする行為ガードレールAIの入出力や行動を検査・制限し、安全性やルール遵守を支援する仕組みAIレッドチーミング攻撃者の視点でAIシステムを評価し、脆弱性や危険な振る舞いを検証する取組HITL(Human in the Loop)AIの処理過程に人間の判断や確認を組み込む方式XAI(説明可能なAI)AIによる判断の根拠や仕組みを、人間が理解できるようにするための技術・考え方AIガバナンスAIの開発・運用・利用における責任、ルール、管理体制などを整備することAIバイアス学習データやアルゴリズムなどに起因して、出力や判断が偏ることディープフェイクAIなどを用いて生成・加工された、実在の人物などに見える偽の画像・音声・映像MLOps機械学習モデルの開発・デプロイ・監視・改善を継続的に運用する考え方\begin{array}{|l|l|} \hline \text{用語} & \text{意味・特徴} \cr \hline \text{ハルシネーション} & \text{AIが事実と異なる情報や、根拠のない内容をもっともらしく出力する現象} \cr \hline \text{AIエージェント} & \text{目的に応じて計画や判断を行い、ツール操作などの行動を実行するAIシステム} \cr \hline \text{Prompt Injection} & \text{入力データなどに悪意ある指示を含め、AIの本来の動作を変えようとする攻撃} \cr \hline \text{Jailbreak} & \text{AIに設定された安全上の制約などを回避させようとする行為} \cr \hline \text{ガードレール} & \text{AIの入出力や行動を検査・制限し、安全性やルール遵守を支援する仕組み} \cr \hline \text{AIレッドチーミング} & \text{攻撃者の視点でAIシステムを評価し、脆弱性や危険な振る舞いを検証する取組} \cr \hline \text{HITL(Human in the Loop)} & \text{AIの処理過程に人間の判断や確認を組み込む方式} \cr \hline \text{XAI(説明可能なAI)} & \text{AIによる判断の根拠や仕組みを、人間が理解できるようにするための技術・考え方} \cr \hline \text{AIガバナンス} & \text{AIの開発・運用・利用における責任、ルール、管理体制などを整備すること} \cr \hline \text{AIバイアス} & \text{学習データやアルゴリズムなどに起因して、出力や判断が偏ること} \cr \hline \text{ディープフェイク} & \text{AIなどを用いて生成・加工された、実在の人物などに見える偽の画像・音声・映像} \cr \hline \text{MLOps} & \text{機械学習モデルの開発・デプロイ・監視・改善を継続的に運用する考え方} \cr \hline \end{array}

    9.科目A対策:理解度チェック問題

    こまでの知識を確認するため、オリジナルの四択問題を用意しました。
    ※以下は本記事用のオリジナル問題であり、IPAの公式過去問題ではありません。

    問1:プロンプトエンジニアリング

    回答例を3つ提示してから新しい問題を解かせる方法はどれか。

    ア.Zero-shot Prompting
    イ.One-shot Prompting
    ウ.Few-shot Prompting
    エ.Fine-tuning

    正解:ウ
    Few-shot Promptingでは、複数の入出力例をプロンプトに含めます。Fine-tuningとは異なり、通常はモデルの重みを更新しません。

    問2:Transformer

    GPT系の言語モデルで一般的に利用されるアーキテクチャはどれか。

    ア.Encoder-only Transformer
    イ.Decoder-only Transformer
    ウ.CNNのみを用いた構成
    エ.決定木

    正解:イ
    GPT系のモデルは、一般にDecoder-only Transformerを基盤としています。

    問3:RAG

    RAGの主な目的として適切なものはどれか。

    ア.学習済みモデルのすべての重みを更新する
    イ.LLMのパラメータ数を必ず削減する
    ウ.外部情報を検索して回答生成に利用する
    エ.ニューラルネットワークの勾配消失を防止する

    正解:ウ
    RAGは外部文書などの情報を検索して利用する仕組みです。

    問4:過学習

    過学習が発生している場合に見られやすい現象はどれか。

    ア.訓練データと未知のデータの両方で必ず高精度になる
    イ.訓練データでは高精度だが、未知のデータでは精度が低下する
    ウ.学習済みモデルのパラメータがすべて0になる
    エ.学習率が必ず0になる

    正解:イ
    過学習は、訓練データに過度に適合し、未知のデータへの汎化性能が低下する現象です。

    問5:機械学習

    教師なし学習に分類される代表的な手法はどれか。

    ア.ロジスティック回帰
    イ.SVM
    ウ.ランダムフォレスト
    エ.k-means法

    正解:エ
    k-means法はクラスタリング手法であり、教師なし学習に分類されます。

    問6:分類モデルの評価

    実際に陽性であるデータのうち、陽性と正しく判定できた割合を表す指標はどれか。

    ア.適合率
    イ.再現率
    ウ.偽陽性率
    エ.正解率

    正解:イ
    再現率は、TP/(TP+FN)で求められます。

    問7:モデル圧縮

    学習済みモデルの重みなどを、より少ないビット数で表現する技術はどれか。

    ア.蒸留
    イ.量子化
    ウ.プルーニング
    エ.RLHF

    正解:イ
    量子化は数値表現の精度を下げることで、メモリ使用量や計算負荷などを削減する技術です。

    問8:生成AIセキュリティ

    外部のWebページに埋め込まれた悪意ある指示をLLMが読み込み、想定外の動作をする攻撃はどれか。

    ア.SQLインジェクション
    イ.クロスサイトスクリプティング
    ウ.間接的なPrompt Injection
    エ.ブルートフォース攻撃

    正解:ウ
    外部コンテンツに埋め込まれた指示によってAIの挙動を誘導する攻撃は、間接的なPrompt Injectionに該当します。

    まとめ

    生成AI分野は、新しいサービスやモデルが次々に登場するため、すべてを暗記することは現実的ではありません。応用情報・高度情報の科目A対策では、次の順序で学習することをおすすめします。

    1. 機械学習の基礎:教師あり・教師なし・強化学習

    2. ニューラルネットワーク:活性化関数・誤差逆伝播法・過学習

    3. LLMの仕組み:Transformer・Attention・トークン

    4. 生成AIの活用:プロンプトエンジニアリング・RAG・AIエージェント

    5. 安全性と運用:ハルシネーション・Prompt Injection・ガードレール

    試験対策では、単に用語の名称を覚えるだけでなく、似ている技術の違いを説明できるかという観点で復習することが重要です。本記事は、試験直前の確認にも使えるように構成しています。後から見返せるように保存しておくと便利です。

    関連記事

    参考資料・公式ソース

    ① IPA「試験要綱・シラバスについて」

    ② IPA「応用情報技術者試験 シラバス Ver.7.2」
    主な参照箇所:AIに関する技術(本文6ページ)。

    https://www.ipa.go.jp/shiken/syllabus/omgdg50000005kq5-att/syllabus_ap_ver7_2.pdf

    ③ IPA「AI利用者のためのセキュリティ豆知識」
    RAGなどの生成AI関連技術とセキュリティについて解説しています。

    https://www.ipa.go.jp/digital/ai/security/rcu1hd0000009h9u-att/1-1.pdf

    ④ Google Cloud「Generative AI glossary」
    生成AIに関する技術用語やプロンプトエンジニアリングの解説を確認できます。

    ⑤ Google Cloud「Overview of prompting strategies」
    プロンプト設計の代表的な考え方を説明しています。

    ⑥ OWASP「LLM Prompt Injection Prevention Cheat Sheet」
    Prompt InjectionやJailbreakのリスクと対策を整理しています。


    あなたへのおすすめ