プロンプト
何を指すか
プロンプトとは、応答を引き出すために生成AIモデルへ送られる、自然言語による要求である
— Google Cloud Generative AI glossary より和訳
IPAのガイドラインも、システムの処理の流れの中でこう書いています。
まず、ユーザがWeb UIを通してシステムへ質問や指示（プロンプト）を入力します。
— IPA『テキスト生成AIの導入・運用ガイドライン』
「質問」も「指示」もプロンプトです。 命令形で書かなければいけないものではありません。
渡した後の扱いも書かれています。
問い合わせの際、プロンプトはLLMで処理可能にするため、トークンと呼ばれる形式に変換されます。
— IPA『テキスト生成AIの導入・運用ガイドライン』
4つの要素
IPAのガイドラインは、プロンプトの中身を4つに分けています。
プロンプトには以下の 4つの要素が含まれています。
— IPA『テキスト生成AIの導入・運用ガイドライン』
| 要素 | ガイドラインの説明 | | --- | --- | | 命令 | 「回答する」「分類する」「要約する」など生成AIに実行してもらうタスク | | 文脈 | 「話題」「目的」「複数の例」など生成AIが正確にタスクを実行するための追加の情報 | | 入力 | 「回答してほしい質問」「要約してほしい文章」などタスクを実行する対象 | | 出力 | 「文章の長さ」「箇条書きの個数」「プログラム形式」など回答の形式の指示 |
4つ全部が必要というわけではありません。 ガイドライン自身がそう書いています。
必ずしも 4 つの要素全てが必要というわけではありませんが、これらを具体的に指示し適切に組み合わせることで、生成AIは目的の出力を生成しやすくなります。
— IPA『テキスト生成AIの導入・運用ガイドライン』
この工夫がプロンプトエンジニアリングです。ガイドラインは上の文に続けて「これをプロンプトエンジニアリングと呼びます」と書いています。
Googleの用語集の定義は、繰り返しの面を強調しています。
プロンプトエンジニアリングとは、望む応答を得るために、プロンプトを作ってモデルの応答を確かめることを繰り返す工程である
— Google Cloud Generative AI glossary より和訳
一発で決まる書き方を覚える話ではなく、試して直す工程として定義されています。
書き方で結果が変わる理由
IPAのガイドラインは、2つの文で理由を書いています。
テキスト生成AIはあくまでもユーザの入力したプロンプトに基づいて出力を生成します。
— IPA『テキスト生成AIの導入・運用ガイドライン』
入力プロンプト処理時に、テキスト生成AIがユーザの意図と乖離した解釈をした場合、ユーザが期待する適切な出力内容は見込めません。
— IPA『テキスト生成AIの導入・運用ガイドライン』
意図は読み取られません。書いたものが解釈されます。 期待と違う答えが返るとき、モデルの性能の問題ではなく、書いた内容の解釈が分かれていることがあります。
モデルは変わりません
ここは混同しやすい点です。プロンプトを工夫しても、モデルそのものは変化しません。
推論の最中は、各種のプロンプトのパラメータを通じてモデルの出力に影響を与えられるが、それは学習済みのモデルのパラメータを直接変えるものではない
— Google Cloud Generative AI glossary より和訳
その場の出力が変わるだけです（推論）。モデルの側を変えたいならファインチューニング、参照先を足したいならRAGという別の手段になります。
何を書かないか
ここが運用で一番問題になります。
生成AIに入力したプロンプトが学習データとして利用されると、第三者によるプロンプトの生成物にそれらの情報が含まれる可能性があります。
— IPA『テキスト生成AIの導入・運用ガイドライン』
組織の内部文書や秘密保持契約を締結した情報がプロンプトに含まれると、組織の機密情報が漏洩するリスクがあります。
— IPA『テキスト生成AIの導入・運用ガイドライン』
入力したものが学習データになる場合があるので、サービスごとの設定と契約を確認することになります。
攻撃の入口にもなります。NISTは機械学習への攻撃の例として「敵対的サンプルや敵対的プロンプト、データポイズニング、メンバーシップ推定、モデル抽出、スポンジサンプルなど」を挙げています。
国の施策にも出てきます
『AI事業者ガイドライン』は、経済産業省の取組としてこう記しています。
2023 年 8 月に「生成 AI 時代の DX 推進に必要な人材・スキルの考え方」を取りまとめ、指示（プロンプト）の習熟、「問いを立てる」 「仮説検証する」等の必要性をスキル標準に反映し
— 総務省・経済産業省『AI事業者ガイドライン（第1.1版）』
プロンプトの習熟がスキル標準に入っている、という事実です。「コツ」ではなく、技能として位置づけられています。
こう言えば一度で済む
こう言うと伝わらない 「もっといい感じにまとめてください」
こう言えば一度で済む 「この議事録を、決定事項・保留事項・担当者の3見出しで、各3行以内の箇条書きにしてください」
後者は、IPAの4要素のうち命令・入力・出力が入っています。足りないのは文脈なので、相手や目的を添えればさらに揃います。