ハルシネーション対策の3層｜指示・根拠資料・人の確認

生成AIが出した数字を資料に載せようとしたら、元の資料と合っていなかった。上司に「AIの嘘への対策は」と聞かれ、全員に再確認を頼むだけでよいのか迷っている。必要なのは、指示・根拠資料・人の確認を組み合わせることです。誤りが起きないと期待するより、使う前に止める手順まで決めます。この記事では公的資料と業界団体のひな形をもとに、ハルシネーションへの対策を整理します。読み終えたら業務を影響の大きさで分け、誰が何と照らすかを社内ルールに書き込めます。

》【無料DL】『業務棚卸し 実践テンプレート集』｜型と記入例

ハルシネーションとは？生成AIがもっともらしい誤りを出すこと

文章として自然でも、書かれた内容が正しいとは限りません。まずはこの性質を社内で共有します。原因を詳しく説明できることより、出力をそのまま使ってよいかを判断できることが実務では先です。定義と仕組みを押さえたうえで、対策にどこまで期待するかをそろえます。

もっともらしい嘘をつくリスク

東京都「生成AI利用の手引き」は、ハルシネーションを「もっともらしい嘘をつくリスク」と説明しています。手引きが注意を促すのは、回答の表現が自然なために正しいと感じてしまう点です。読んで違和感がないことと、内容に裏付けがあることは分けて扱います。

LLMは「大規模言語モデル」の略で、文章を生成する仕組みに関する言葉です。社内への説明では用語を覚えてもらうより、回答を下書きとして扱う姿勢を伝えます。読みやすさの点検を終えても、事実の点検は別に残っていると考えてください。

（出典：東京都「生成AI利用の手引き」）

なぜ起きるのか。元資料で言えることだけ押さえる

日本ディープラーニング協会のひな形は、次に続く可能性が高い単語を出力して文章を作るという原理を説明しています。そのうえで、生成物には虚偽が含まれる可能性があると記します。もっともらしい文章ができる仕組みを、そのまま事実の保証とは捉えないことが出発点です。

東京都の手引きも、過去のデータから言語をパターン出力すると説明し、質問の前提や内容を具体化するよう勧めています。会社では「質問が悪かった」の一言で済ませず、回答に使わせる情報と使う目的を明らかにします。出力後に根拠へ戻る工程も残してください。

（出典：日本ディープラーニング協会「生成AIの利用ガイドライン【簡易解説付】第1.1版」）

ゼロにはできない。抑えて、見つける

AI事業者ガイドライン第1.2版の本編は、外部情報を参照する技術などによるハルシネーションの「抑制」を挙げています。完全になくなる保証としては読めません。補助的な解説ですが、生成AIが作成し東京都が校正したポータル記事も、完全にゼロにすることは困難としています。

誤りを減らす対策と、使う前に見つける手順をセットにします。

（出典：AI事業者ガイドライン第1.2版 本編、東京都サイバーセキュリティポータルの解説）

ハルシネーションは業務で何を起こすか

誤りへの対応は、その回答を何に使うかで考えます。社外に渡す説明と、社内の検討材料とでは止める場面が異なります。一方で、事実を答えさせる必要がない仕事もあります。出力を受け取る相手と、誤った内容を使った場合に影響を受ける相手を思い浮かべてください。

誤った数字や根拠が社外に出る

総務省の令和7年度更新内容資料は、ハルシネーション等による誤った出力をリスク例に挙げ、安全性の指針や利用者の適正利用と対応づけています。会社で考えるなら、対外資料に誤りを載せる場面が点検の対象です。

例えば商品説明をAIで下書きする業務では、性能に関する数字を元の仕様書と照らす工程を設けます。文章を整える作業と、顧客に伝えてよい内容を決める作業を分けるためです。根拠を示せない記載は送付前に止めます。

「AIがそう答えた」は、顧客へ伝える情報の裏付けにはなりません。送る資料の内容を説明できる状態で、社外へ渡してください。

（出典：総務省「AI事業者ガイドライン」令和7年度更新内容資料）

社内の判断が誤った前提で進む

社内だけで使う資料も、意思決定の前提になるなら点検が要ります。本編は、AIによる判断などを人が承認する際に、理由や根拠を人自身が独自に考える対策を紹介しています。「社外に出していないから大丈夫」と用途を一括りにしないことです。

例えば複数の委託先を比べる社内メモなら、AIが整理した対応範囲を各社の提案書と照らします。記載のないサービスまで対応可能としていれば、候補の選び方に関わります。比較表が整っていても、表を埋めた情報がそろっているとは限りません。

会議前には、判断に使う事実と未確認の項目を分けて渡します。分からない欄を無理に埋めず、誰に照会すれば決められるかまで残せば、会議で次の作業を決められます。

使い方しだいでは役に立つ場面もある

更新内容資料は、ハルシネーションによりメリットも生じ得る旨を補足したと説明しています。誤った事実を使ってよいという意味に広げず、正確さを求める仕事と発想を広げる仕事を分ける手がかりにします。

例えば社内イベントの企画案を出す段階なら、実在する催しの説明より、まだ実施していない案の幅が欲しい場面もあるでしょう。案を発想の材料として受け取り、実行する候補を選んでから必要な条件を調べる使い方です。

ただし「過去に成功した企画」として出てきた説明を、そのまま実績として紹介してはいけません。案の面白さと実在の出来事かどうかは別の評価です。事実の報告を頼むのか、可能性の提案を頼むのかを利用前に決めておきます。

ハルシネーション対策は3層で考える

業務で誤りを止めるには、回答を作る前と後の両方に手順が必要です。ここでは、指示の工夫・根拠資料の参照・人による点検を3層として組み合わせます。製品を選ぶ前に、今の使い方でどの層が抜けているかを見てください。指示だけを改善しても、出力を誰も読まずに使う流れは残ります。

層1 指示：根拠資料にないことは答えないよう指示する

プロンプトは、AIに渡す指示文です。「ハルシネーションしないでください」と頼むだけでは、参照する資料も、情報がないときの対応も決まりません。東京都の手引きは、登録した根拠資料からのみ回答させ、記載がなければその旨を答えさせる例を示しています。この考え方を業務用にすると、次の型になります。

指定した根拠資料の情報だけを基に、［質問］に回答してください。資料に記載がない場合は、その旨を答えてください。記載のない内容を推測で補わないでください。

先に業務で参照させる資料を用意し、質問の部分を具体化します。回答が得られないときも、空欄を埋めさせるために制約を外さず、資料の管理者へ照会してください。「記載なし」を次の調査につなげる運用までが、この型の使い方です。

層2 根拠資料：RAGで参照先を決める

RAGは検索拡張生成といい、外部の情報を参照して回答に用いる仕組みです。本編は、その活用などにより誤りの抑制や、出力過程・根拠の透明性向上が期待されると述べています。どの情報を基にした回答なのかを追えるようにする方向です。

利用する側は、参照させる資料を業務に合わせて選びます。本編は入力データの正確性と、必要に応じた最新性にも言及しています。自社では次の点を資料の管理者と決めてください。

• 対象業務で使う正式な資料を指定する。
• 改訂時に参照先を差し替える担当を置く。
• 古い版と現行版を区別できるようにする。

資料を渡す作業と、資料の内容を管理する仕事を一緒に扱います。回答に使う情報の所在が定まれば、人が後から照らす相手も明確になります。

層3 人の確認：誰が何と照らすか

最後の層は、AIの出力を原典、つまり情報の元となった資料と照らす人の仕事です。協会のひな形は生成物を盲信せず、根拠や裏付けを自ら確かめるよう求めています。本編も、利用者が出力の精度とリスクの程度を理解して使うことを挙げています。

担当は「AIを使った人」とだけ書かず、内容を判断できる人まで決めます。社内規程への質問なら、その規程を所管する部署が判断を引き受ける形です。根拠となる条文を開き、回答が適用条件を省いていないかを読み合わせます。

担当者と照合する資料は、回答を使う前に決めておきます。利用者に求められる事項の全体は、AI事業者ガイドラインを解説した記事で扱っています。

3層はどれも単独では足りない

指示文だけでは、必要な情報を含む資料がそろいません。資料があっても、出てきた回答の裏付けを調べる工程は残ります。人に「注意して読む」と伝えるだけなら、何を基準に読むかが曖昧なままです。3層は、前の作業で用意したものを次の作業が受け取る関係にします。

この表は、対策の抜けを探すために使います。例えば資料の所在を誰も答えられないなら、指示文を長くする前に参照先を決めます。判断する人が未定なら、作成を急ぐより渡す相手を決めることが先です。今の業務手順に空いている欄を見つけて埋めてください。

業務の影響の大きさで確認の強さを変える

3層を日々の仕事で回すには、どこに人の時間をかけるかを決めます。すべての出力に同じ点検を求める運用では、案出しにも対外資料と同じ手順が必要になります。そこで、出力が誰に渡り、何の判断に使われるかを起点にします。部署単位で一律に決めず、資料や作業ごとに分ける方法です。

影響の大きさで業務を3段階に分ける

当社では、まず業務を「社外に出る」「社内の判断に使う」「案出しのみ」の3段階に分けることを勧めます。下表を出発点に、出力の使い道と点検の強さを対応させてください。各行の使い道を自社の仕事に当てはめ、必要な手順を右の列から選びます。

ただし、社内での利用でも誤りが人や事業へ大きく影響するなら、責任者の承認まで加えます。公開先の有無だけで影響を決めないためです。また、案出しで作った内容を会議の判断材料へ移すなら、扱う段階も変えます。確認の強さは、生成した時点より、出力を使う時点の用途で決めます。

社外に出る業務：根拠資料と責任者の確認を必須にする

社外向けの出力は、作成担当による原典との照合を終えてから、責任者が使用を承認する流れにします。承認時に完成文だけを渡すと、責任者が何を根拠に判断するか分かりません。根拠資料の該当箇所と、未解決の記載も一緒に渡してください。

照合する対象は、次のように内容ごとに分けます。

• 数字は値に加え、単位や対象期間もそろえる。
• 固有名詞は正式名称と指している相手を照らす。
• 引用は原文と比べ、前後の条件を落としていないか読む。

根拠が見つからない記載は、送付を保留するか削除します。「おそらく正しい」とする欄を残したまま承認に回さない運用です。急ぎの場合も、何を省いて送れるかを責任者が決めます。出力全体に丸を付けるより、外へ出せる範囲を明らかにする手順にしてください。

社内の判断に使う業務：根拠の出所を書き添える

社内の検討資料では、読み手が根拠へ戻れる状態を作ります。資料名だけで足りない場合は、版や該当ページも添えてください。URLがある資料ならそのリンクを残します。判断の土台になる記載と根拠を対応させることが目的です。

表を埋めるときは、AIが示した出所も実際に開きます。東京都の手引きは、提示された根拠を鵜呑みにせず、内容の妥当性を検討するよう求めています。リンクが付いていることだけで点検済みにはしません。

判断を左右する箇所に裏付けがなければ、そこを未確認として会議に渡します。結論を先に決めて根拠を後付けする流れを避けるため、資料の作成時から記載と出所を並べておきます。

案出しの業務：確認より使い方を限定する

案出しのみの業務では、出力を仮の候補として共有する範囲を決めます。すべての案を詳しく調べ終えるまで並べられない運用にすると、発想を広げる段階と採否を決める段階が混ざります。先に候補を選び、その候補を実行に移すための事実を調べる順序にします。

本編も、多様性や独創性が必要な業務ではRAGの活用が適切でない場合があると記しています。参照範囲を狭くする対策を、どの仕事にも同じように当てはめる必要はありません。

共有する文書には「案出し用」と用途を示し、事実の報告とは区別します。候補の説明に費用や効果の数字が含まれていれば、採用前にその部分を調べてください。案の採用を決める人へ渡す時点で、前の節の記録欄を使う流れにつなげます。

社内ルールに書く3つのこと

業務ごとの扱いが決まったら、社員が作業中に参照できる文書にします。抽象的な「正確性に注意する」だけでは、どの段階で誰に渡すかが決まりません。ルールには業務一覧と指示文の型、誤りの報告先を載せます。今の承認手順に差し込める形にして、判断を個人任せにしないところまで整えます。

業務ごとの確認の段階を一覧にする

まず、生成AIを使っている作業を部署から集め、前章の段階を割り当てます。「営業部で使う」のような部署名だけでは粗すぎます。回答案の作成と社内検討のように、出力の行き先で行を分けてください。

空欄が残った業務は、責任者と埋めてから利用範囲を決めます。一覧を社内の生成AIガイドラインへ組み込み、担当変更時にも引き継げる形にします。

社内の生成AIガイドラインへの書き込み方は生成AIガイドラインを解説した記事で扱っています。

配布前には、実際の作業を1件この一覧に当てはめてください。現場の担当が照合先を開けるか、承認する人まで迷わず進めるかを試します。ルールを読めることに加え、書いた手順で仕事を終えられるかを見る作業です。

社内で使う指示文の型を配る

指示文は、先に示した型を共通部分として配ります。社員が毎回書き直す箇所と、残す条件を区別してください。部署ごとに長い例文を増やすより、業務の情報を入れる欄をそろえる形にします。

• 質問欄には、答えてほしい内容と使う目的を入れる。
• 資料欄には、参照させる文書名と版を入れる。
• 共通部分には、資料に記載がない場合の扱いを残す。

配布時は、答えが資料にある質問と、資料にない質問の両方を試します。後者で無理に回答を作っていないかを見れば、指示を置いただけで運用を終えるのを防げます。試した結果は型の管理担当へ返してください。

また、型に記す資料は自社で利用を認めた範囲から選びます。本編は個人情報や機密情報等の不適切な入力にも注意を求めています。根拠を増やす目的でも、入力してよい情報の範囲を守って運用します。

誤りを見つけたときの報告先を決める

誤りを見つけた社員が、訂正だけで終えないよう報告先を置きます。窓口には総務や情報システムの担当を定め、内容の判断は対象業務の責任者へつなぐ流れにします。すでに配布した資料に誤りがあれば、配布先への対応も責任者が決めます。

報告には、質問と出力に加えて使った根拠資料を残してください。誤った箇所と、どこまで使用したかも添えます。窓口は記録を基に、指示の不足や資料の更新漏れを調べます。照合工程に抜けがなかったかも追います。原因が判別できなければ、その点も未解決として残す運用です。

誤りの記録は、次の指示文や業務手順を直すために使います。改訂後に現場へ知らせる担当も決めておきます。組織全体での見直しの進め方は、AIガバナンスを解説した記事を参照してください。

ハルシネーション対策に関するよくある質問

対策を社内で説明すると、利用料金や製品名による違いを聞かれることもあるでしょう。ここでは、会社として決める運用に絞って答えます。

Q. 有料版や新しいモデルならハルシネーションは起きませんか

有料であることや新しいことを理由に、誤りが起きないとは判断できません。本編が述べるのは対策による抑制であり、料金や世代を条件とした正確性の保証ではありません。社内ルールでも「有料版なら点検不要」という例外は置かない方針にします。

切り替えを検討するときは、実際に使う業務の資料で回答を試してください。根拠がない問いにどう答えるかや、照合に必要な情報を人へ渡せるかを見ます。採用後も業務の担当と使用前の点検を残し、利用するサービスの留意点に沿って運用します。

Q. ChatGPTとGeminiで対策は違いますか

この記事の3層は、どちらを使う場合も業務手順を整理する枠組みとして使えます。製品ごとの正確性が同じという意味ではありません。会社ではまず、指示と参照資料を用意し、出力を使ってよいか判断する担当を決めます。

実際に使える機能や操作方法は、利用するサービスの説明に沿って扱ってください。製品名だけで社内の点検を省かず、予定した業務で必要な手順を実行できるかを見ます。機能の差を調べる際も「この資料を参照させたい」「この根拠を担当者へ渡したい」と業務の要件から整理すると、必要な対応を決められます。

まとめ

ハルシネーション対策は、指示・根拠資料・人の確認を組み合わせて考えます。資料にない内容への応答を指定し、回答に使う情報を管理したうえで、使う前に人が裏付けへ戻る流れです。

そのうえで業務を、社外に出るもの・社内の判断に使うもの・案出しのみに分けます。影響が大きい用途には責任者の承認まで組み込み、用途が変わるときに扱いを見直します。まずは現在AIを使っている業務を一覧にし、照合する資料と担当を各行に書いてください。指示文の型と誤りの報告先までそろえれば、上司へ具体的な対策を示せます。