生成AIの回答は、文章が自然で詳しいほど正しく見えます。しかし、存在しない制度、古い料金、誤った計算、架空の引用を含む場合があります。この「もっともらしい誤り」がハルシネーションです。重要なのは、AIへ「間違えないで」と頼むことより、誤りが提案書、顧客回答、社内判断へ移る前に確認で止まる業務を作ることです。
この記事では、生成AIの回答を業務で使う前に確認する6項目と、用途に応じて確認の強さを変える方法を紹介します。自社用の確認表を作れます。
ハルシネーションは流ちょうさだけでは見抜けない
生成AIは文章の自然さを作れても、その内容が現実と一致することを自動では保証しません。
NISTは、生成AIが自信のある表現で誤った内容を提示する現象を「Confabulation」と定義しています。生成AIは学習データに見られる言葉の分布をもとに出力を作るため、文章の整合性と事実性は同じではありません。OpenAIの2025年の研究も、言語モデルが不確かなときに回答を控えるより、推測するほうが評価されやすい学習・評価の構造を指摘しています。
モデルが新しくなっても、質問の前提不足、情報の古さ、参照資料の誤り、検索漏れは残ります。IPA掲載の受講者作成手引書（2026年7月）では、どのAIモデルでもハルシネーションを完全には排除できず、人の確認が中核になるとされています。
先に用途を3段階へ分ける
すべての回答を同じ強さで確認せず、誤りが出たときの影響で分けると運用が続きます。
- 低影響 ：提示した文章の言い換え、アイデア出し、社内用の構成案。依頼との一致と不適切な情報の混入を利用者が確認する
- 中影響 ：調査メモ、業務マニュアル、提案書の下書き。一次情報、日付、数値を担当者が照合する
- 高影響 ：契約、法務、医療、金融、人事評価、対外公表、顧客の権利や金銭に関わる内容。所管部門や必要な資格・専門性を持つ人が判断する
自動化の範囲も同じ基準で決めます。低影響の下書きと、送信・契約・判断を分離し、影響が大きい工程の手前に承認を置きます。
業務で確認する6項目
回答を一文ずつ読み直すより、誤りの種類を6項目に分けると確認漏れを見つけやすくなります。
横にスクロールできます
| 確認する6項目 | 照合するもの・判断 |
|---|---|
| 事実・解釈・提案 | 元情報に書かれている事実か、AIの解釈かを分ける |
| 出典 | 資料やページを開き、その主張の根拠があるか確認 |
| 日付・版・対象範囲 | 作成日、改訂版、対象地域・条件 |
| 数値・単位・計算 | 元データから別途計算し、分母や単位を照合 |
| 固有名詞・引用・URL | 原記録の表記・発言・実際のリンク先 |
| 最終判断・用途 | 確認者と、公開・送信・社内検討の用途 |
1．事実・解釈・提案を分ける
文章中の「起きたこと」「そこから読み取れること」「次に行う案」を分けます。事実だけを照合し、解釈と提案には前提条件を付けます。AIが質問にない前提を補っていないかも確認します。
2．出典が実在し、主張を支えているか確認する
AIが示したURL、文書名、論文、法令を実際に開きます。出典が実在しても、本文が主張と一致しない場合があります。法令はe-Gov、公的統計は所管省庁、製品仕様は提供者の公式文書など、可能な限り一次情報へ戻ります。NISTも、生成AIが示す出典と引用を継続的に検証するよう勧めています。
3．日付・版・対象範囲を確認する
料金、制度、利用規約、製品機能、組織名は変わります。公開日と更新日、資料の版、対象国・地域、対象プラン、適用開始日を確認します。「最新」「現在」という表現には確認日を添えます。
4．数値・単位・計算を元データでやり直す
割合の分母、税込・税抜、月額・年額、円・ドル、人数、期間を確認します。計算結果は電卓や表計算で再計算し、入力値と式を残します。AIに再計算させるだけでは独立した検証になりません。
5．固有名詞・引用・URLを一文字ずつ照合する
会社名、人名、制度名、製品名、法令名、引用文、ページ番号は、もっともらしい誤りがあると影響の大きい確認項目です。引用は原文を開き、必要な範囲だけを正確に使います。AIが説明した「考え方」や推論過程も、それ自体に誤りを含む可能性があるため、証拠の代わりにはしません。
6．誰が最終判断し、どこへ使うか確認する
社内メモ、顧客メール、広告、契約文書では必要な承認が異なります。作成者、事実確認者、最終承認者、修正履歴を決めます。判断材料が不足する場合は、AIに埋めさせず「確認待ち」として止めます。
入力を変えて確認しやすい出力にする
正しさを言い聞かせるより、根拠と回答範囲を先に限定すると検証しやすくなります。
- 根拠となる公式資料を渡し、「資料に書かれた範囲」と「資料にない点」を分けて出力させる
- 事実ごとに参照資料名と該当箇所を付けさせ、確認できない項目は「不明」と表示させる
- 抽出、比較、下書きを分け、各段階で確認してから次へ進む
- RAGを使う場合も、参照文書の更新日、重複、権限、検索漏れを点検する
これらは誤りを抑え、確認時間を短くする助けになりますが、保証にはなりません。RAGが古い文書や誤った文書を拾えば、その内容を根拠に回答することがあります。出典リンクもAIが作った文字列のまま信用せず、実在性と内容を確認します。
架空のイベント告知を元情報と照合する
元情報は「初めてAIを学ぶ方向けのオンライン勉強会。日時・料金は未定」です。
横にスクロールできます
| 出力に現れた内容 | 元情報との照合 | 修正 |
|---|---|---|
| 「9月20日開催」 | 日時は未定。日付が追加されている | 「開催日時は決まり次第お知らせします」に変更 |
| 「参加無料」 | 料金は未定。無料とは書かれていない | 料金を断定せず、未定の項目として分ける |
| 「修了証を全員に発行」 | 修了証の情報がない | 削除し、必要なら企画担当者へ確認 |
| 「AI初心者向けのオンライン勉強会」 | 対象者・開催形式が元情報と一致 | 表現を整え、企画担当者が公開前に確認 |
これは誤りを見つけるための架空例であり、GenUpの開催予定や特典ではありません。
誤りを記録し、確認表へ戻す
見つけた誤りを修正して終わらせず、原因と再発防止を確認表へ戻すと運用品質を改善できます。
誤りを「出典なし」「古い情報」「計算」「固有名詞」「前提の補完」「承認漏れ」に分類します。頻出する誤りは、元資料、プロンプト、RAGの参照範囲、確認項目のどこを直すか決めます。モデルや参照データを変更した後は、実際の業務例で再評価します。NISTも、既知の正解データとの比較、ファクトチェック、出典確認、継続監視を組み合わせる考え方を示しています。
あなたの会社では、AIが提案書に架空の事例を入れたとき、公開前のどの工程で、誰が止めるでしょうか。担当者名まで答えられなければ、確認表と承認者を先に決める必要があります。
今日やること
- AIを使う業務を低・中・高影響の3段階に分ける
- 既存の成果物一つを6項目で確認し、見つかった誤りを分類する
- 中・高影響の成果物に事実確認者と最終承認者を設定する
よくある質問と相談先
よくある疑問への回答と、確認工程を社内へ実装するための関連情報をまとめます。
Q1．「分からないときは分からないと答えて」と指示すれば防げますか？
有効な補助指示ですが、完全には防げません。回答範囲を資料内へ限定し、出典を表示させたうえで、人が一次情報を確認します。
Q2．RAGを導入すればハルシネーションはなくなりますか？
なくなりません。参照文書の古さ、検索漏れ、誤った文書、アクセス権の不備が回答へ影響します。RAGは根拠を与え、確認しやすくする仕組みとして使います。
Q3．別の生成AIに回答をチェックさせてもよいですか？
見落とし候補を出す補助には使えますが、独立した事実確認にはなりません。最終確認は一次情報、元データ、業務担当者の知識で行います。
出力確認を研修と運用へ組み込みたい方へ
出力確認を社内ルールへ組み込む方法は企業の生成AI利用ガイドラインの作り方もご覧ください。社員がリスクと実務活用を一緒に学ぶ研修はAIスキルアップ研修、業務に合わせた仕組みづくりはお問い合わせからご相談いただけます。