AIの下書きを引用で確かめる｜根拠のない文をAI自身に消させる頼み方

この記事では、生成AIの間違いの確認方法｜社員が見つけられる4つの確かめどころの「頼み方で間違いを減らし、確かめやすい答えにする」を、一歩進めた頼み方として説明します。

一言でいうと、担当が、元の資料と頼みごとを渡す。AIが、資料から関係する文をそのまま抜き出し、その引用だけで下書きする。AIが、書いた文の1つずつに引用の番号を付け、引用が見つからない文は消して印を残す。担当が、消した印と数字を原本で確かめる。送るかどうかは人が決めるという形です。

経営への効果は、確かめる時間を、怪しいところだけに絞れること

AIの下書きを確かめるとき、全文を原本と読み比べると、自分で書くのと変わらない時間がかかります。それでは、AIを使う意味が薄れます。

AIに、書いた文の1つずつに根拠の引用を付けさせ、根拠のない文を自分で消させれば、担当者が見るのは、消した印と数字だけになります。確かめる時間が減れば、社員が安心してAIに任せられる仕事が増えます。

公式の手引きに、引用で確かめさせる方法が載っている

Anthropic の手引き「Reduce hallucinations」（2026年10月24日に確認）には、AIが事実と違うことを書くのを減らす方法として、次のものが挙げられています。

• 分からないと言ってよいと伝える。 不確かなときや、資料に必要な情報がないときは、そう書いてよいとはっきり伝えます
• 長い資料では、先に引用を抜き出させる。 作業の前に、資料から関係する文を一字一句そのまま抜き出させ、それをもとに作業させます
• 引用で確かめさせる。 主張ごとに引用と出典を付けさせ、書いたあとに主張ごとに裏付ける引用を探させ、見つからなければ取り消させます
• 渡した資料だけを使わせる。 AIが元から知っていることを使わないよう、はっきり指示します

Google の Gemini の手引きにも、渡したテキストだけを使って答えさせる例が載っています。同じ手引きでは、計算や数え上げにはコードを実行する道具を使うよう書かれています。

Anthropic の手引きには、これらの方法で間違いは大きく減っても、なくなるわけではないので、大事な情報は必ず確かめるよう書かれています。2026年10月時点の情報です。

今は、AIの下書きのどこが資料にあるのか分からない

AIの下書きは、資料に書いてあることと、AIが補ったことが、同じ調子で並んでいます。読む人には、どの文が資料にもとづき、どの文がAIの想像なのかが見分けられません。

その結果、担当者は全文を疑って読むか、そのまま信じて送るかのどちらかになります。どちらも困ります。文ごとに根拠を付けさせれば、確かめる場所がはっきりします。

渡し、AIが下書きし、AIが照らし、担当が確かめる

1 渡す（担当）。 元の資料と、何を書いてほしいかを渡します。資料の名前とページが分かるようにしておきます。

2 下書きする（AI）。 資料から関係する文をそのまま抜き出し、番号を付けます。その引用だけを使って下書きします。

3 照らす（AI）。 書いた文の1つずつに、裏付ける引用の番号を付けます。見つからない文は消し、消したところに印を残します。

4 確かめる（担当）。 消した印のところと、数字・日付・名前を原本で確かめます。

AIへの頼み方は、抜き出す、書く、照らすの3段にする

AIに渡す指示（見本）：

添付の資料（当社のサービスの説明書と料金表）だけを使って、お客さまからの質問への返事を下書きしてください。次の順で進めてください。

1. 質問に関係する文を、資料からそのまま抜き出し、【引用1】【引用2】と番号を付けて並べる。資料名とページも書く。関係する文が見つからなければ「関係する引用なし」と書く
2. 抜き出した引用だけを使って、返事を下書きする。資料にないことは書かない。分からないことは「担当者が確認します」と書く
3. 書いた返事の1文ずつに、裏付ける引用の番号を付ける。裏付ける引用が見つからない文は消し、そこに［］を残す 金額の計算はしないでください。

返ってくる下書き（見本の一部。内容は架空です）：

【引用1】「月額プランは、毎月1日から末日までを1か月とします」（サービス説明書 p.3） 【引用2】「解約は、解約希望月の前月20日までにお申し出ください」（サービス説明書 p.5）

月額プランは、毎月1日から末日までを1か月としています【引用1】。解約をご希望の場合は、解約したい月の前月20日までにお知らせください【引用2】。［］日割りでのご返金については、担当者が確認してご連絡します。

この見本の［］は、AIが最初に「日割りで返金します」と書き、引用が見つからなかったので消した跡です。担当者は、［］のところを料金表や担当者に確かめます。

確かめるのは、印と数字と、引用そのもの

AIが引用を付けても、確かめる手間がゼロになるわけではありません。担当者は、次の3つを見ます。

• ［］の印。 AIが消した文です。本当に資料にないのか、書くべきことなのかを確かめます
• 数字・日付・名前。 引用が付いていても、写し間違いがないかを原本で照らします
• 引用そのもの。 引用の文が、資料に本当にあるかを、ページを開いて見ます。手引きにあるとおり、これらの方法でも間違いはなくならないので、引用の文が資料と一字一句同じとは限りません

親の記事の4つの確かめどころ（数字・名前・決まり・計算）のうち、計算はAIの外に出します。Google の手引きにあるとおり、計算は計算の道具に任せます。表計算か、計算を実行する機能を使います。

同じ頼みを2回して、食い違うところを見る

Anthropic の手引きには、同じ依頼を何回かして答えを比べ、食い違うところに間違いがひそんでいないかを見る方法も挙げられています。

• 大事な文書は、同じ頼みを2回する。 新しい会話で同じ資料と同じ指示を渡し、答えを並べます
• 食い違うところに印を付ける。 金額、日付、条件が違うところを、担当者が原本で確かめます
• 毎回やる必要はない。 お客さまに出す金額や契約の条件など、間違えると困る文書に絞ります

型をスキルにし、確かめは人の手に残す

型を Skills にまとめる。 Skills（スキル）は、AIに渡す手順書・見本・道具を1つにまとめたものです。頼まれた内容に合うときにAIが自動で読み込むので、毎回同じ説明をしなくても、AIの働きが安定します。ここでは、「抜き出す、書く、照らすの3段の指示」「引用の番号と［］の付け方」「書いてはいけないこと（資料にないこと、計算の結果、推測の言い切り）」をスキルにします。社員が頼むたびに長い指示を書かずに済みます。

確かめは、人の手に残す。 AIそのもの以外の、指示・道具・点検の仕組みを設計することを、ハーネスエンジニアリングと呼ぶことがあります。ここでは、計算を表計算に任せること、引用の文が資料にあるかを人がページを開いて見ること、送るかどうかを人が決めることがそれに当たります。仕組みに組み込むなら、引用の文が資料の中にそのまま含まれているかを、機械で照らす点検を足すこともできます。

費用は、2段に分けても1回十数円ほど

チャットで使うなら、1つの頼みの中で3段を続けて行わせても構いません。

必要な人は2役で、送るかを決めるのは担当

• 担当：資料と頼みごとを渡し、［］の印と数字と引用を原本で確かめ、送るかを決める
• 社長（管理する人）：3段の指示をスキルにまとめ、どの文書で2回頼むかを決める

1か月で頼み方が定着し、確かめる時間が見える見込み

1. 1週目：いちばん多く書く文書を1つ選び、3段の指示を試す
2. 2週目：［］の印がどこに出たかを記録し、指示を直す
3. 3週目：指示をスキルにまとめ、ほかの社員にも配る
4. 4週目：1件あたりの確かめる時間を、始める前と比べる

引用が付いているから正しい、と思うと失敗する

よくある失敗は次の3つです。

• 引用を開かずに信じる。 引用の文が資料と違っていることもありえます。ページを開いて見ます
• ［］を消して送る。 ［］は確かめる場所の印です。確かめずに消すと、資料にない約束が抜けたまま、あるいは残ったままになります
• 計算までAIに任せる。 引用で根拠を付けても、計算の間違いは防げません。計算は表計算で行います

まとめ

• Anthropic の手引きには、引用を先に抜き出させる、主張ごとに引用を付けさせ見つからなければ取り消させる、などの方法が載っている
• 頼み方は「抜き出す、書く、照らす」の3段にし、根拠のない文は消して［］を残させる
• 担当は［］の印、数字・日付・名前、引用そのものを原本で確かめる
• 計算は表計算に任せ、大事な文書は同じ頼みを2回して食い違いを見る
• これらの方法でも間違いはなくならないので、送るかどうかは人が決める