AIの誤情報をサイトに載せないために｜ハルシネーション対策の確認体制
AIはもっともらしい誤情報を出すことがあります。サイトに公開してしまうと、信用低下や顧客対応のトラブルにつながりかねません。誤情報が起きやすい箇所、確認の役割分担、チェックリスト、公開後の訂正手順を整理します。
AIに書かせたブログ記事に、存在しない法律の条文が引用されていた。会社概要の原稿を整えてもらったら、設立年が変わっていた。サービス紹介文に、自社では提供していない機能が書き加えられていた。生成AIを使ってサイトの文章を作ると、こうした「もっともらしい誤り」が紛れ込むことがあります。
AIが事実と異なる内容を、あたかも正しいかのように出力する現象は「ハルシネーション（幻覚）」と呼ばれます。性能は年々向上していますが、仕組み上、完全になくすことは難しいと考えられています。この記事では、AIの誤情報をサイトに公開してしまうリスク、誤りが起きやすい箇所、社内の確認体制の作り方、公開後に誤りが見つかったときの対応を解説します。
誤情報を公開すると何が起きるか
Webサイトに掲載した情報は、会社の公式な説明として受け取られます。AIが作った文章であっても、公開した以上は自社の責任です。誤情報を公開した場合、次のような影響が考えられます。
- 顧客の誤解：料金や対応範囲を誤って案内し、問い合わせや契約時にトラブルになる
- 信用の低下：明らかな誤りが見つかると、サイト全体の情報が疑われる
- 法的なリスク：商品の性能や価格を誤って表示すると景品表示法、他者について誤った記述をすると名誉や信用にかかわる問題につながるおそれがある
- 検索での評価：Googleは、AIで作ったかどうかではなく、内容の有用性や信頼性を重視する方針を示しています。誤りの多いページは、読者にとって有用とは言えません
誤情報が起きやすい箇所
AIの出力すべてを同じ熱量で確認するのは現実的ではありません。誤りが起きやすく、影響も大きい箇所を重点的に確認するのが効率的です。
| 要素 | 起きやすい誤りの例 | 確認の方法 |
|---|---|---|
| 数字 | 統計値、割合、価格、年月日がそれらしく作られる | 出典資料や社内データと照合する |
| 固有名詞 | 存在しない制度名、団体名、書籍名、人名 | 公式サイトなど一次情報で存在を確認する |
| 法令・制度 | 条文番号の誤り、古い制度の説明、断定的な解釈 | 所管官庁の公式情報で確認し、必要なら専門家に相談 |
| 自社情報 | 提供していないサービス、誤った沿革や所在地 | 社内の担当部署に確認する |
| 引用・出典 | 実在しない調査やURL、発言の引用 | 出典元を実際に開いて内容を確認する |
| 最新情報 | AIの知識が古く、現在と異なる内容 | 公開日時点の公式情報で確認する |
特に注意したいのが「出典」です。AIは、存在しない調査レポートやURLを、それらしい形式で示すことがあります。出典が示されているから正しい、と考えず、必ず実際に開いて内容を確かめましょう。
AIに書かせる段階でできる予防策
確認の手間を減らすには、生成する段階で誤りが入りにくい指示を出すことも大切です。
- 事実は自分で渡す：会社概要や料金、サービス内容などは、社内資料の内容をプロンプトに含め、「この情報以外の事実は追加しないでください」と指示する
- 分からないことは分からないと書かせる：「確かでない情報には【要確認】と付けてください」と指示する
- 数字を作らせない：「具体的な数字は、こちらが渡したもの以外使わないでください」と明記する
- 役割を分ける：AIには構成案や言い回しの調整を任せ、事実の部分は人が書く
プロンプト例：「以下の社内資料だけをもとに、サービス紹介ページの本文を作ってください。資料にない機能、数字、実績は追加しないでください。推測で補った部分や、確認が必要な部分には【要確認】と付けてください」
ただし、こうした指示をしても誤りがゼロになるわけではありません。予防策は確認の負担を軽くするためのもので、人による確認を省略してよい理由にはなりません。
社内の確認体制の作り方
誤情報を防ぐには、個人の注意力に頼るのではなく、確認の流れを決めておくことが重要です。中小企業でも取り入れやすい体制の目安を紹介します。
役割を分ける
原稿を作った人とは別の人が確認する「ダブルチェック」を基本にします。少人数の会社では、作成者が数字や固有名詞の根拠を一覧にし、確認者がその一覧をもとに照合する形にすると、負担を抑えられます。法令や医療・お金に関わる内容など、影響が大きいページは、社内の専門部署や外部の専門家の確認を加えましょう。
公開前の確認手順
- 作成者が、AIの出力から数字・固有名詞・法令・自社情報・出典を抜き出して一覧にする
- 一覧の各項目について、根拠となる資料やURLを記入する
- 確認者が、根拠と本文の内容が一致しているかを照合する
- 根拠が見つからない記述は削除するか、確かな情報に書き換える
- 公開日、作成者、確認者、確認した根拠資料を記録する
この記録は、後から「どこまで確認したか」を振り返るためにも役立ちます。スプレッドシートに1ページ1行で残すだけでも十分です。
既存ページの定期点検も忘れずに
公開時には正しかった情報も、料金改定や制度の変更、サービス内容の見直しによって古くなります。AIで量産したページほど、どこに何を書いたか把握しにくくなりがちです。半年に1回など時期を決めて、料金・制度・自社サービスに触れているページを中心に点検しましょう。点検の対象は、先ほどの記録から「数字や法令を含むページ」を抽出すると効率的です。
公開後に誤りが見つかったときの対応
どれだけ注意しても、公開後に誤りが見つかることはあります。そのときに慌てないよう、対応の流れを決めておきましょう。
- 誤りの内容と影響の大きさを確認し、必要なら一時的に該当箇所を非公開にする
- 正しい情報に修正し、重要な訂正の場合は訂正した日と内容をページ内に明記する
- 誤った情報をもとに問い合わせや契約をした顧客がいないか確認する
- なぜ確認で見落としたかを振り返り、チェックリストに反映する
重要な情報を黙って書き換えると、かえって不信感を招くことがあります。訂正は誠実に、分かる形で行うのが基本です。
まとめ
AIの誤情報は、完全には防げないことを前提に、生成時の工夫と公開前の確認の両方で備えることが大切です。特に数字、固有名詞、法令、自社情報、出典は重点的に確認し、作成者とは別の人が根拠と照合する体制を作りましょう。
次のステップとして、現在AIを使って作っているページの種類を洗い出し、上の確認手順を社内のチェックリストとして共有してください。法令や制度に関わる記述で判断に迷う場合は、公開前に弁護士など専門家に確認することをおすすめします。