AIに質問すると、読みやすく自信のある答えが返ってきます。しかし、文章が自然だからといって、内容まで正しいとは限りません。存在しない制度や資料名を挙げたり、古い情報を現在の情報のように説明したりすることがあります。
大切なのは、AIを使わないことではなく、どこまでAIに任せ、どこから人が確認するかを決めることです。今回は、小さな会社や個人事業主でもすぐ実践できる「仕事で使う前の確認5ステップ」を紹介します。
なぜ、もっともらしい間違いが起きるのか
生成AIは、質問に対して常に正解を検索して返す仕組みとは限りません。文脈に合う言葉を組み立てるため、事実と異なる内容や、実在しない引用元を自然な文章で示すことがあります。こうした現象は一般に「ハルシネーション」と呼ばれます。
米国国立標準技術研究所（NIST）も、生成AIが誤った内容や架空の引用を確信があるように示し、人が過度に信用するリスクを挙げています。情報処理推進機構（IPA）も、生成AIの出力は信頼できる情報源に基づいて確認するよう案内しています。
ステップ1．文章から「確認が必要な事実」を拾う
まず、AIの回答を文章全体の印象で判断せず、確認が必要な部分に印を付けます。
- 日付、金額、割合などの数値
- 法律、制度、補助金、契約条件
- 会社名、製品名、人物名
- 調査結果、統計、引用
- 操作方法や設定画面の名称
例えば「この補助金はすべての中小企業が対象です」という回答なら、「対象者」「申請期間」「対象経費」を分けて確認します。重要な主張を小さく分けると、見落としを減らせます。
ステップ2．AIが示したリンクをそのまま信用しない
AIに「出典を付けて」と頼むのは有効ですが、出典名やURL自体が誤っている場合があります。リンクを実際に開き、ページが存在するか、回答の根拠が本当に書かれているかを確認します。
検索結果の見出しだけで判断せず、該当箇所まで読みましょう。出典の日付も確認し、古い案内が更新されていないかを見ます。
ステップ3．一次情報に戻る
重要な内容ほど、まとめ記事よりも情報を発表した組織のページを優先します。
- 法律・制度：省庁、自治体、法令データ
- 製品の機能や料金：提供会社の公式サイト
- 統計：調査を実施した機関の公表資料
- 社内情報：社内規程、契約書、担当者
一次情報を見つけたら、AIの回答と照らし合わせます。差がある場合は、公開日が新しく、対象条件が明確な公式情報を基準にします。
ステップ4．影響の大きさで確認方法を変える
すべての文章を同じ重さで確認すると、AIを使うメリットが小さくなります。誤りがあった場合の影響で分けると効率的です。
- 影響が小さい：社内アイデア、たたき台、文章の言い換え。担当者が読み直す。
- 影響が中程度：顧客向け資料、料金案内、操作手順。公式情報との照合と別担当者の確認を行う。
- 影響が大きい：契約、医療、法律、個人情報、重要な経営判断。専門家や責任者の確認なしに決定へ使わない。
「AIを使ったか」より、「その情報で誰がどんな判断をするか」を基準に確認の強さを決めます。
ステップ5．最終確認者と記録を決める
チームでAIを使う場合は、誰かが確認したつもりになる状態を避けます。次の4項目だけでもルールにしておくと運用しやすくなります。
用途：何に使う文章か 確認者：最終的に誰が確認するか 根拠：確認した公式ページや社内資料 確認日：いつの情報として確認したか
AIが作った文章を保存するだけでなく、根拠となったURLや資料名も一緒に残しておけば、後日の修正にも対応しやすくなります。
AIへの再確認だけで終わらせない
「本当に正しいですか？」と同じAIに聞き直すと、表現を変えて同じ誤りを返す可能性があります。再質問するなら、「確認が必要な主張を一覧にして」「各主張について一次情報の候補を示して」のように、確認作業を分解するために使いましょう。最終的な事実確認は、実際の公式情報や社内資料で行います。
そもそも回答が長すぎる、目的に合わないという場合は、先にAIへの頼み方4つのコツもご覧ください。頼み方と確認方法をセットにすると、仕事で使いやすくなります。
まずは重要な1文から確認する
今日AIで作った文章の中から、数字や制度名が含まれる1文を選んでみてください。その根拠を一次情報で確認し、確認日を残すだけでも、仕事でのAI利用は一段安全になります。
ホワイトクリエイティブ合同会社では、AIを含むITツールの使い方整理、業務フローの見直し、Excel業務の改善・自動化、社内システム制作の相談に対応しています。ツールを導入したものの、確認方法や社内ルールが決まっていない場合もご相談ください。
