誤りには型がある
間違いは全体に均等に散らばるのではなく、決まった場所に出ます。全文を疑うのではなく、出やすい場所を優先して確認するほうが現実的です。
- 具体的な数字 — 料金、割合、件数、年数
- 固有名詞の組み合わせ — 実在する会社名と実在しない製品名がつながる
- 出典らしき記述 — 存在しない資料名や条番号が、もっともらしい形で出る
- 最新の情報 — 学習時点より後の変更が反映されない
- 断定の強さ — 本来「場合による」ことが言い切りになる
なぜ自信ありげに間違えるのか
文章としての整合性を優先して作られるため、根拠が弱い部分でも自信のある書き方になります。読む側からは、確かな部分と不確かな部分の区別が付きません。
これは設定で直る種類の問題ではないため、確認の手順を自分側に持つのが唯一の対処です。「間違えないようにして」と指示しても効果はありません。
やってはいけない確認方法
- 同じ相手に聞き返す — 誤りを補強する説明が返ることがあります
- 別のAIに聞いて一致を見る — 元になった情報が共通なら、同じ誤りが揃います
- 出典が示されたら信じる — 出典自体が実在しないことがあります
- もっともらしさで判断する — もっともらしく書くのが得意な相手です
確認は必ず外部の情報源で行ってください。
確認の手順
- 数字と固有名詞に印を付ける
- それぞれ、発表元の公式ページで確認する
- 出典が示されていれば、実際に開いて記述が一致するか見る
- 確認できなかったものは「未確認」と残す
- 判断に使う部分だけは、必ず一次情報にあたる
4番が実務的です。すべてを確認できないことは当然あるので、確認できていないことを文章に残しておくと、後から読む人が判断できます。
減らすための頼み方
誤りをゼロにはできませんが、次の指定で確認しやすくなります。
- 「確かでない部分は、確かでないと明記して」
- 「一般論と、私の状況に対する話を分けて」
- 「情報の時点を書いて」
- 「知らないことは知らないと言って」
それでも誤りは出ます。指示は確認を楽にするためのもので、確認の代わりにはなりません。
判断に使う場合の線引き
間違いが避けられない以上、どこまで使うかを決める必要があります。実務的な線引きは次の通りです。
| 使い方 | 可否 |
|---|---|
| 論点を洗い出す、抜けを探す | 向いている |
| 用語や制度の概要をつかむ | 入口としては使える。根拠は別途 |
| 個別の状況に対する結論を出す | 使わない |
| 医療・法律・税務・投資の判断 | 使わない |
境目は「一般論か、自分の状況か」です。一般論の整理は得意ですが、個別の条件は渡した情報の範囲でしか扱えません。
実践ログから分かったこと
実際に引っかかったのは、存在しない資料名が出典として示されたケースです。名前も形式ももっともらしく、検索して初めて存在しないと分かりました。出典が付いているだけで安心してしまうのが危ないところです。
もう1つ、料金の数字が古い情報のままだったことがあります。文章全体は自然で、その1か所だけがずれていました。数字だけを抜き出して確認する習慣にしてから、この種の見落としがなくなりました。
FAQ
間違いをなくす設定はありますか？
ありません。確認の手順を自分側に持つのが唯一の対処です。
「合っていますか」と聞き返せば確認になりますか？
なりません。誤りを補強する説明が返ることがあります。外部の情報源で確認してください。
複数のAIで一致すれば信頼できますか？
できません。元になった情報が共通なら同じ誤りが揃います。
全部を確認する時間がありません
数字、固有名詞、日付、出典に絞ってください。実害はほぼここから出ます。