AIが出したものを、誰が確かめるか

2026年9月22日2026年10月19日

AIに書かせた文章を、そのまま出していませんか。いま起きている事故の多くは、AIが間違えたから起きるのではありません。間違いに気づく人が、どこにもいなかったから起きます。この記事では、公的機関が今年あげた脅威の中身と、当社が自分のブログに実際にかけている確認の仕組みを、そのまま公開します。

脅威の3位に入ったのは、攻撃ではなく「使い方」でした

独立行政法人情報処理推進機構（IPA）が2026年1月29日に公表した情報セキュリティ10大脅威 2026で、組織向けの3位に「AIの利用をめぐるサイバーリスク」が入りました。この項目が候補にあがったのは、今回が初めてです。

出典：IPA 情報セキュリティ10大脅威 2026 の組織向け一覧より、上位の5つを抜き出しました。順位は、研究者や企業の実務担当者らでつくる選考会の投票で決まっています。

目を引くのは、1位と2位の顔ぶれが動いていないことです。IPAの説明によれば、この2つは2023年以降、4年連続で順位が変わっていません。攻撃の手口そのものは、そう毎年入れ替わるものではない、ということです。そこに、まったく新しい項目が3位で割り込んできました。

この項目名だけを見ると、AIを使った攻撃を思い浮かべます。もちろんそれも入っています。ただ、IPAの説明を読むと、想定されているものは大きく3方向に分かれます。

1と2は、攻撃されていなくても起きます。社外の誰かが何かをしたわけではなく、使っている自分たちの手元だけで完結してしまう事故です。ファイアウォールでもウイルス対策ソフトでも止まりません。止められるのは、出てきたものを誰かが確かめる、という手順だけです。

当社は自社でブログを運営していて、記事づくりにAIを使っています。そのうえで、投稿の直前に機械が止める仕組みを自分たちで作り、毎日通しています。宣伝ではなく、手の内として中身を書きます。同じことは、AIを業務に入れるどの場面でも組めます。

出典の原文を、機械が取りに行って保存する。人がファイルを手で置くことはできません。置いたものは弾かれます。ここを人に任せると、原文のほうを書き換えれば裏取りをすり抜けられてしまうからです
本文に出てくる数字が、保存した原文に本当にあるかを照合する。無ければ止まります
原文からの写しになっていないかを照合する。一定の長さ以上が一致したら止まります。言い換えたつもりでも、並びまでなぞっていれば引っかかります
リンク先が本当に開けるかを、実際に取りに行って確かめる。下書きのままのページへのリンクは、読者から見れば行き止まりです
通ったあとに本文を書き換えたら、もう一度通し直しになる。合格した時点の本文を指紋（ハッシュ）で凍結してあるためです

この仕組みを入れてから、止まったものがあります。法令の言い回しの取り違え、裏の取れない数字、下書きのままのページへのリンク。どれも、読んだだけでは気づきにくいものでした。AIが悪いのではありません。確かめる係がいなかっただけです。

ここを分けないままAIチェック体制と呼ぶと、たいてい形だけになります。分け方は、そう難しくありません。

左は毎回同じ判定が出るもの、右は判断が要るものです。当社はこの表の左だけを機械にやらせています。

右の列を機械に任せると、いちばん危ない失敗が起きます。照合ずみという緑色の印が付いた、中身の間違った文章です。印が付いているぶん、人はもう読み返しません。確認の仕組みは、通らないことより、通ってはいけないものが通ることのほうが怖いのです。

実際、当社も一度この失敗をしています。根拠となる資料として保存していたページが古い版で、いまは認められていない扱いがそのまま書かれていました。公的機関のページであっても、その版が現行かどうかは別の話です。機械は「そのページに書いてあるか」しか見ていません。

AIに入れてよい情報の線を、先に引く。患者さんの情報、取引先の見積、未公開の数字。入れないものを紙に書き出すところからです。ここが決まっていないと、あとの工夫はすべて後追いになります
出してきたもののうち、確かめる対象を、ひとつだけ決める。全部を確かめようとすると続きません。まずは数字だけ、あるいはリンクだけで構いません
確かめた記録を残す。誰が、いつ、何と照らしたか。記録が無い確認は、あとからやったつもりと区別が付きません

この3つは、専用のソフトが無くても始められます。ソフトが要るのは、毎日必ず通すと決めたあとです。順番を逆にすると、買ったものが使われないまま残ります。