文春はAI製のタレコミを見抜けるのか
【読むのに約 4 分】
最近、週刊文春がニュースの出発点になっていることが多い。芸能人や政治家や企業の問題について、まず文春が報じ、その後ほかのメディアが追いかける。
文春の強さは、記事を書く能力だけではないのだろう。
「この話なら文春へ持ち込めば調べてくれる」「ほかのメディアが扱わなくても文春なら出すかもしれない」と思われ、いろいろなタレコミが集まる。発信力があるから情報が集まり、情報が集まるから発信力が強くなる。文春は発信するメディアであると同時に、かなり大きな情報の受信装置でもある。
ただ、その受信装置はAI時代にもちゃんと動くのだろうか。
本物の内部告発と一緒に、私怨で作られた話、都合よく加工された音声、存在しないメール、架空のチャット履歴、もっともらしい写真や社内文書が送られてくる。以前から偽のタレコミはあっただろうが、AIを使えば作る費用も手間も大きく下がる。
文章の調子を本人らしくする。昔のメールを学習させる。会話の音声を作る。写真を少し加工する。複数の証拠が互いに補強し合っているように見せる。一つずつは怪しくても、セットで届くと急に本当らしく見える。
文春は大丈夫なのだろうか。
タレコミを取捨選択し、真贋を見極める能力を、AI時代に合わせてちゃんと鍛えているのだろうか。昔からの記者の勘、関係者への電話、文書の見た目、話している人の態度といった判断方法だけで、AIが作った偽物を見抜けるのだろうか。
もちろん、文春の編集部で実際にどんな検証をしているのかは知らない。専門のチームを作り、生成AIやデジタル鑑識について猛勉強しているのかもしれない。そうであってほしい。
しかし偽物をつかまされたとき、被害を受けるのは記事にされた人だけではない。文春の信用も一緒に減る。一度記事が出れば、訂正より先に情報だけが広がる。文春の看板が付くことで、もともとの偽情報より何倍も強くなる可能性もある。
国連のAI専門家パネルも、AIによって誤情報の説得力が増し、民主主義や人権へ影響する危険があると報告している。
AIによって誤情報に説得力が出る。まあ、そうだろうなと思う。
以前なら、もっともらしい長文を書き、架空の画像を作り、複数の言語へ翻訳し、相手によって言い方を変え、大量のアカウントで拡散するには、それなりの金と人手が必要だった。今はAIへ頼めば、かなりの部分を一人でできる。内容が正しいかどうかとは関係なく、見た目だけ整った情報を作る費用は大きく下がった。
これは普通に困る。誤情報が増えるのは悪い。しかも雑な誤情報だけではなく、一見ちゃんとしていて、読むのに時間がかかり、間違いを指摘するにはさらに時間がかかる誤情報が大量に出てくる。作る側より確認する側のほうが大変である。
ただ、誤情報というものはAIが発明したわけではない。
昔から政府や権力者や大企業や宗教団体は、都合のよい情報を作って広めてきた。新聞やテレビも、間違った情報を流したことは何度もある。わざとかどうかは別として、金と組織と発信経路を持つ側には、もっともらしい話を社会へ流通させる力があった。
市井の人も嘘をつくことはできた。しかし、近所で変なことを言っている人と、全国へ同じ情報を届けられる組織では影響力が違う。誤情報を作る自由は一応みんなにあったが、誤情報を大規模に流通させる能力は、一部の人たちがほぼ独占していた。
そこへAIとSNSが来た。
文章を整える。画像を付ける。動画を作る。外国語へ翻訳する。知らない人へ届ける。今まで組織と資本が必要だった作業が、個人でもできるようになった。
誤情報発信能力の民主化である。
民主化と言うと良いことのように聞こえるが、その対象は誤情報発信能力なので、もちろん素直には喜べない。誰でも嘘を作り、誰でも世の中へ流せる。たいへん迷惑な民主化である。
しかも完全に平等になったわけではない。広告費、フォロワー、テレビ局、新聞社、SNSのアルゴリズム、政治権力は今も強い。もともと大きな拡散力を持っていた人たちが弱くなったのではなく、そこへ一般人も大量に参入できるようになった。誤情報の市場が広がっただけともいえる。
そうなると、価値が上がるのは情報を出す能力より、受け取った情報を選別する能力かもしれない。文春なら、情報がたくさん集まること自体より、集まった情報を安易に信じず、裏付けを取り、記事にしない判断までできることのほうが重要になる。
文春にもゼロトラストが必要である。
セキュリティの世界にあるゼロトラストは、社内だから安全、有名な会社だから安全、と場所や肩書だけで信用せず、その都度きちんと確認する考え方だ。タレコミも、昔から付き合いのある情報源だから、具体的な証拠が付いているから、話がきれいにつながっているから、というだけでは信用しない。
そしてそれは、文春だけの話でもない。
今までは、新聞に載っている。テレビで専門家が話している。政府が発表した。写真がある。文章が整っている。そういうものが、情報を信じる理由としてかなり強く使われてきた。もちろん全部を疑っていたら生活できないので、それ自体は合理的でもあった。
しかしAIによって、文章のうまさや画像の存在を信用の根拠にしにくくなる。誰でも見栄えのする誤情報を作れると分かれば、きれいに作られているだけでは信じなくなる。発信者が有名だからというだけで信じる人は少し減るかもしれない。
誰が言ったかは参考にする。しかし、それだけでは確定しない。元の資料を見る。別の情報源と照らす。断言できないものは、よく分からないまま置いておく。SNSのすべての投稿に対して十分に調査することは難しいが、少なくとも簡単には確定させない。
誤情報を作れる人が少なかった時代には、その少数を信頼することで社会が回っていた。しかし全員がそれらしい嘘を作れるようになれば、発信者を信頼する仕組みだけでは足りない。受け取る側が確認する仕組みを持つ必要がある。
その結果、全員がゼロトラストを覚え、AIで作られた誤情報だけでなく、政府や大企業や大手メディアが流す間違った情報にも、以前よりだまされにくくなる可能性がある。
そうなれば、ほんの少しだけプラスかもしれない。
まずは文春が、AI製のタレコミをつかまされずに済むのか。そのあたりから、受信側の能力が試され始めるのだろう。
ちゃんと鍛えてる？