「ChatGPTで不正プログラム自作」と言っても、基本的には道具の話だと思う

「ChatGPTで不正プログラム自作」　バンダイチャンネル4万6800人を勝手に退会させた疑い、15歳を再逮捕　報道

バンダイチャンネルの会員約4万6800人分のアカウントを勝手に退会させたとして、15歳の高校生が偽計業務妨害の疑いで再逮捕された、というニュースが流れてきた。見出しは「ChatGPTで不正プログラム自作」。

この見出し、「キーボードで不正プログラム自作」と書いてあるのとほとんど同じじゃないかと思った。今どきプログラムを組むのにLLMの助けを借りるのは当たり前で、ChatGPTなのかCodexなのか知らないけど、道具の一般名でしかない。包丁で調理、くらいの情報量。それでも見出しに入るのは、AIが悪いことをした話に見えるとPVが増えるからなんだろう。

ただ、AIの絡み方には一応、確認する価値のある切り分けがある。不正アクセスの方法をLLMが見つけ出したのか。それとも方法は人間が見つけて、それを使うプログラムの実装をLLMが手伝っただけなのか。前者ならAIの安全対策が破られた話で、ニュースの主役がChatGPTなのも分かる。後者なら、LLMはただの開発ツールで、悪用と呼べる要素は特にない。普通のLLMは「不正アクセスするプログラムを書いて」みたいな指示にそのまま従ったりはしないし。

で、記事を読むと、答えは本文に書いてあった。本人が通信内容を解析してシステムの脆弱性を見つけ、「プログラムを自分で作り、ChatGPTに聞いて完成させた」と供述しているという。小学４年ごろからプログラミングを独学していたそうだ。つまり方法を見つけたのは人間で、ChatGPTがやったのは実装の相談相手。見出しが主役に据えたChatGPTの仕事は、この事件の中でいちばん普通の部分だった。

この手の見出しには、昔から新しい道具が入る。Winnyで、2ちゃんねるで、ダークウェブで。道具が珍しいあいだだけ、道具が見出しに昇格する。あの見出しで何かを知った気になれるのは、AIをまだ魔法だと思っている読者だけで、見出しはたぶん、その読者に向けて書かれている。数年すれば「ChatGPTで」は「パソコンで」と同じ扱いになって、見出しから消えるんだろう。

一方で、中３が通信を解析して脆弱性を自力で見つけた、という部分は見出しに入らなかった。事件としてはそっちが本体だと思うんだけど。