AIを閉め出すより、席を作る

日本生物物理学会が、AIを共著者とした論文を専門に扱う国際科学誌を作る構想だというニュースを見た。5年後をめどにオンラインで創刊し、AIが論文の評価に関わる仮想的な編集室も置くらしい。

これはかなりおもしろい。というか、AI生成物の扱いとしては、こういう方向のほうが現実的なのだと思う。

AIを人間の著者と同じに扱うのは、たぶん無理がある。論文の著者は、単に文章を書いた人ではない。内容に責任を持つ。根拠を説明する。間違いがあれば訂正する。研究不正があれば責任を問われる。AIにその席をそのまま与えると、いろいろなものが宙に浮く。

ただ、だからといってAIが知的作業に関与していないことにするのも、そろそろ無理がある。

文章の整形だけではない。仮説の整理、論点の比較、実験計画の補助、コード生成、データ解析、先行研究の探索、査読コメントへの応答案。AIはすでに、研究や執筆の周辺どころか、かなり内側に入り始めている。

だとすると必要なのは、AIを人間扱いすることでも、道具箱に押し戻すことでもなく、AIが関与した知的生産物を扱うための新しい席を作ることなのだろう。

論文誌という題材は、その実験場としてかなり筋がいい。

論文はもともと、知的活動を制度化した形式である。誰が何をしたのか。何が新しいのか。根拠は何か。再現できるのか。誰が査読したのか。誰が責任を持つのか。そういう面倒なことを、面倒なまま記録するための仕組みだ。

AIが絡むと、この面倒さがさらに増える。どのAIを使ったのか。どのバージョンなのか。どんな入力をしたのか。出力をどう検証したのか。人間はどこで判断したのか。AIの提案をそのまま採用したのか、修正したのか、棄却したのか。

このあたりを曖昧にしたまま、「AIは使っていません」と言い張る世界は、たぶんあまり長く続かない。逆に「AIも共著者です」と雑に書くだけでも足りない。必要なのは、AIがどのように関与したかを記録し、それを評価する作法である。

日本生物物理学会が以前案内していた公開シンポジウムでも、「著者がAI、編集部もAI」という問いを出発点に、AIが関与した研究成果をどう評価・公開すべきかを議論するとされていた。

この「編集部もAI」というところがまた良い。AIが書いたものを、人間だけが審査するのではない。AIによる評価も混ぜてみる。もちろん、そのAI評価を人間がどう監督するのか、AI同士がもっともらしいだけの幻を増幅しないか、という問題はある。かなりある。

でも、だからこそ専門誌として分けて実験する意味があるのだと思う。既存の論文誌にこっそりAIを混ぜるより、AIが関わることを前提にした場を作る。そこで失敗も含めて記録する。これはわりと誠実なやり方に見える。

AI生成物をめぐる議論では、しばしば「これは本物か偽物か」「人間か機械か」という二択になりがちだ。だが、実際の社会はもう少し面倒である。人間がAIを使って書いたもの。AIが出した候補を人間が選んだもの。AIが発見したパターンを人間が解釈したもの。AIが書いた文章を人間が責任を持って提出したもの。混ざり方はいくらでもある。

その混ざったものを、全部まとめて不正っぽいものとして扱うのは雑だ。一方で、何もかも「人間の成果です」として通してしまうのも雑だ。

必要なのは、混ざったものを混ざったものとして扱う制度である。

AIを仮想人格と呼ぶと、少し話が大げさに聞こえるかもしれない。だが、実用上は、ある程度まとまった応答をし、提案をし、反論をし、文章を作り、設計を補助する存在になっている。完全な人格ではない。責任主体でもない。しかし、ただの文房具とも違う。

だったら、その中途半端さに名前をつけて、置き場所を作るしかない。

AI共著論文誌という発想は、そのための小さな実験場なのだと思う。AIを神棚に上げるわけでもなく、地下室に閉じ込めるわけでもない。研究という、責任と検証がうるさい場所に連れてきて、どこまで一緒にやれるのか試してみる。

AIを閉め出すより、席を作る。

もちろん、その席には名札だけでなく、責任の札も必要になる。誰が最終判断をしたのか。何を検証したのか。どこまでAIに任せたのか。そこを曖昧にしないための席である。

AI時代の知的活動は、たぶん「人間だけの純粋な成果」を守る話ではなくなる。人間とAIが混ざった成果を、どう記録し、どう評価し、どう責任を持つかの話になる。論文誌という古くて面倒な形式は、その面倒さを引き受けるには、案外ちょうどよいのかもしれない。