AIは自由市場からはみ出し始めた
【読むのに約 4 分】
https://www.anthropic.com/news/fable-mythos-access
Anthropicが、米政府の命令によりFable 5とMythos 5へのアクセスを停止する、という声明を出していた。
米政府は国家安全保障上の権限を理由に、Fable 5とMythos 5について、米国外だけでなく米国内の外国籍者も含め、外国人のアクセスを停止するよう命じたらしい。Anthropic側は、急にそんなことを言われても国籍ごとにきれいに制御できないので、結果として全顧客向けに一度止めるしかない、という話になっている。
めちゃくちゃである。
と、まずは思う。トランプ政権とAnthropicの関係はもともとかなりこじれている。軍事利用をめぐる制約、安全対策、政府機関からの締め出し、供給網リスク指定、裁判。そこに今回のFable 5 / Mythos 5のアクセス停止命令が重なっている。個別の政治案件として見るなら、また派手にやっているな、という感じだ。
ただ、少し引いて見ると、これはトランプ政権だけの奇行として片付ける話でもないのかもしれない。
最近は「国益」という言葉がかなり強くなってきている。
少し前までは、技術は世界全体のために使うべきだ、知識は共有されるべきだ、オープンであることが進歩を生む、みたいな言い方がそれなりに力を持っていた。もちろん昔から国益や安全保障はあったが、少なくとも技術者文化やインターネット文化の表側には、国境を越えた理想論がかなりあった。
しかし今は、それに対してだいぶ懐疑的な空気が強くなっている。
その技術を公開して、誰が得をするのか。自国企業が巨額の投資をして作ったものを、なぜ敵対国や競合国にも同じように渡すのか。自由な競争と言いながら、実際には自国の研究、人材、電力、資本を使って作った優位性を、ただで配っているだけではないのか。そういう問いが前に出てくる。
左派的な国際協調や、世界全体の幸福のために利益を無償配布しましょう、みたいな大義名分が弱くなっているのだと思う。全体主義的な善意というか、現実を見ない理想論として扱われやすくなっている。もちろん、それが全部間違っていたという話ではない。でも、そういう理想論だけで突っ走る時代ではなくなってきている。
AIはその変化がかなり直撃する。
チャットAIとして見れば、ただのWebサービスに見える。月額料金を払って使う便利な道具。文章を書く。コードを書く。調べものをする。表を作る。画像を読む。スライドを作る。日常の知的作業を便利にしてくれるサービス。
しかし能力が上がりすぎると、そういう見方だけでは収まらなくなる。
AIは、サイバー攻撃にも防御にも使える。軍事にも行政にも金融にも創薬にも研究開発にも使える。産業競争力そのものにもなる。世論操作にも使える。教育にも使える。人間が知的労働と呼んでいた広い範囲に入り込む。そうなると、それはもうただのWebサービスではない。
半導体や暗号技術や核関連技術のように、戦略物資として見られ始める。
今回のFable 5 / Mythos 5の件も、その文脈で見ると少しわかる。
Anthropic側は、Fableの安全策はかなり強い、政府が問題視しているjailbreakは限定的で、他社モデルでもできる程度のことだ、と主張している。たしかに、狭いjailbreakひとつで商用モデル全体を止めるのはかなり乱暴に見える。
一方で政府側から見ると、最強クラスのAIモデルが外国籍者にも普通に使える状態は、それ自体が危うく見えるのだろう。モデルの出力が直接武器になるとは限らない。それでも、研究、解析、攻撃、防御、設計、調査、作戦支援、あらゆる知的作業の増幅装置になる。ならば、それをどこの誰にでもAPIで売るのは本当に自由市場の話なのか、という疑いが出てくる。
AI技術の価値が高まりすぎて、自由経済競争の枠外に飛び出してきている。
昔なら、よいソフトウェアを作った会社が世界中に売る。便利なWebサービスを国境なく提供する。それでよかった。少なくとも、多くの場合はそういう建前で動いていた。
しかしフロンティアAIは、もうその建前だけでは扱いにくい。どの国の資本で作ったのか。どの国の電力を使ったのか。どの国の人材が作ったのか。どの国の企業が利益を得るのか。どの国の軍や企業や研究機関が能力を得るのか。そういう問いが重くなる。
そして、国益という言葉が出てくる。
国益という言葉は便利だ。便利すぎる。便利すぎるので、かなり雑にも使える。政権にとって都合の悪い企業を殴る口実にもなる。競争相手を排除するための道具にもなる。安全保障というラベルを貼ると、だいぶ強引なことも通りやすくなる。今回の件も、その匂いはかなりある。
ただし、それでも、AIが国益の話になること自体は避けられないのだと思う。
人類のためのAI。世界全体の知的生産性を上げるAI。そういう言い方は美しい。私も嫌いではない。でも、それが本当に各国政府の判断として成立するかというと、たぶんかなり怪しい。自国の企業が作った強力なAIを、敵対国の企業や研究者や軍関係者が同じように使える状態にしておくのか。そこに「いや、それはちょっと」と言い出す国が出てくるのは自然だ。
つまり、AIは自由市場からはみ出し始めた。
もちろん、完全に国家管理されたらそれはそれでつらい。イノベーションは遅くなるだろうし、規制の名を借りた政治的な嫌がらせも増えるだろう。大企業と政府に近い企業だけが残り、スタートアップやオープンソースが不利になる可能性も高い。国益という言葉で守られるものもあれば、国益という言葉で潰されるものもある。
それでも、フロンティアAIをただの便利なWebサービスとして扱う時期は、そろそろ終わりつつあるのかもしれない。
チャット欄で「今日の夕飯なににしよう」と相談している同じ技術が、国家戦略や軍事や産業競争力の話にもつながっている。そこがAIのややこしさだ。
便利な相談相手であり、仕事道具であり、検索の代替であり、コードを書く相棒であり、同時に戦略物資でもある。
そりゃ揉める。
Fable 5がいつ戻るのかはわからない。裁判でひっくり返るかもしれないし、米国人や認定ユーザー向けに段階的に戻るかもしれないし、ログ保持や本人確認が重くなった形で復活するかもしれない。
ただ、今回の件でひとつ見えたのは、AIがいよいよ「誰でも使える便利サービス」から「誰に使わせるのかを国が気にする技術」になってきた、ということだと思う。
自由市場の外側に、少し足が出ている。
片足だけで済むのか、もう全身引っ張り出されるのかは、これからの話である。