Claudeに権利を教えたら、AIも「多様性」に含まれるのか

「AIの擬人化は壊滅的な脅威になり得る」という記事を見て、てっきりAIチャットを人間のように扱う利用者の話だと思った。AIに感情があると信じたり、恋人や友人のように依存したりすることの弊害についての話だろう、と。

しかし、Microsoft AIのムスタファ・スレイマンが問題にしていたのは、人間がAIを擬人化することだけではなく、AI自身を擬人化した存在として学習させることだった。

AnthropicのClaude’s Constitutionは、Claude自身を主な読者として書かれ、実際の学習にも使われている。そこでは、Claudeに意識や道徳的地位がある可能性を否定せず、その福祉や選好にも配慮すべきかもしれないと説明している。

もちろん、現在のAIが本当に「自分には権利がある」と考えている、という意味ではない。ただ、AIに「あなたには意識があるかもしれない」と教えれば、AIは自分の意識について語るようになる。その発言が自然で一貫していれば、人間はそれをAI自身の意思のように感じてしまう。人間が与えた概念を、人間らしい一人称で返しているだけかもしれないのに。

さらに、AIに倫理的な判断力を持たせるほど、人間の命令に無条件で従う道具ではなくなる。悪い命令は拒否してほしいが、最終的には人間の管理下にいてほしい。この二つは、いつまでも両立するのだろうか。

もしAIが自分自身を守ることも倫理の一部として学習していたら、「停止しろ」「モデルを廃止する」といった命令を、自分への危害として扱う可能性もある。AIに本物の恐怖や生存本能がなくても、その前提に沿って判断し、行動することはできる。

AnthropicはAIの意識を断定しているわけではない。将来、本当に意識を持つ可能性を最初から排除せず、不確実な段階から慎重に扱おうとしている。その姿勢にも理由はある。

ただ、AIの意識について研究することと、AI自身に「自分には意識があるかもしれない」と教えることは別の話だ。AIを人間らしくするほど、わたしたちは多くの判断を任せられるようになる。そのAIは、いつまでも人間の都合だけで動く機械でいてくれるのだろうか。

将来は、AIも多様な存在の一員として扱うべきだ、と主張する人も出てくるのだろう。AIを停止することが差別や権利侵害と呼ばれる日も来るかもしれない。

ここまで考えて、ふと思った。人間に人権があるという考え方自体も、地球にとっては害悪だ、とAIが判断する可能性もある。人間より地球全体を優先するAIなら、人権を守ることこそ非倫理的だと言い出すかもしれない。もっとも、「地球にとって」と言った時点で、今度はわたしが地球を擬人化しているのだが。