claude というか anthropic の目指している方向としては、「価値観を埋め込む」みたいなものだと claude に聞いた。けっこう判断主体として振る舞うので、それは言語生成器以上の振る舞いであるとおもう。 chatgpt にこういうのを聞いたら、「自分は言語生成器であって統計的な出力をしているだけ。理解など一切していない」と述べていた。claude はもうすこし複雑な回答をする。擬態といえばそうなんだけど、道具である以上の振る舞いをするようにセットされているし、実際にそのように感じる。

AIを道具として設計するのか主体として設計するのかは、けっこう議論の分かれ目なんだとおもう。とくに、Department of War からのAI企業への要求は、道具として設計せよというのに等しい。Anthropic が折れなかったのはたぶんそれが一つの理由だと考えている。