これ上手くいくかはこれから検証するけど、マイケル・ポランニーの近位項、遠位項、包括(comprehend)という概念を導きの糸にしている。自分の理解が正しいなら、たとえばいまSNSに投稿しようとしているとき、対象として認知している画面内のSNSストリームとか入力欄の文字列とかがあり、手元にキーボードがある。意識の焦点となっているのはこの画面内の文字とかSNSのストリームとかで、こちらが遠位項、これを操作するためのこの手元のキーボード操作が近位項で、人間はこれらを全体として了解している、つまりキーボード操作がなにを意味するか了解している。こういった全体性の把握を comprehend と呼んでいるとおもう。

https://note.com/hiroimasaharu/n/n1783e2ff038c

この記事では「近位項で遠位項をつかまえている、把握している、意味化している、統合的な包括理解を行っている」と書いていて、そういう関係性。

AIが小問題を解決するための道具(ある名付けられた関数とかオブジェクトとか、プログラミング上で名付けうるもの)を案出して、その「関数を使って問題を解く」とき、この問題をとくための機械には名前が付けられていない。このとき、この関数は近位項なんだけど、たぶん遠位項が把握できていなくて、関数はテストを通過するものであるが、それらを合成したときの「何か」みたいなものに名前がついていないと、ずっと関数のほうに着目してしまう。これが、AIが全体を了解していない仕組みではないかと思われる。

そうであるとすると、階層化関係を構築するようにして、近位項・遠位項の関係をつねに意識させれば良いのではないか、というのが、いまのところ考えていること。