たぶん、AIにマリオのプログラムを読ませても意味を把握できないけど、それを画面から操作させれば把握できるはず(画面も操作UIも仮想化されていてよい)。

自分の理解するかぎりでは、こういう行為における認知みたいなのがエナクティヴィズムで、ソフトウェアの embodiment も理論的源流はたぶんここにあるはず。 https://ja.wikipedia.org/wiki/身体化された認知