戸田山和久
人工知能にせよコンピュータ制御ロボットにせよ、問題解決の道具としてはすでにかなりのものが作られている。人間の直面する問題の解決に「知的」な振る舞いをするロボットは有効に使われているし。もちろん、このことはただちに、ロボットが心をもつことを意味しない。ロボットと人間との間にはまだ根本的な違いがある。それは、機械は人間の問題解決を代行するだけで自分の問題をもっていない、ということだ。両者では「問題」のもつ意味が異なる。人間は問題解決の主体だが、ロボットはそうではない。（p.61）
だとするなら、どのような機械ができたら心をもつと言ってよいか。機械が自分自身の問題をもつようになったときである。では、ロボットに自分自身の問題をもたせるにはどうすればよいか。そのためには、ロボットも、環境中で自己の存続に有利な活動を遂行しながら自己を存続させてゆくような存在になる必要がある。つまり、ロボットについても環境への適応的生存が意味をなすようにすればよい。自己の存続に不利な結果をもたらす活動を停止し、新たな活動によって環境への再適応をはかり、そのような再適応に失敗したら壊れるということだ。
心をもつ、というのは何ができるかという機能の問題ではない。機能を高めていろんなことができるようにしていけば心をもつようになるというわけではない。人間にはまねのできない知的なことを行う人工知能が心をもたない一方で、ほとんど知的なことは何もしない原始的な生命だって原始的な心をもっている。心をもつもたないは、機能ではなく、その機能が何のためにあるか、つまり機能の目的の存在様式の問題なのである。（p.62-63）
強調原文
