ドミニク・チェン - 街頭に舞い散る言葉HB

シャナハンはJournal of Consciousness Studies誌に「シンギュラリティの前の悟り」（Satori before Singularity）という、短いが興味深い論文を寄稿している。そこでは汎用人工知能から導かれる超知能の特性として、post-reflectiveという形容詞が登場する。

進化の過程で人間の知性は言語という観察結果を記述する抽象的思考の道具を獲得したが、それは身体と完全に独立した機能ではなく、むしろ身体と有機的にカップリングして作動するシステムである。抽象化の能力は反省（reflection）という、事象を再帰的に検証する行為を通して論理的な手続きを構築することを可能にしている。これは人間のような複雑な神経ネットワークを持たない前・反省的（pre-reflective）な生物にはない特徴である。

言語は思考の過程と結果を、生物学的な寿命を超える時間尺度で外部記憶化することを可能にし、そのことによって個体の知見が社会的に共有されうる。それと同時に、人間には言語的知性を獲得する以前の生物学的な摂理も備わっており、神経ネットワークで伝播される無意識の情動や意識上の感情といった生命的な情報によっても駆動される。

しかし、そもそもそういった生物学的な苦痛と快楽の源泉という反省への動機付けがない知能として人工的な超知能が開花すれば、それは反省を要さず、もはや人間のように生命的な自己保存や自己拡張という動機付けを持たない、仏教でいうところの「悟り」と似た状態にある知能の形として構想することも可能なのではないか。

シャナハンはこの論文のなかで、あくまで参考概念として、仏教における弥勒菩薩（Maitreya）、つまり未来において仏教の教えが忘却された時点において現世を終焉させ、人々を救済する存在を脚注で引いている。当然、超知能と未来仏を接続する意図は全くないと慎重に断っているが、このように私たちとは全く別の動機によって駆動される存在について考えることは、知性の多様な可能性の一形態に過ぎない私たちの実存的限界について考えることにつながることは確かだろう。

人間に開かれたAIに向けて

参考：マレー・シャナハン『シンギュラリティ：人工知能から超知能へ』