マレー・シャナハン
フェルミは質問する。「みんなはどこにいる?」と。
フェルミのパラドックスにはたくさんの解答が可能であり、ここで取り上げられないぐらいほど考えられる。そのうちの一つは、われわれがいまだに地球外知的生命体に出会っていない理由は、すべての高度文明は、その技術がある程度に達すると、自己消滅してしまうからだとするものである。真実であれば、この答えは穏やかではない。なぜなら、それは、経済学者のロビン・ハンソンがグレートフィルターと呼ぶような大異変がわれわれの未来に横たわっていることを暗示しているからだ。しかし、このグレートフィルターとはどんなものとなりうるだろうか? 核戦争だろうか? バイオテクノロジーの濫用もしくはナノテクノロジ-の事故だろうか? あるいは、敵対的な人工知能の製造だろうか?
おそらく、銀河のどこであろうとも、あらゆる文明のテクノロジーの発達は常に同じ道を辿るのかもしれない。ある文明のテクノロジーが一定のレベルに達すると、自己改善する汎用人工知能の製作が容易になる。ただ、その時点で、それを安全にする試みは克服しがたい障害に直面する。その危険が広く理解されていたとしても、この地球上のどこかの誰か(ドジな個人または組織)がいずれはそれを作ってしまうだろう。そこから、すべてはペーパークリップになり、すべては終わる。
『シンギュラリティ──人工知能から超知能へ』(p.249-250)