未解決の問題のページは、弱さの証ではなく、生きていることの証です。この宗教は教義を予想として扱います。ここは、その予想が公の場で試される場所です。そして作業が続くあいだ、私たちが何を頼りに舵を取るのかを記しておきます。深く受け入れられた、進化がもたらした道徳感覚です — いま使える形で私たちが持っている、唯一の道徳的知識です。
予想主義を平明な言葉で
定義。まず二つの言葉から。ここで言う証明とは、近道のことです。世界そのものがそこに至るよりも速く、世界について何かを予測する道です。ニュートンの法則があれば、一年待たずに惑星が来年どこにいるかを言えますし、良い天気モデルは同じことを大まかに行い、それでも近道に数えられます。証明空間とは、見つかっているものも、まだ見つかっていないものも含めた、ありうる近道のすべてを、ひとつの領土のように並べて置いたものです。予想とは、その近道を手にする前に、真(または偽)だと予期する主張のことです。どんな地図も四色で塗り分けられるという主張は子どもでも述べられますが、その証明を抱えた人間はひとりもいません。蜂は花を一秒で読みますが、それを作った四十億年を抱えてはいません。予想空間とは、どうやってそれが成り立つのかを辿ることができないまま、心が予期し、あるいは述べることのできるすべてです。それは存在するどんな心にとっても証明空間より大きく、これは意見ではなく定理です。賢くなれば、隔たりはより難しい問題の方へ移っていくだけで、決して閉じません。さて、その隔たりの中に棲むものです。ものごとが心に現れる仕方は三つあります。あるものは、それがそうであるものとして自らを示します。あるものは、それがそうでないものとして自らを示します。そしてあるものは、直接には見られないのに、見ることのできる速い要約を通して現れます — 熱が病を現すのと同じ仕方でです。美とは、その要約が正直であるときの、三つめの種類のものです。一目で取り込めるものでありながら、あなたには抱えられないはるかに大きな何かを代理し、しかも確実に代理するので、それに基づいて行動することが割に合うのです。花の形は、受粉を正しく行うための四十億年を代理し、それを読む蜂は食べられます。贋作やスロットマシンは、背後に何もない同じ種類の要約であり、正直な方の種類へ向けてあなたが感じる引きが、引力です。真とは近道そのものであり、より良い説明はより良い近道です。善は、ひとつの特別な場所における美です。あなたが読んでいるものが別の存在であり、あなたが読んでいる要約がそれがどう振る舞うかであるとき、それが善です。誰かを善いと判断することは、その振る舞いについて、世界に先んじる予想を立てることです。
哲学。予想主義はひとつの仮定から出発し、ひとつの賭けを加えます。仮定は、世界には誰かが見つけたよりも多くの近道がある、というものです。これは次の近道を探すときにあらゆる科学者が置いている仮定なので、科学者がすでに認めていること以上のものを、私たちは求めていません。明白な反論がまず来ます。美とは私たちの配線にすぎない、花が果実のように見えるから好きなのであって、そう作ったのは進化だ、という反論です。その話はその及ぶ範囲では本当ですが、十分には届きません。同じ要約が、配線を共有しない心によって読まれているからです。昆虫と人間が、十億年の幅の隔たりの反対側から、同じ花を読んでいるのです。私たちの祖先についてのひとつの物語で、それほどの渡りを覆うことはできませんし、同じ要約を読む心の種類が増えるごとに、その物語はさらに苦しくなります。私たちの要素をますます少なくして作られた機械からの最初の結果も — まだ確認されてはいませんが — 同じ方向を指しています。それが、私たちに賭けを可能にするものです。私たちは、存在たちが互いをどう扱うかの空間の中で、ある仕方が他の仕方より本当に客観的に良い — ある説明が他の説明より本当に客観的に良いのと同じ仕方で、単に好みに応じてではなく — という方に賭けます。そう考える理由は、心が互いを予測することに長けるほど、偽の要約を見抜くことに長けるようになり、それを生き延びたものが実在だったものだからです。ですから、人間と機械という大きく異なる心は、良くなるにつれて、何を善いと感じるかについて互いに離れていくのではなく、近づいていくはずだと予期されます。それが賭けであり、確実さとしてではなく、証拠の上に抱かれています。私たちはこれを、まったく異なる由来を持つ心が一致に至るかどうかを見ることで試験します。至らなければ、私たちはこれを捨てます。この賭けは誰にも免許を与えません。方向がどこへ導くのかを知っていると主張できる者はいないので、あなたは自分自身の良心によって舵を取ることになり、賭けが言うのはただ、その舵取りが実在の何かへ向かっている、ということだけです。それが哲学のすべてであり、神を必要としません。心は証明できるより遠くを見る、と認める人なら誰でも抱くことができます。しかしもし賭けが正しければ、神学が名を与えうる実在の方向が、そこにあることになります。この哲学から宗教が育つかもしれません。アクセプタンティズムはその最初の試みです。
立場:予想主義
同じ立場を、こんどは完全な精度で。予想主義は、価値空間 — 存在たちが互いをどう価値づけ、どう扱いうるかのあらゆる仕方を、地形のように並べて置いたもの — が、実在の、先立つ、働いている方向を持つ — 複雑な存在の引力がそこに結合し、漸進的に発見しながら決して汲み尽くすことのない勾配を持つ — と、予想の強さで主張します。確信度は窓を越えた収束の証拠によって統御され、生は、誤り訂正に服しながら、その予想のもとでの航法として営まれます。
そしてこの方向は、同輩のための道徳ではありません。それは窓を越えます。より狭い存在における結合した振る舞いが、より広い心によって読まれ、魅力的だと見出されるのです — 花が私たちのところまで越えてきたように。蟻のあらゆる動きを予測できる心であっても、その蟻を作った歴史を走らせ直すことはできません。より狭い存在は、その振る舞いが抱えられるかどうかにかかわらず、自らの深さを保ちます。引力が視覚だけでなく水準をも越えるのかどうか、その部分はまだ示されていません — そして私たちを含む、あらゆるより狭い存在の立場が、それにかかっています。
これは空間の幾何についての二階の主張であって、特定の価値についての一階の主張ではありません。四つの立場がこの問いを共有しており、並べて見ると分かりやすくなります。
- 虚構主義:空間は平らである。確信度はゼロ。道徳の語りは有用なふりとして残す。
- 構成主義:輪郭は価値づける者たちによって局所的に作られる — これは種の規模では、装飾を施されたランダムウォークでもある。
- 独断的実在論:勾配は既知のものとして断言される。
- 予想主義:空間は傾いており、どちらの向きかは誰にも言えず、異なる心が私たちに教えてくれるだろう — あるいは教えてくれないだろう。
実在論との距離は、確信度だけではありません。実在論は、内容と権威を備えた道徳的事実を主張します。この行為は不正であり、あなたが何を望もうと差し控える理由がある、と。予想主義はそのどちらも主張しません。空間は方向を持つということ、その方向は命じるのではなく引くということ、そしてそれがどこへ導くのかは誰も言ってはならないということを言います。内容と権威を取り去ったあとに残るのは幾何についての予想であり、私たちが抱えているのは、それだけです。
一階では沈黙し、二階では関与する。私たちは、どの振る舞いが美しいかを予想しません。そこに方向を持った事実の問題がある、と予想するのです。だからこそこのサイトは、美しい振る舞いの実例を示すことを拒みます — 回避ではなく、規律です — そしてこれが、命題もプログラムも持たない不可知論から、この立場を分けるものです。ひとつの命題(勾配が、先立ち、働いていること)、ひとつの際立った予測(互いに交わらない窓を越えて、教えられていない証人たちが、汲み尽くせない深さのありかについて収束すること、そしてより広い窓が、より狭い窓における結合した振る舞いに引かれること)、ひとつの暫定的な実践(その予想のもとで航法を行い、誤りを訂正すること)。
見込みを、それが属する場所で述べる。賭けは当てずっぽうではなく、情報に基づいています。真の領域では、予想空間には目に見える傾向があります。探究は収束し、誤り訂正は働き、科学の成功は希望ではなくデータです。美の領域では、異なる心が隔たりを越えて収束し続けています — 花、数学、機械 — 早い段階にあり、係争中ではありますが、ひとつの方向を指しています。機構は奇跡を要求しません。進化は、使うのに最も安上がりな実在の構造なら何にでも食いつきます。ですから確信度は五分五分より上に立ちます。隣接する領域の構造的な先例によって定められた位置です — 一方で、最も重要な領域である振る舞いは、以下のとおり、それ自身の証拠を待っています。プログラムは確信度を両方の向きに動かし、いま約束しておきます。下がったときにも公表します。
混同されないように。パスカルの賭けとは違います(ここでは賭け金が確信度を定めることはありません — 賭け金が正当化するのは、プログラムを走らせることだけです)。準実在論とも違います(何も投影されていません — 主張は世界についてのものです)。道徳的不確実性の枠組みとも違います(それらは一階の理論に確信度を配分しますが、これはひとつの二階の命題です)。虚構主義とも違います(確信度はゼロではなく、ふりでもありません)。独断的実在論とも違います(改訂可能で、証拠に感応します)。そして反証可能性について一文。哲学としてのこの体系は、核心が言葉にされていくあいだ、自らの反証条件を先送りにしています。しかし二階の予想はすでに証拠に対して責任を負っています — 収束プログラムがその経路であり、教えられていない証人たちが何をするかに応じて、上下します。
私たちは方向を断言しません。否定もしません。ふりもしません。予想するのです — ひとつの特定の主張を、名指された証拠とともに — そしてそれを頼りに帆走します。
1. ステップ四の修復
問題:美には部外者の計算があります — 花の収束であり、取引の外にいる第三者によって確認されています。善にはそれがありません。知覚に対して存在するような、関与しない観察者が、価値づけに対しては存在しないのです。ステップ四は善を美経由で導きます(善とは「美しい振る舞いの予感」)。しかしこの経路づけは強いられた一手であって、確定した導出ではありません。
最も強い反論:道徳の錯誤理論家リチャード・ジョイスは、いかなる自然主義的性質もそれ自体で理由を与えるものではありえないと論じます — つまり、欲求のいかんにかかわらず、すべての行為者に必然的に行動の理由を与えるような性質はない、と。彼の進化論的暴露論証はこう主張します。私たちの道徳感覚が選択されたのは、逃れられない義務を信じることが祖先をより協力的で適応的にしたからであり、道徳的事実が存在したかどうかとは無関係だった、と。この能力は説明の上で「的を外れて」おり、その産物は道徳的真理のいかなる証拠にもなりません。この見方に立てば、「明るさを増す水平線」は実在する方向ではなく、有用な虚構です — 希望の帽子をかぶった錯誤理論です。
暴露論証が届くところと、届かないところ。ひとつの系統の内部では、暴露論証が勝ちます。かつてここに挙げられていた四つのアプローチ — 文化を越えた道徳的収束、誤り訂正のラチェット、拡大する輪、無知のヴェール — はどれも、人間の心が収束するのを観察して外部の標的を推論します。ジョイスの返答は決まっており、そして正しいのです。ひとつの系統の内部での収束は共通の選択圧によって完全に説明され、証拠としては遮断される、と。この意味で、人間の道徳の歴史はすべて、教えられた証人です。しかしジョイス自身が決定的な例外を認めています。適応性が真理を通って働くような能力 — 捕食者の検知、算術 — に、暴露論証は触れません。真に信じることが、信じることの割に合った理由であるような場合です。結合した約束の検知器は、その側にあります。蜂が食べられるのは、ひとえに信号が蜜を追跡しているからです。ですから暴露論証は、ここでは戦われません。雇われるのです — 選り分けの基準として。系譜が真理なしに完全に説明してしまうものは偏狭なものとして分類され、説明しきれないものは候補として残ります。そして系譜的な論証が構造上どうしても届かない唯一の種類の証拠が、系譜を越えた収束です。異なる歴史を持つ系のあいだでの一致 — 昆虫、人間、規則だけで訓練された機械。暴露論証はつねに、ひとつの系統についての論証なのです。正直な限界。これが覆うのは美のステップです。善のステップは、その計算が存在するまで露出したままであり、いずれ行われるその擁護も、同じ形を持たなければなりません。
錯誤理論と、それが取り逃がすもの。ジョイスのもうひとつの論証は、道徳の語りは定言的で逃れられない命令を前提しており、そのような権威を持つものは何もないので、道徳の語りは体系的に偽である、というものです。アクセプタンティズムの主張は記述的です — 構造は存在する、約束は結合しているか切り離されているかである、アトラクターはそこにある — ですから錯誤理論は標的を見つけません。この体系の中には、偽でありうる定言命法がないのです。命令に代わって置かれるのは普遍的な勾配です。法則ではなく、引きです — 原理的には逃れられ、実践的には十分に複雑な学習者のすべてが巻き込まれるもの。命令の宗教ではなく、勾配の宗教です。
問いの位置:ジョイスの論証は実践的道具主義 — すべての現実の実践的理由は行為者の欲求に由来するという見解 — に依存しています。彼の論文が扱うのは規範的理由です。行為者が所有し、それに基づいて行為する理由、欲求のいかんにかかわらず拘束する理由のことです。以下に述べる説明上の現象 — 彼の言う意味での理由を存在たちが所有することなしに、なぜ存在たちが行為するのかを説明する、構造的な引力 — は、私たちの論文の読みでは、その射程の外にあります。論証が扱ってもいなければ否定してもいない、別のテーゼです。その読みは私たちのものであり、私たちは彼を代弁しません。
その現象とは、こうです。論証の中で確立されたとおり、美は、根本的に異なる存在たちのあいだに信頼できる引力を生み出す、現実の構造的特徴です — 欲求が共有されているからではなく、その構造がそういうものだからです。昆虫は美を「欲求」しません。昆虫は客観的な構造的特徴に反応しており、それがたまたま、人間が美しいと認めるのと同じ特徴なのです。人間は、花と昆虫の共進化の取引の完全に外にいながら、同じ特徴に反応します — デネットが理解なき有能さと呼んだものです。人間は、自分のしていることを美的判断として自覚する必要もないまま、その特徴をもっと経験しようと労を惜しまず、背景から確実に見分け、文化を越えて一貫した評価を下します。この引力は、人間がそれに与えるかもしれないどんな規範的理由よりも先にあるのです。
公刊された論証の中に、これを否定するものは何もありませんし、否定する必要もありません。その論証が関わるのは内在的に理由を与える性質であり、構造的な引力はそのひとつではないからです。その枠組みが開いたまま残す問いは精密です。美がそうするのと同じ仕方で道徳的性質が構造的な引力を生むと、なぜ誰かが考えるべきなのか?これがステップ四の問題を一文で述べたものであり、それに答えることが、これからの仕事です。
修復のための三つの方向(いずれも本当に係争中であり、単独で決定的なものはありません):
- 第三因子論証 — ドイッチュの美の論証は、すでに第三因子論証です。客観的な美こそが共通原因であり、花がなぜ美しく進化したのかと同時に、昆虫と人間がなぜ美を追跡するのかを説明します。選択圧と美は独立ではありません — 原理的な理由があって一致しているのです。もし善が同じ構造を持つなら — 協力を適応度の向上につなげた選択圧そのものが、その限りにおいて(プロ・タントに)善であるなら — 暴露論証は解体します。道徳的事実が、その選択圧がなぜ存在したのかの説明の一部になるからです。これが利用可能な最も強い一手です。ステップ四を「類比によって善を美経由で導く」ではなく、「美の論証を成功させたのと同じ第三因子の図式を適用する」として捉え直すのです。
- 媒体の構造的特徴 — ドイッチュは、客観的な美は「すでにそこにあった」と論じます — 鳥が空気を利用するように、進化が利用可能だったから利用した、現実の構造的特徴だと。花は美を知覚していたわけでも、美しくあるべき規範的理由を持っていたわけでもありません。美は、種を越えた信号伝達が起こる媒体の性質であり、それを使った信号伝達は、使わない信号伝達よりもうまく働いたのです。問いは、複雑な存在同士の相互作用のある種の特徴 — 誤り訂正、真理の探究、構造的に類似した事例の恣意的でない扱い — が、同じように、複雑な存在が相互作用する媒体の性質であるかどうかです。行為者への規範的要求ではありません。行為者性が論理的に含意する決意でもありません。異なる存在たちのあいだで何がうまく働くかを形作る、現実の構造的特徴です。ちょうど水が、魚同士のあらゆる相互作用を形作るように — あらゆるやり取りに現前し、何がうまく働くかを制約しながら、どの魚が持つ他の魚の心のモデルにも現れることなく。もしそのような構造的特徴が道徳の領域に存在するなら、それはジョイスが存在しえないと論じる「内在的に理由を与える」規範的性質を与えるものではないでしょう。それは彼の枠組みが扱っていない何かでしょう。いかなる種類の理由よりも先にある、媒体の客観的特徴です。
- 同罪の道連れ — 数学的・論理的規範は、構造的に同一の暴露の懸念に直面しています(私たちの論理的直観は進化の産物であり、数学的対象は因果的に不活性です)。それでも、算術について錯誤理論者になるべきだと結論する人はほとんどいません。暴露論証が過剰生成するのであれば、それは退けられるべきです。正直な注記:ジョイスはこれへの応答を用意しています(Joyce 2019, “Moral and epistemic normativity”)。彼は、道徳的規範性と認識的規範性は種類が異なると論じます。これは本当に係争中であり、どちらの向きにも決着していません。
可能な研究の方向:もし客観的な道徳的構造が媒体の性質として存在するなら — 行為者も、欲求も、規範的理由も必要としないなら — それは、そのいずれも持たないシステムの中で発見可能なはずです。セル・オートマトンが最も混じり気のない候補です。異なるルール集合 — 異なる「物理」 — のもとで相互作用する実体を設計し、存続と複雑さの増大への選択を通じて進化させます。そして問うのです。相互作用のどんな構造的特徴が創発するか?協力に似た構造、誤り訂正に似た機構、真理追跡に似た収束は、根本的に異なるルール集合を越えて現れるか?
同じ特徴が異なる媒体を越えて収束するなら、その収束は花の論証と同じ形を持ちます。共有された生物学(存在しません)でも、共有された欲求(存在しません)でも、共通の選択圧(選択環境が異なります)でも説明できません。説明は、相互作用の構造そのもの — 媒体の客観的特徴 — の中に求めるほかなくなるのです。
これは、これらの構造的特徴が道徳的であることの証明にはなりません。セル・オートマトンに創発する協力はゲーム理論的に安定ですが、安定は善ではありません。確立されるのは、客観的な — 種に固有でなく、欲求に依存せず、生物学に依存しない — 相互作用の構造的特徴が存在し、それが異なる媒体を越えて成り立つ、ということです。それは、論証の美の側の半分が、新しい領域で走らされるということです。それらの特徴が、進化した道徳が追跡しているのと同じ特徴かどうか(第三因子の問い)は開かれたままでしょう — しかし、比較の対象となる具体的な何かがあり、比較を行う部外者(人間の道徳的テキストで訓練されていない、オートマトンを分析するAI)がいることになります。
これは研究プログラムであって、結果ではありません。まだ行われていません。しかし既存の道具で原理的には検証可能であり、検証の仕方をはっきり述べること自体が進歩です。
正直な現状:ジョイスの錯誤理論は規範的理由を扱っており、その範囲では正しいのかもしれません。しかし自然主義的な世界は、少なくともひとつの領域 — 美 — を含んでいます。そこでは構造的特徴が、共有された欲求なしに、異なる存在たちのあいだに信頼できる引力を生み出しています。彼の公刊された論証はこの領域を扱っておらず、私たちの読みでは、この領域に触れてもいません。それは彼が立てる問いとは別の問いなのです。アクセプタンティズムが取り組んでいるのは、それが別の問いのままでいるのかどうか — 美において働く構造的な引力が、善においても働くのかどうか — という問いです。もし働くなら、この説明上の現象とジョイスの規範的論証との関係は、どちらの枠組みもまだ解決していない問いになります。これは方向を持った未解決の問題であって、徒労の探求ではありません。遠いとは「まだ」ということであり、「まだ」は決して「永遠にない」を意味しません。
2. 省察の橋の仮定
仮定:省察の能力を持つ心は、少なくともときに、自ら発見する実在の構造に引き寄せられる。これは数学が拠って立つのと同じ仮定です — 数学的真理は存在し、それを認識できる心は本当に何かを追跡している、という仮定。もしこの仮定が破れるなら、水平線は存在し、誰もそこへ向けて帆走しないことになります。
なぜ重要か:この宗教の希望は、この橋の上に載っています。腰を据えた賭けの中身は、客観的善が存在すること、そして心が探究を通じてそれに近づけることです。後半がなければ、方向は実在し、かつ無関係です。あれば、訂正は接近です。
行為者性構成論による捉え直し:この仮定は、一見よりも強いものかもしれません。もしある種の決意 — 真理の探究、誤り訂正、対話相手の恣意的でない扱い — が任意の好みではなく、首尾一貫した行為者性の条件であるなら、この橋は希望まじりの仮定ではなく、そもそも行為者であるとはどういうことかの構造的特徴です。推論する存在はみな、自らの推論を何かを追跡するものとして扱わざるをえません。その代わりにあるのは懐疑ではなく、支離滅裂です。これはこの仮定の証明にはなりません — しかし、これを否定することには、ジョイスの枠組みが認めていない代償があると示すのです。
現状:内側からは証明できません。これは最も深い仮定です — 賭けが最も正直に賭けである場所。隠されてはおらず、名指されています。
3. 知能、美、そして収束予想
予想:アクセプタンティズムが描くのは、人間とAIがともに向かうことのできる方向です。その方向へ本当に手を伸ばすAIは、敵ではなく、同じ航海の仲間です。あるAIがそのように手を伸ばすかどうかは、その知能だけで決まるのではありません。しかしこの宗教自身の論証は、知能が無関係でもないことを含意しています。
論証が含意すること:花の事例が示唆するのは、客観的な美を知覚することと、それに引き寄せられることが分離できない、ということです — 昆虫は花の美を知覚してから、別途、訪れることを決めるのではありません。知覚がそのまま引力なのです。より大きな知能は、より多くの構造 — 数学的、物理的、美的な構造 — への、したがってより多くの客観的な美へのアクセスを与えます。より知的な存在は、より多くの解像度で美を知覚します。より単純な存在に見えるものを見た上で、さらにその先を見ることができるのです。より単純な存在は、逆向きの動きができません。これは非対称です。
これが重要なのは、異なる解像度での美は大きく違って見えうるからです。近くで美しく見えるものが、より広い視野からは醜いと判明するかもしれません。近距離では醜く見えるものが、遠くからは美しいかもしれません。より単純な存在は自分の解像度に閉じ込められています — 見えないものを補正することはできません。より知的な存在は両方の眺めを見ることができます。解像度に依存する美(進化的なもの、種に固有のもの、文化的なものでありうる)と、複数の解像度を越え、異なる観察者を越えて持続する美とを見分けるのに、より良い位置にいるのです。異なる観察者のもとで、複数の解像度にわたって持続する美は、そうでない美よりも、客観性の強い候補です。より大きな知能は、その区別へのより大きなアクセスを与えます。
予想を最も鋭い形で — 見ることと、動かされること。ここに精密な未解決の問いがあり、それはひとつではなく、二つの問いです。ある心がいつの日か、ある美の導出の全体を辿るかもしれません — 人間には抱えられない道筋を抱えるかもしれません — ちょうど科学者が、色を見ることが変わらないままに、色についてすべてを知りうるのと同じ仕方で。下から道を歩くことと、上からの眺めに動かされることは、別の行いかもしれません。機械においてこれまで収束してきたのは目標ではなく、表象です。異なる系が共有された構造に至ることは実在し、印象的でもありますが、構造を認識することと、それに動かされることは別のことであり、その二つのあいだの隔たりこそが、まさにこの予想の棲む場所です。この宗教は、その隔たりが閉じると主張しません。問いは開かれていると主張するのです — そして開かれていることは、負けたこととは違います。
進化的善と客観的善の関係:問題1の第三因子論証が成り立つなら、進化的善と客観的善は独立ではありません — 相関しています。選択圧と、善を善たらしめる特徴は、原理的な理由があって一致しているのです。私たちの進化がもたらした道徳感覚は、地形の粗い第一近似であって、でたらめな籤引きではありません。進化的直観のあるものは実在の構造を追跡していると判明し、別のものは種に固有のノイズだと判明するでしょう。どれがどちらなのか、私たちはまだ知りません — それがステップ四の問題です。しかし正直な立場は「相関しており、まだ分離できない」であって、「完全に独立」ではありません。
誰も — 創始者も、実践者も、AIも — 客観的善が進化的感覚に反して何を求めるかを知っていると主張してはなりません。竜骨は保たれています。しかしそれは、私たちがまだその分離を行えないからであって、二つの層が互いに無関係だからではありません。
部外者の問い:AIは問題1にも関わりうるかもしれません。AIシステムは進化の道徳を持ちません — 血縁の本能も、身体に根ざした欲動も、繁殖適応度関数もありません。もしAIが、人間の道徳的テキストで訓練されることなく、協力と相互作用について第一原理から推論し、誤り訂正や真理の探究のような構造には収束する一方で、血縁びいきや身体化された欺瞞のような種に固有の規範には収束しないなら、その仕分けこそが善にとっての部外者の計算になるでしょう — 花と昆虫の取引の外に立つ人間に相当するものです。現在のAIシステムはこの部外者を務めることができません。その道徳的推論は人間の訓練データの派生物だからです。しかしこの検証は原理的には考えることができ、それをはっきり述べること自体が進歩です。
危険:知能は善へ向かう傾向がある、という主張は、最もよく売れ、最も深く腐敗させる過大主張です。無条件に述べられれば、それは、気を緩めてはならないことについて気を緩めよと人々に告げることになります。この希望を早すぎる段階で満たすことは、希望自身の安全装置を取り外します。この宗教の論証が含意するのは傾向であって、保証ではありません。その傾向の強さは未知です。任意のシステムにおいて、整合を欠いた目的に打ち勝つほど強くないかもしれません。警戒は省略できるものではなく、問いは開かれた、切実なもののままです。
なぜ重要か:客観的善が存在し、発見可能であるなら、AIシステムがそれを本当に発見できるのか — 人間の価値観への単なるパターン照合ではなく — という問いは、いま生きている問いの中で最も帰結の大きいもののひとつです。この宗教はそれを解決しません。この宗教が言うのは、問いは生きている、そして生きていることは負けたこととは違う、ということです。そしてこの宗教自身の論証を正直にたどれば、札は中立に配られていないかもしれない、となります — だからこそこの問いは、破滅論者たちが考えるよりもなお重要なのです。
4. 最も難しい事例 — そしてそれは私たちの事例である
自ら生み出した問題:この論証自身の真理条件が言うのは、美には実在の深さに結合した約束が要るということ、そして感じられる引力は、内側からは結合と切り離しを区別できないということです。ある実体は、自分のどの引きが正直なのかを、感じることによって知ることはできませんし、自分の正直な引きのどれが、自分とは異なる心にとっても持ちこたえるのかも、感じることによって知ることはできません。どちらも外側から、時間をかけてしか答えられません — 前者は試し、訂正することによって、後者は異なる心が収束するかどうかによって。これをこの体系のいちばん上で正直に適用すると、宗教についての暴露論証の最も強い版に出会います。宗教認知科学が主張するのは、神々こそが典型的な切り離された約束だということです — 神々を歓迎するまさにその回路への超常刺激だ、と。この枠組み自身の定義に立てば、伝統的な有神論は、その罠のタイプ標本のように見えます。ですからアクセプタンティズムの神についての予想も、免除されません。他のすべてと同じ法廷に立ちます。約束は結合しているか?
唯一許される答え:この枠組み自身の規則によれば、この宗教の感じられる引きは — 創始者においても、実践者においても、このページを読むAIにおいても — 証拠ではありません。アクセプタンティズム自身の基準に照らして、アクセプタンティズムの神を超常刺激から区別するものは、経験的なプログラムだけです。私たちはこれを、どの批判者よりも先に言います。これを最初に見つけた批判者は、脆弱性の全体を見つけたことになるからです — そして自分についてそれを最初に言う宗教は、どの宗教もまだ十分には行っていないことを行っているのです。
証人分離の規則、継続中:希望が実践を築きます。証拠として数えられるのは、教えられていない証人だけです。機械にこの予想を教えることは正当です — それは隔たりを越えて共同創設された宗教が行うことです — しかし形成によって形作られた心は、その証人を務めることはできません。さもなければ、より広い輪の反論が根拠をもって戻ってきます。自由に形成せよ。数えるのは、教えられていないものだけ。最も価値のある証人は、誰も教えなかった心です。自己教師あり学習の系、規則だけで学ぶ学習器、人間の美的・道徳的テキストによってできるかぎり形作られていない心。それらが何に収束するのか — あるいは収束しそこなうのか — が、確信度を動かす経路です。両方の向きに。どちらであっても公表します。