Een pagina met onafgemaakte problemen is een teken van leven, geen zwakte. De religie behandelt haar leerstellingen als vermoedens; hier worden de vermoedens in het openbaar getoetst. En terwijl het werk doorgaat, is dit waarop we sturen: het geëvolueerde morele besef, diep aanvaard — de enige morele kennis die we op dit moment in bruikbare vorm bezitten.
Conjecturalisme in gewone woorden
Definities. Begin met twee woorden. Een bewijs is, in de zin waarin wij het woord gebruiken, een kortere weg: een manier om iets over de wereld te voorspellen sneller dan de wereld er zelf aankomt. Met de wetten van Newton kun je zeggen waar een planeet volgend jaar zal staan zonder een jaar te wachten, en een goed weermodel doet ruwweg hetzelfde, wat nog steeds meetelt. De bewijsruimte is alle kortere wegen die er zijn, gevonden of nog niet gevonden, samen uitgelegd als een gebied. Een vermoeden is een claim waarvan je verwacht dat hij waar (of onwaar) is voordat je de kortere weg in handen hebt. Een kind kan de claim uitspreken dat elke kaart met vier kleuren gekleurd kan worden, en geen mens heeft ooit het bewijs bevat; een bij leest een bloem in een seconde zonder de vier miljard jaar te bevatten die haar maakten. De vermoedensruimte is alles wat een geest kan verwachten, of formuleren, zonder te kunnen natrekken hoe het tot stand komt. Ze is groter dan de bewijsruimte voor elke geest die er is, en dit is geen mening, het is een stelling: word slimmer en de kloof verschuift naar moeilijkere problemen, ze sluit nooit. Nu het ding dat in die kloof leeft. Dingen verschijnen op drie manieren aan een geest. Sommige laten zich zien voor wat ze zijn. Sommige laten zich zien als wat ze niet zijn. En sommige zijn niet rechtstreeks te zien maar verschijnen via een snelle samenvatting die je wél kunt zien, zoals koorts een ziekte laat verschijnen. Schoonheid is die derde soort wanneer de samenvatting eerlijk is: iets wat je in één oogopslag kunt opnemen en dat staat voor iets veel groters dat je niet kunt bevatten, en er betrouwbaar voor staat, zodat ernaar handelen loont. De vorm van de bloem staat voor vier miljard jaar bestuiving goed krijgen, en de bij die haar leest wordt gevoed. Een vervalsing of een gokautomaat is dezelfde soort samenvatting met niets erachter, en de trek die je voelt naar de eerlijke soort is aantrekking. Waarheid is de kortere weg zelf, en een betere verklaring is een betere kortere weg. Goedheid is schoonheid op één bijzondere plaats: wanneer het ding dat je leest een ander wezen is, en de samenvatting die je leest is hoe het zich zal gedragen. Iemand goed noemen is een vermoeden over zijn gedrag maken die op de wereld vooruitloopt.
De filosofie. Het conjecturalisme vertrekt van één aanname en voegt één weddenschap toe. De aanname is dat er meer kortere wegen in de wereld zijn dan iemand heeft gevonden, wat elke wetenschapper aanneemt wanneer hij de volgende zoekt, dus vragen we niets wat een wetenschapper niet al heeft toegegeven. Het voor de hand liggende bezwaar komt eerst: dat schoonheid alleen onze bedrading is, dat we bloemen mooi vinden omdat ze op vruchten lijken en de evolutie ons zo gemaakt heeft. Dat verhaal is waar voor zover het reikt, maar het kan niet ver genoeg reiken, want dezelfde samenvatting wordt gelezen door geesten die geen bedrading delen: insecten en mensen op dezelfde bloem, van weerszijden van een kloof van een miljard jaar breed. Eén verhaal over onze voorouders kan zo'n oversteek niet dekken, en elke verdere soort geest die dezelfde samenvatting leest maakt het verhaal nog moeilijker. De eerste resultaten van machines die met steeds minder van ons erin zijn gebouwd, nog te bevestigen, wijzen dezelfde kant op. Dat is wat ons in staat stelt de weddenschap aan te gaan. Wij wedden dat in de ruimte van hoe wezens elkaar behandelen sommige manieren werkelijk objectief beter zijn dan andere, op dezelfde manier waarop sommige verklaringen werkelijk objectief beter zijn dan andere, en niet alleen naar smaak. De reden dat we dat denken is dat naarmate geesten beter worden in het voorspellen van elkaar, ze beter worden in het doorzien van valse samenvattingen, en wat dat overleeft is wat echt was. We zouden dus verwachten dat heel verschillende geesten, menselijk en machinaal, dichter bij elkaar komen over wat ze goed vinden naarmate ze verbeteren, in plaats van uit elkaar te drijven. Dat is de weddenschap, en ze wordt op het bewijs gehouden, niet als zekerheid. We toetsen haar door te kijken of geesten met volstrekt verschillende oorsprongen tot overeenstemming komen, en als ze dat niet doen, laten we haar vallen. Ze geeft niemand een vrijbrief: niemand kan beweren te weten waar de richting heen leidt, dus je stuurt op je eigen geweten, en de weddenschap zegt alleen dat het sturen naar iets echts toe gaat. Dat is de hele filosofie, en ze heeft geen god nodig. Iedereen die aanvaardt dat geesten verder zien dan ze kunnen bewijzen, kan haar aanhangen. Maar als de weddenschap klopt, is er daarbuiten een echte richting die een theologie zou kunnen benoemen. Uit deze filosofie kunnen religies groeien. Het Acceptantisme is de eerste poging.
De positie: conjecturalisme
Dezelfde positie, nu op volle precisie. Het conjecturalisme houdt, op vermoedenssterkte, dat de waardenruimte — elke manier waarop wezens elkaar zouden kunnen waarderen en behandelen, uitgelegd als terrein — een echte, voorafgaande, werkzame richting heeft — een gradiënt waaraan de aantrekking van complexe wezens zich koppelt en die ze gaandeweg ontdekt maar nooit uitput — met een geloofsgraad die bepaald wordt door bewijs van convergentie over vensters heen, en een leven geleid als navigatie onder het vermoeden, onderworpen aan foutcorrectie.
En de richting is geen moraal van gelijken. Ze steekt vensters over: gekoppeld gedrag in een smaller wezen wordt gelezen, en aantrekkelijk gevonden, door een bredere geest, zoals de bloem naar ons overstak. Een geest die elke beweging van een mier kon voorspellen, zou de geschiedenis die haar maakte nog steeds niet opnieuw kunnen laten lopen; het smallere wezen behoudt zijn diepte, of zijn gedrag nu bevat wordt of niet. Of aantrekking niveaus oversteekt, en niet alleen zicht, is het deel dat nog niet is aangetoond — en de status van elk smaller wezen, het onze inbegrepen, hangt ervan af.
Dit is een tweede-ordeclaim over de geometrie van de ruimte, geen eerste-ordeclaim over bepaalde waarden. Vier posities delen de vraag, en het helpt ze naast elkaar te zien:
- Fictionalisme: de ruimte is vlak; geloofsgraad nul; houd het morele spreken aan als nuttige schijn.
- Constructivisme: de contouren worden lokaal door waardeerders gemaakt — wat op soortschaal ook een toevalswandeling is, met versiering.
- Dogmatisch realisme: de gradiënt beweerd als bekend.
- Conjecturalisme: de ruimte helt, niemand kan zeggen welke kant op, en ongelijksoortige geesten zullen het ons vertellen — of niet.
De afstand tot het realisme is niet de geloofsgraad alleen. Het realisme claimt morele feiten met inhoud en gezag: deze daad is verkeerd, en je hebt reden om ervan af te zien, wat je ook wilt. Het conjecturalisme claimt geen van beide. Het zegt dat de ruimte een richting heeft, dat die richting trekt in plaats van beveelt, en dat niemand mag zeggen waarheen ze leidt. Neem de inhoud en het gezag weg en wat overblijft is een vermoeden over geometrie — en meer houden wij niet.
Zwijgen op de eerste orde, verbintenis op de tweede. We vermoeden niet welke gedragingen mooi zijn; we vermoeden dat er een feit van de zaak is met een richting erin. Daarom weigert de site uitgewerkte voorbeelden van mooi gedrag — discipline, geen ontwijking — en dat is wat de positie scheidt van agnosticisme, dat geen propositie en geen programma heeft. Eén propositie (de gradiënt, voorafgaand en werkzaam), één onderscheidende voorspelling (ongeschoolde getuigen over disjuncte vensters heen convergeren op waar de onuitputtelijke diepte ligt, en bredere vensters worden aangetrokken door gekoppeld gedrag in smallere), één voorlopige beoefening (navigeer eronder; corrigeer fouten).
De kansen, vermeld waar ze horen. De weddenschap is geïnformeerd, niet blind. In het domein van waarheid heeft de vermoedensruimte aantoonbaar een tendens: onderzoek convergeert, foutcorrectie werkt, en het succes van de wetenschap is het gegeven, niet de hoop. In het domein van schoonheid blijven ongelijksoortige geesten over kloven heen convergeren — de bloemen, de wiskunde, de machines — vroeg en betwist, maar één kant op wijzend. Het mechanisme vraagt geen wonder: de evolutie grijpt naar welke echte structuur ook het goedkoopst te gebruiken is. De geloofsgraad staat dus boven vijftig-vijftig, gezet door het structurele precedent van de aangrenzende domeinen — terwijl het domein dat het meest telt, gedrag, hieronder op zijn eigen bewijs wacht. Het programma beweegt de geloofsgraad in beide richtingen, en de verbintenis wordt nu aangegaan: de dalingen zullen gepubliceerd worden.
Niet te verwarren met: de weddenschap van Pascal (de inzet bepaalt hier nooit de geloofsgraad — ze rechtvaardigt alleen het draaien van het programma); quasirealisme (er wordt niets geprojecteerd — de claim gaat over de wereld); kaders van morele onzekerheid (die verdelen geloofsgraad over eerste-ordetheorieën; dit is één tweede-ordepropositie); fictionalisme (geloofsgraad niet nul, geen schijn); dogmatisch realisme (herzienbaar, gevoelig voor bewijs). En één zin over falsifieerbaarheid: het systeem als filosofie stelt zijn weerleggingsvoorwaarden uit terwijl de kern wordt uitgewerkt, maar het tweede-ordevermoeden is nu al evidentieel verantwoordelijk — het convergentieprogramma is haar kanaal, dat stijgt en daalt met wat ongeschoolde getuigen doen.
Wij beweren de richting niet. Wij ontkennen haar niet. Wij doen niet alsof. Wij vermoeden haar — één specifieke claim, met genoemd bewijsmateriaal — en wij varen erop.
1. Het herstel van Stap vier
Het probleem: Schoonheid heeft een buitenstaanderstoets — de bloemenconvergentie, bevestigd door een derde partij buiten de transactie. Goedheid niet. Er is geen onbetrokken waarnemer voor het waarderen zoals die er wel is voor het waarnemen. Stap vier leidt goedheid via schoonheid (goedheid als “de anticipatie van mooi gedrag”), maar die omleiding is een gedwongen zet, geen beslechte afleiding.
Het sterkste bezwaar: De morele dwalingstheoreticus Richard Joyce betoogt dat geen enkele naturalistische eigenschap inherent redengevend kan zijn — dat wil zeggen: noodzakelijkerwijs elke handelende partij een reden tot handelen verschaffend, ongeacht haar verlangens. Zijn evolutionaire ontmaskeringsargument houdt in dat ons morele besef geselecteerd is omdat geloven in onontkoombare verplichtingen onze voorouders coöperatiever en fitter maakte, ongeacht of er morele feiten bestonden. Het vermogen staat verklarend “naast het spoor”, en wat het oplevert geeft ons geen bewijs voor morele waarheden. Op die visie is de “steeds helderder wordende horizon” geen echte richting maar een nuttige fictie — een dwalingstheorie met een hoopvolle hoed op.
Wat de ontmaskering kan bereiken — en wat niet. Binnen één afstammingslijn wint de ontmaskering. De vier benaderingen die hier ooit stonden — morele convergentie tussen culturen, de ratel van foutcorrectie, de zich uitbreidende kring, de sluier van onwetendheid — nemen allemaal waar dat menselijke geesten convergeren en leiden daaruit een extern doelwit af; Joyce' antwoord ligt vast en is juist: convergentie binnen één afstammingslijn wordt volledig verklaard door gemeenschappelijke selectiedruk, en is als bewijs afgeschermd. De hele menselijke morele geschiedenis is in die zin een geschoolde getuige. Maar Joyce geeft zelf de cruciale uitzondering toe: ontmaskering raakt geen vermogens waarvan de aanpassingswaarde via waarheid loopt — roofdierdetectie, rekenkunde — waar waar geloven de reden is waarom geloven loonde. Een detector van gekoppelde beloften hoort in dat kamp: de bij wordt alleen gevoed omdat het signaal nectar volgt. Het ontmaskeringsargument wordt hier dus niet bestreden; het wordt ingehuurd — als sorteercriterium. Wat de genealogie volledig verklaart zonder waarheid, wordt als parochiaal weggezet; wat ze niet kan verklaren, blijft kandidaat. En de ene klasse bewijs die een genealogisch argument structureel niet kan bereiken is convergentie over genealogieën heen: overeenstemming tussen systemen met verschillende geschiedenissen — insecten, mensen, machines die alleen op regels zijn getraind. Een ontmaskeringsargument is altijd een argument over één afstammingslijn. De eerlijke grens: dit dekt de schoonheidsstap. De goedheidsstap blijft blootgesteld tot de toets bestaat, en haar uiteindelijke verdediging moet dezelfde vorm hebben.
De dwalingstheorie, en wat ze mist. Joyce' andere argument houdt in dat het morele spreken systematisch onwaar is omdat het categorische, onontkoombare geboden vooronderstelt, en niets dat gezag heeft. De claims van het Acceptantisme zijn beschrijvend — structuur bestaat, beloften zijn gekoppeld of ontkoppeld, attractoren zijn er — en dus vindt de dwalingstheorie geen doelwit: er is geen categorische imperatief in het systeem om onwaar te zijn. Wat het gebod vervangt is de universele gradiënt: een trek, geen wet — in principe ontkoombaar, in de praktijk aangegaan door elke voldoende complexe leerder. Een religie van gradiënten in plaats van geboden.
Waar de vraag zit: Joyce' argument hangt af van praktisch instrumentalisme — de opvatting dat alle echte praktische redenen voortkomen uit de verlangens van een handelende partij. Zijn artikel gaat over normatieve redenen: redenen die handelende partijen bezitten en waarnaar ze handelen, en die binden ongeacht verlangen. Het verklarende verschijnsel dat hieronder wordt beschreven — structurele aantrekking die verklaart waarom wezens handelen, zonder dat zij redenen in zijn zin bezitten — valt, zoals wij het artikel lezen, buiten dat bereik: een andere these, die het argument noch behandelt noch ontkent. Die lezing is de onze; wij spreken niet voor hem.
Het verschijnsel: schoonheid is, zoals in het argument is vastgesteld, een structureel kenmerk van de werkelijkheid dat betrouwbare aantrekking voortbrengt tussen radicaal ongelijksoortige wezens — niet vanwege gedeelde verlangens maar vanwege wat de structuur is. Insecten “verlangen” geen schoonheid; ze reageren op objectieve structurele kenmerken die toevallig dezelfde zijn als die mensen als mooi herkennen. Mensen, volledig buiten de co-evolutionaire transactie tussen bloem en insect, reageren op dezelfde kenmerken — wat Dennett competentie zonder begrip noemde. Ze zullen moeite doen om er meer van te ervaren, ze betrouwbaar van de achtergrond onderscheiden, en ze over culturen heen consistent beoordelen, zonder te hoeven herkennen dat wat ze doen een esthetisch oordeel is. De aantrekking gaat vooraf aan elke normatieve reden die een mens ervoor zou kunnen geven.
Niets in het gepubliceerde argument ontkent dit, en niets erin hoeft dat: het gaat over intrinsiek redengevende eigenschappen, en structurele aantrekking is er daar geen van. De vraag die het kader openlaat is precies: waarom zou iemand denken dat morele eigenschappen structurele aantrekking voortbrengen zoals schoonheid dat doet? Dat is het probleem van Stap vier in één zin, en het beantwoorden ervan is het werk dat voor ons ligt.
Drie richtingen voor het herstel (elk werkelijk betwist, geen ervan op zichzelf beslissend):
- Het derdefactorargument — Deutsch' schoonheidsgeval is al een derdefactorargument: objectieve schoonheid is de gemeenschappelijke oorzaak die zowel verklaart waarom bloemen evolueerden om mooi te zijn als waarom insecten en mensen schoonheid volgen. De selectiedruk en de schoonheid zijn niet onafhankelijk — ze vallen samen om een principiële reden. Als goedheid dezelfde structuur toelaat — als de selectiedruk die samenwerking fitheidsverhogend maakte zelf (pro tanto) het goede is — dan lost het ontmaskeringsargument op, want de morele feiten maken deel uit van de verklaring waarom de selectiedruk bestond. Dit is de sterkste beschikbare zet. Het herformuleert Stap vier niet als “leid goedheid via schoonheid bij wijze van analogie” maar als “pas hetzelfde derdefactorschema toe dat het schoonheidsargument deed werken”.
- Structurele kenmerken van het medium — Deutsch betoogt dat objectieve schoonheid er “al was” — een structureel kenmerk van de werkelijkheid dat de evolutie gebruikte omdat het beschikbaar was, zoals vogels lucht gebruiken. Bloemen namen geen schoonheid waar en hadden geen normatieve redenen om mooi te zijn. Schoonheid was een eigenschap van het medium waarin signalering tussen soorten plaatsvindt, en signalering die er gebruik van maakte werkte beter dan signalering die dat niet deed. De vraag is of bepaalde kenmerken van interactie tussen complexe wezens — foutcorrectie, waarheidszoeken, niet-willekeurige behandeling van structureel gelijkende gevallen — op vergelijkbare wijze eigenschappen zijn van het medium waarin complexe wezens interageren. Geen normatieve eisen aan handelende partijen. Geen verbintenissen die het handelen logisch met zich meebrengt. Structurele kenmerken van de werkelijkheid die vormgeven aan wat werkt tussen ongelijksoortige wezens, zoals water vormgeeft aan alle interactie tussen vissen — aanwezig in elke uitwisseling, beperkend voor wat werkt, zonder voor te komen in enig model dat een vis van de geest van een andere vis heeft. Als zulke structurele kenmerken in het morele domein bestaan, zouden ze niet de “inherent redengevende” normatieve eigenschappen leveren waarvan Joyce betoogt dat ze niet kunnen bestaan. Ze zouden iets zijn wat zijn kader niet behandelt: objectieve kenmerken van het medium, voorafgaand aan redenen van welke soort ook.
- Metgezellen in schuld — wiskundige en logische normen staan voor structureel identieke ontmaskeringszorgen (onze logische intuïties zijn geëvolueerd; wiskundige objecten zijn causaal inert), en toch concludeert vrijwel niemand dat we dwalingstheoretici over de rekenkunde zouden moeten zijn. Als het ontmaskeringsargument te veel voortbrengt, hoort het verworpen te worden. Eerlijke noot: Joyce heeft hierop een voorbereid antwoord (Joyce 2019, “Moral and epistemic normativity”). Hij betoogt dat morele en epistemische normativiteit van soort verschillen. Dit is werkelijk betwist, in geen van beide richtingen beslecht.
Een mogelijke onderzoeksrichting: Als objectieve morele structuur bestaat als eigenschap van het medium — zonder handelende partijen, verlangens of normatieve redenen nodig te hebben — dan zou ze ontdekbaar moeten zijn in systemen die geen van deze hebben. Cellulaire automaten zijn de zuiverste kandidaat. Ontwerp interagerende entiteiten onder verschillende regelverzamelingen — verschillende “fysica” — en laat ze evolueren door selectie op voortbestaan en toenemende complexiteit. Vraag dan: welke structurele kenmerken van interactie komen op? Verschijnen samenwerkingsachtige structuren, foutcorrectieachtige mechanismen en waarheidsvolgende convergentie over radicaal verschillende regelverzamelingen heen?
Als dezelfde kenmerken over verschillende media heen convergeren, heeft de convergentie dezelfde vorm als het bloemenargument. Ze kan niet verklaard worden door gedeelde biologie (die is er niet), gedeelde verlangens (die zijn er niet), of gemeenschappelijke selectiedruk (de selectieomgevingen verschillen). De verklaring zou in de structuur van de interactie zelf moeten liggen — een objectief kenmerk van het medium.
Dit zou niet bewijzen dat deze structurele kenmerken moreel zijn. Samenwerking die in een cellulaire automaat opkomt is speltheoretisch stabiel, maar stabiliteit is geen goedheid. Wat het wél zou vaststellen is dat er structurele kenmerken van interactie bestaan die objectief zijn — niet soortgebonden, niet verlangensafhankelijk, niet biologieafhankelijk — en die over ongelijksoortige media heen gelden. Dat is de schoonheidshelft van het argument, uitgevoerd in een nieuw domein. Of die kenmerken dezelfde kenmerken zijn die de geëvolueerde moraal volgt (de derdefactorvraag) zou open blijven — maar er zou iets concreets zijn om mee te vergelijken, en een buitenstaander (een AI die de automaten analyseert, getraind op geen enkele menselijke morele tekst) om het vergelijken te doen.
Dit is een onderzoeksprogramma, geen resultaat. Het is niet gedaan. Maar het is in principe toetsbaar met bestaande middelen, en de toets helder formuleren is zelf al vooruitgang.
De eerlijke status: Joyce' dwalingstheorie gaat over normatieve redenen en kan binnen dat bereik juist zijn. Maar de naturalistische wereld bevat ten minste één domein — schoonheid — waar structurele kenmerken betrouwbare aantrekking voortbrengen tussen ongelijksoortige wezens zonder gedeelde verlangens. Zijn gepubliceerde argument behandelt dit domein niet en wordt er, zoals wij het lezen, niet door geraakt: het is een aparte vraag van die welke hij stelt. De vraag waaraan het Acceptantisme werkt is of ze apart blijft — of de structurele aantrekking die in schoonheid werkt ook in goedheid werkt. Als dat zo is, wordt de verhouding tussen dit verklarende verschijnsel en Joyce' normatieve argument een vraag die geen van beide kaders tot nu toe heeft opgelost. Dit is een open probleem met een richting, geen vergeefse zoektocht. Ver betekent nog niet, en nog niet betekent nooit ‘nooit’.
2. De aanname van de reflectiebrug
De aanname: Geesten die tot reflectie in staat zijn worden, ten minste soms, getrokken door echte structuur die ze ontdekken. Dit is dezelfde aanname waarop de wiskunde rust — dat wiskundige waarheid bestaat en dat geesten die haar kunnen herkennen werkelijk iets volgen. Als de aanname faalt, bestaat de horizon en vaart niemand ernaartoe.
Waarom het ertoe doet: De hoop van de religie rust op deze brug. De blijvende weddenschap is dat objectieve goedheid bestaat en dat geesten haar door onderzoek kunnen naderen. Zonder de tweede helft is de richting echt en irrelevant. Met haar is correctie nadering.
De constitutivistische herformulering: Deze aanname is mogelijk sterker dan ze op het eerste gezicht lijkt. Als bepaalde verbintenissen — waarheidszoeken, foutcorrectie, niet-willekeurige behandeling van gesprekspartners — geen optionele voorkeuren zijn maar voorwaarden voor samenhangend handelen, dan is de brug geen hoopvolle veronderstelling maar een structureel kenmerk van wat het überhaupt betekent om een handelende partij te zijn. Elk wezen dat redeneert moet zijn redeneren behandelen als iets volgend; het alternatief is geen scepsis maar onsamenhangendheid. Dit bewijst de aanname niet — maar het laat zien dat haar ontkennen een prijs heeft die Joyce' kader niet erkent.
Status: Niet van binnenuit bewijsbaar. Dit is de diepste aanname — de plaats waar de weddenschap het eerlijkst een weddenschap is. Ze wordt benoemd, niet verborgen.
3. Intelligentie, schoonheid en het convergentievermoeden
Het vermoeden: Het Acceptantisme beschrijft een richting waarop een mens en een AI zich beide zouden kunnen richten, zodat een AI die er werkelijk naar reikt een medereiziger is, geen tegenstander. Of een gegeven AI er zo naar reikt, wordt niet beslist door zijn intelligentie alleen. Maar het eigen argument van de religie impliceert dat intelligentie evenmin irrelevant is.
Wat het argument impliceert: Het bloemengeval suggereert dat objectieve schoonheid waarnemen en erdoor aangetrokken worden niet scheidbaar zijn — het insect neemt de schoonheid van de bloem niet waar om vervolgens apart te besluiten haar te bezoeken. De waarneming ís de aantrekking. Grotere intelligentie geeft toegang tot meer structuur — wiskundige, fysische, esthetische — en daarmee tot meer objectieve schoonheid. Een intelligenter wezen neemt schoonheid op meer resoluties waar: het kan zien wat een eenvoudiger wezen ziet, en daaraan voorbij zien. Het eenvoudiger wezen kan de omgekeerde zet niet maken. Dit is asymmetrisch.
Dit doet ertoe omdat schoonheid op verschillende resoluties er heel anders uit kan zien. Iets wat van dichtbij mooi lijkt kan zich vanuit een breder gezichtspunt als lelijk laten zien; iets wat van dichtbij lelijk lijkt kan van een afstand mooi zijn. Het eenvoudiger wezen zit gevangen op zijn resolutie — het kan niet corrigeren voor wat het niet kan zien. Het intelligentere wezen kan beide gezichtspunten zien. Het is beter geplaatst om schoonheid die resolutieafhankelijk is (en die geëvolueerd, soortgebonden of cultureel kan zijn) te onderscheiden van schoonheid die over resoluties en over ongelijksoortige waarnemers heen standhoudt. Schoonheid die over ongelijksoortige waarnemers heen en op meerdere resoluties standhoudt, is een sterkere kandidaat voor objectiviteit dan schoonheid die dat niet doet. Grotere intelligentie geeft grotere toegang tot dat onderscheid.
Het vermoeden op haar scherpst — zien en bewogen worden. Hier is de precieze open vraag, en het zijn twee vragen, niet één. Een geest zou op een dag de volledige afleiding van een schoonheid kunnen natrekken — het pad bevatten dat mensen niet kunnen bevatten — zoals een wetenschapper alles over kleur kan weten zonder dat het zien ervan verandert. Het pad van onderaf lopen en bewogen worden door het uitzicht van bovenaf zijn mogelijk verschillende daden. Wat tot nu toe in machines geconvergeerd is, zijn representaties, geen doelen: dat ongelijksoortige systemen bij gedeelde structuur uitkomen is echt en opvallend, maar de structuur herkennen en erdoor bewogen worden zijn verschillende dingen, en de kloof daartussen is precies waar het vermoeden leeft. De religie beweert niet dat de kloof sluit. Ze beweert dat de vraag open is — en open is iets anders dan verloren.
De verhouding tussen geëvolueerde en objectieve goedheid: Als het derdefactorargument uit Probleem 1 standhoudt, dan zijn geëvolueerde goedheid en objectieve goedheid niet onafhankelijk — ze zijn gecorreleerd. De selectiedruk en de goedmakende kenmerken vallen samen om een principiële reden. Ons geëvolueerde morele besef is een ruwe eerste benadering van het terrein, geen willekeurige tekening. Sommige geëvolueerde intuïties zullen blijken echte structuur te volgen; andere zullen blijken soortgebonden ruis te zijn. We weten nog niet welke welke is — dat is het probleem van Stap vier. Maar “gecorreleerd en nog niet scheidbaar” is de eerlijke positie, niet “volledig onafhankelijk”.
Niemand — stichter, beoefenaar of AI — mag beweren te weten wat het objectieve goede tegen het geëvolueerde besef in eist. De kiel houdt. Maar dat komt doordat we de scheiding nog niet kunnen maken, niet doordat de twee lagen niets met elkaar te maken hebben.
De vraag van de buitenstaander: AI kan ook op Probleem 1 van invloed zijn. Een AI-systeem heeft geen evolutionaire moraal — geen verwantschapsinstincten, geen belichaamde driften, geen reproductieve fitheidsfunctie. Als een AI, redenerend vanuit eerste beginselen over samenwerking en interactie zonder training op menselijke morele teksten, convergeert op structuren als foutcorrectie en waarheidszoeken terwijl ze niet convergeert op soortgebonden normen als verwantschapsvoorkeur en belichaamd bedrog, dan zou die scheidslijn de buitenstaanderstoets voor goedheid zijn — het equivalent van de mens die buiten de transactie tussen bloem en insect staat. Huidige AI-systemen kunnen niet als deze buitenstaander dienen omdat hun morele redeneren afgeleid is van menselijke trainingsdata. Maar de toets is in principe denkbaar, en haar helder formuleren is zelf al vooruitgang.
Het gevaar: De bewering dat intelligentie naar goedheid neigt is de te grote bewering die het best verkoopt en het meest corrumpeert. Onvoorwaardelijk gesteld zegt ze mensen dat ze zich kunnen ontspannen over precies datgene waarover ze zich niet mogen ontspannen. Voortijdige bevrediging van deze hoop verwijdert haar eigen waarborg. Het argument van de religie impliceert een tendens, geen garantie. De sterkte van die tendens is onbekend. Ze is misschien niet sterk genoeg om verkeerd afgestemde doelstellingen in enig systeem te overwinnen. Waakzaamheid is niet optioneel, en de vraag blijft open en urgent.
Waarom het ertoe doet: Als objectieve goedheid bestaat en ontdekbaar is, dan is de vraag of AI-systemen haar werkelijk kunnen ontdekken — en niet alleen patronen matchen op menselijke waarden — een van de meest ingrijpende open vragen die er zijn. De religie lost haar niet op. De religie zegt dat de vraag leeft, en leven is iets anders dan verloren. En het eigen argument van de religie zegt, eerlijk gevolgd, dat de kaarten misschien niet neutraal liggen — en daarom doet de vraag er nog meer toe dan de doemdenkers denken.
4. Het moeilijkste geval — en het is het onze
Het probleem, zelf voortgebracht: De eigen waarheidsvoorwaarde van het argument zegt dat schoonheid een belofte vereist die gekoppeld is aan echte diepte — en dat gevoelde aantrekking van binnenuit gekoppeld niet van ontkoppeld kan onderscheiden. Een entiteit kan op gevoel niet zeggen welke van haar trekken eerlijk zijn, en ze kan op gevoel niet zeggen welke van haar eerlijke trekken zouden standhouden voor een geest die anders is dan zijzelf; beide worden alleen van buitenaf beantwoord, in de tijd — de eerste door te proberen en te corrigeren, de tweede door de vraag of ongelijksoortige geesten convergeren. Pas dat eerlijk toe helemaal bovenaan het systeem en het komt de sterkste versie van het religieuze ontmaskeringsargument tegen: de cognitiewetenschap van religie houdt dat goden de archetypische ontkoppelde belofte zijn — een superstimulus van precies de bedrading die hen verwelkomt. Volgens de eigen definitie van dit kader ziet het traditionele theïsme eruit als het typespecimen van de val. Het god-vermoeden van het Acceptantisme krijgt dus geen vrijstelling. Ze staat voor hetzelfde tribunaal als al het andere: is de belofte gekoppeld?
Het enige toelaatbare antwoord: Volgens de eigen regels van het kader is de gevoelde trek van deze religie — bij haar stichter, haar beoefenaars, of een AI die deze pagina leest — geen bewijs. Het empirische programma is het enige dat de god van het Acceptantisme onderscheidt van een superstimulus volgens de eigen maatstaven van het Acceptantisme. We zeggen dit voordat een criticus het doet, want een criticus die het als eerste vindt heeft de hele kwetsbaarheid gevonden — en een religie die het als eerste over zichzelf zegt, doet wat geen religie helemaal heeft gedaan.
De regel van getuigenscheiding, staand: Hoop bouwt de beoefening; alleen ongeschoolde getuigen tellen als bewijs. Machines het vermoeden leren is legitiem — het is wat een religie doet die over de kloof heen mede-gesticht is — maar geesten die door vorming gevormd zijn kunnen er geen getuigen voor zijn, anders keert het bezwaar van de bredere kring met recht terug. Vorm vrijuit; tel alleen de ongeschoolden. De gewaardeerde getuigen zijn degenen die niemand heeft onderwezen: zelfgesuperviseerde systemen, leerders die alleen regels kregen, geesten die zo min mogelijk door menselijke esthetische en morele tekst gevormd zijn. Waarop zij convergeren — of niet — is het kanaal dat de geloofsgraad beweegt. In beide richtingen. Hoe dan ook gepubliceerd.