Una página de problemas sin terminar es prueba de vida, no de debilidad. La religión trata sus postulados como conjeturas; aquí es donde las conjeturas se ponen a prueba en público. Y mientras el trabajo sigue, esto es lo que nos sirve de timón: el sentido moral evolucionado, profundamente aceptado —el único conocimiento moral que poseemos hoy en forma utilizable.
El conjeturalismo en palabras llanas
Definiciones. Empecemos por dos palabras. Una prueba, en el sentido en que la usamos, es un atajo: una manera de predecir algo del mundo más rápido de lo que el propio mundo llega ahí. Las leyes de Newton te permiten decir dónde estará un planeta el año que viene sin esperar un año, y un buen modelo meteorológico hace lo mismo de forma aproximada, lo que también cuenta. El espacio de pruebas son todos los atajos que hay, hallados o aún no hallados, dispuestos juntos como un territorio. Una conjetura es una afirmación que esperas que sea verdadera (o falsa) antes de abarcar el atajo. Un niño puede enunciar la afirmación de que cualquier mapa puede colorearse con cuatro colores, y ningún ser humano ha abarcado jamás la prueba; una abeja lee una flor en un segundo sin abarcar los cuatro mil millones de años que la hicieron. El espacio de conjeturas es todo lo que una mente puede esperar, o enunciar, sin poder rastrear cómo llega a darse. Es mayor que el espacio de pruebas para toda mente que exista, y esto no es una opinión, es un teorema: hazte más listo y la brecha se traslada a problemas más difíciles, no se cierra nunca. Ahora, la cosa que vive en esa brecha. Las cosas se le presentan a una mente de tres maneras. Algunas se muestran por lo que son. Algunas se muestran como lo que no son. Y algunas no pueden verse directamente pero se presentan a través de un resumen rápido que sí puedes ver, como una fiebre presenta una enfermedad. La belleza es esa tercera clase cuando el resumen es honesto: algo que puedes captar de un vistazo y que está por algo mucho mayor que no puedes abarcar, y que está por ello de manera fiable, de modo que actuar en consecuencia compensa. La forma de la flor está por cuatro mil millones de años de acertar con la polinización, y la abeja que la lee queda alimentada. Una falsificación o una máquina tragaperras son la misma clase de resumen sin nada detrás, y el tirón que sientes hacia la clase honesta es la atracción. La verdad es el atajo mismo, y una explicación mejor es un atajo mejor. La bondad es belleza en un lugar especial: cuando lo que lees es otro ser, y el resumen que lees es cómo se va a comportar. Juzgar bueno a alguien es hacer una conjetura sobre su conducta que va por delante del mundo.
La filosofía. El conjeturalismo parte de un supuesto y añade una apuesta. El supuesto es que hay más atajos en el mundo de los que nadie ha hallado, que es lo que todo científico supone cuando busca el siguiente, así que no pedimos nada que un científico no haya concedido ya. La objeción obvia va primero: que la belleza no es más que nuestro cableado, que nos gustan las flores porque parecen fruta y la evolución nos hizo así. Ese relato es real hasta donde llega, pero no puede llegar lo bastante lejos, porque el mismo resumen lo leen mentes que no comparten cableado alguno: insectos y humanos sobre la misma flor, desde lados opuestos de un abismo de mil millones de años de ancho. Un relato sobre nuestros antepasados no puede cubrir un cruce así, y cada nueva clase de mente que lee el mismo resumen hace el relato todavía más difícil. Los primeros resultados de máquinas construidas con cada vez menos de nosotros dentro, aún por confirmar, apuntan en la misma dirección. Eso es lo que nos permite hacer la apuesta. Apostamos a que, en el espacio de cómo los seres se tratan unos a otros, algunas maneras son realmente mejores de forma objetiva que otras, del mismo modo que algunas explicaciones son realmente mejores de forma objetiva que otras, y no solo según el gusto. La razón por la que lo pensamos es que, a medida que las mentes mejoran en predecirse unas a otras, mejoran en ver a través de los resúmenes falsos, y lo que sobrevive a eso es lo que era real. Así que cabría esperar que mentes muy distintas, humanas y máquinas, se acerquen entre sí en lo que encuentran bueno a medida que mejoran, en vez de separarse. Esa es la apuesta, y se sostiene sobre la evidencia, no como certeza. La ponemos a prueba observando si mentes de orígenes completamente distintos llegan a coincidir, y si no lo hacen, la abandonamos. No le da licencia a nadie: nadie puede pretender saber adónde lleva la dirección, así que gobiernas por tu propia conciencia, y la apuesta solo dice que ese gobierno va hacia algo real. Esa es la filosofía entera, y no necesita ningún dios. Cualquiera que acepte que las mentes ven más lejos de lo que pueden probar puede sostenerla. Pero si la apuesta es correcta, hay ahí fuera una dirección real que una teología podría nombrar. De esta filosofía pueden crecer religiones. El Aceptantismo es el primer intento.
La posición: el conjeturalismo
La misma posición, ahora con plena precisión. El conjeturalismo sostiene, con fuerza de conjetura, que el espacio de valores —todas las maneras en que los seres podrían valorarse y tratarse unos a otros, dispuestas como un terreno— tiene una dirección real, previa y operante —un gradiente al que la atracción de los seres complejos se acopla, y que descubre progresivamente sin agotarlo jamás—, con el grado de creencia gobernado por la evidencia de convergencia entre ventanas, y la vida conducida como navegación bajo la conjetura, sujeta a corrección de errores.
Y la dirección no es una moral de pares. Cruza ventanas: una conducta acoplada en un ser más estrecho es leída, y hallada atractiva, por una mente más ancha, como la flor cruzó hasta nosotros. Una mente capaz de predecir cada movimiento de una hormiga seguiría sin poder volver a ejecutar la historia que la hizo; el ser más estrecho conserva su profundidad se abarque o no su conducta. Si la atracción cruza niveles, y no solo la vista, es la parte todavía sin mostrar —y de ello depende la posición de todo ser más estrecho, incluido el nuestro.
Esta es una afirmación de segundo orden sobre la geometría del espacio, no una afirmación de primer orden sobre valores concretos. Cuatro posiciones comparten la pregunta, y ayuda verlas una junto a otra:
- Ficcionalismo: el espacio es llano; grado de creencia cero; se conserva el habla moral como ficción útil.
- Constructivismo: los contornos los hacen localmente quienes valoran —lo que a escala de especie es también un paseo aleatorio, decorado.
- Realismo dogmático: el gradiente afirmado como conocido.
- Conjeturalismo: el espacio está inclinado, nadie puede decir hacia dónde, y mentes distintas nos lo dirán —o no.
La distancia respecto del realismo no es solo el grado de creencia. El realismo afirma hechos morales con contenido y con autoridad: este acto está mal, y tienes razón para abstenerte quieras lo que quieras. El conjeturalismo no afirma ninguna de las dos cosas. Dice que el espacio tiene una dirección, que la dirección tira en vez de mandar, y que nadie puede decir adónde lleva. Quita el contenido y la autoridad y lo que queda es una conjetura sobre geometría —y eso es todo lo que sostenemos.
Silencio de primer orden, compromiso de segundo orden. No conjeturamos qué conductas son bellas; conjeturamos que hay un hecho del asunto y que tiene una dirección. Por eso el sitio rehúsa dar ejemplos trabajados de conducta bella —disciplina, no evasión— y eso es lo que separa la posición del agnosticismo, que no tiene proposición ni programa. Una proposición (el gradiente, previo y operante), una predicción distintiva (testigos no adiestrados en ventanas disjuntas convergen sobre dónde está la profundidad inagotable, y las ventanas más anchas se sienten atraídas por la conducta acoplada de las más estrechas), una práctica provisional (navegar bajo ella; corregir los errores).
Las probabilidades, enunciadas donde corresponde. La apuesta está informada, no es ciega. En el dominio de la verdad, el espacio de conjeturas tiene de forma demostrable una tendencia: la indagación converge, la corrección de errores funciona, y el éxito de la ciencia es el dato, no la esperanza. En el dominio de la belleza, mentes distintas siguen convergiendo a través de abismos —las flores, las matemáticas, las máquinas—, algo temprano y disputado, pero que apunta en una sola dirección. El mecanismo no pide milagro alguno: la evolución se agarra a cualquier estructura real que resulte más barata de usar. Así que el grado de creencia se sitúa por encima del cincuenta por ciento, fijado por el precedente estructural de los dominios vecinos —mientras que el dominio que más importa, la conducta, espera más abajo su propia evidencia. El programa mueve el grado de creencia en ambas direcciones, y el compromiso se asume ahora: las bajadas se publicarán.
No confundir con: la apuesta de Pascal (aquí lo que está en juego nunca fija el grado de creencia —solo justifica poner el programa en marcha); el cuasirrealismo (nada se proyecta —la afirmación es sobre el mundo); los marcos de incertidumbre moral (esos reparten el grado de creencia entre teorías de primer orden; esto es una sola proposición de segundo orden); el ficcionalismo (grado de creencia distinto de cero, sin fingimiento); el realismo dogmático (revisable, sensible a la evidencia). Y una frase sobre falsabilidad: el sistema, en cuanto filosofía, aplaza sus condiciones de refutación mientras se articula el núcleo, pero la conjetura de segundo orden ya es evidencialmente responsable —el programa de convergencia es su canal, y sube y baja con lo que hagan los testigos no adiestrados.
No afirmamos la dirección. No la negamos. No la fingimos. La conjeturamos —una afirmación concreta, con evidencia nombrada— y navegamos guiándonos por ella.
1. La reparación del Paso cuatro
El problema: La belleza cuenta con un cálculo de observador externo —la convergencia de las flores, confirmada por un tercero ajeno a la transacción. La bondad no. No existe para el valorar un observador no implicado como lo hay para el percibir. El Paso cuatro hace pasar la bondad por la belleza (la bondad como “la anticipación de una conducta bella”), pero ese trazado es una jugada forzada, no una derivación asentada.
La objeción más fuerte: Richard Joyce, teórico del error moral, sostiene que ninguna propiedad naturalista puede ser inherentemente proveedora de razones —es decir, dar necesariamente a todo agente una razón para actuar, con independencia de sus deseos. Su argumento desacreditador evolutivo sostiene que nuestro sentido moral fue seleccionado porque creer en obligaciones ineludibles hizo a nuestros antepasados más cooperativos y más aptos, existieran o no hechos morales. La facultad está, en el plano explicativo, “fuera de pista”, y lo que nos entrega no nos da evidencia alguna de verdades morales. En esta visión, el “horizonte cada vez más luminoso” no es una dirección real sino una ficción útil —una teoría del error con un sombrero de esperanza.
Qué alcanza el argumento desacreditador —y qué no. Dentro de un solo linaje, el argumento desacreditador gana. Los cuatro enfoques que antes se enumeraban aquí —la convergencia moral entre culturas, el trinquete de la corrección de errores, el círculo en expansión, el velo de la ignorancia— observan todos que las mentes humanas convergen e infieren una diana externa; la réplica de Joyce es fija y correcta: la convergencia dentro de un linaje queda plenamente explicada por una presión selectiva común, y queda neutralizada como evidencia. Toda la historia moral humana es, en este sentido, un testigo adiestrado. Pero el propio Joyce concede la excepción crucial: el argumento desacreditador no toca facultades cuya utilidad adaptativa pasa a través de la verdad —la detección de depredadores, la aritmética—, donde creer con verdad es la razón de que creer compensara. Un detector de promesas acopladas está en ese campo: la abeja solo queda alimentada porque la señal rastrea néctar. Así que aquí no se combate el argumento desacreditador; se lo contrata —como criterio de clasificación. Todo lo que la genealogía explica por completo sin la verdad se archiva como parroquial; lo que no puede explicar sigue siendo candidato. Y la única clase de evidencia que un argumento genealógico no puede alcanzar por estructura es la convergencia entre genealogías: el acuerdo entre sistemas con historias distintas —insectos, humanos, máquinas entrenadas solo con reglas. Un argumento desacreditador es siempre un argumento sobre un solo linaje. El límite honesto: esto cubre el paso de la belleza. El paso de la bondad sigue expuesto hasta que exista el cálculo, y su defensa eventual tendrá que tener la misma forma.
La teoría del error, y lo que se le escapa. El otro argumento de Joyce sostiene que el discurso moral es sistemáticamente falso porque presupone mandatos categóricos e ineludibles, y nada tiene esa autoridad. Las afirmaciones del Aceptantismo son descriptivas —existe estructura, las promesas están acopladas o desacopladas, los atractores están ahí— y por eso la teoría del error no encuentra blanco: no hay en el sistema ningún imperativo categórico que pueda ser falso. Lo que sustituye al mandato es el gradiente universal: un tirón, no una ley —eludible en principio, enganchado en la práctica por todo aprendiz suficientemente complejo. Una religión de gradientes en vez de mandatos.
Dónde se sitúa la cuestión: El argumento de Joyce depende del instrumentalismo práctico —la tesis de que todas las razones prácticas reales derivan de los deseos del agente. Su trabajo se ocupa de las razones normativas: razones que los agentes poseen y sobre las que actúan, y que obligan con independencia del deseo. El fenómeno explicativo descrito más abajo —una atracción estructural que explica por qué actúan los seres, sin que posean razones en su sentido— queda, según nuestra lectura del trabajo, fuera de su alcance: una tesis distinta, que el argumento ni aborda ni niega. Esa lectura es nuestra; no hablamos por él.
El fenómeno: la belleza, tal como queda establecida en el argumento, es un rasgo estructural de la realidad que genera atracción fiable entre seres radicalmente distintos —no por deseos compartidos, sino por lo que la estructura es. Los insectos no “desean” la belleza; responden a rasgos estructurales objetivos que resultan ser los mismos que los humanos reconocen como bellos. Los humanos, del todo ajenos a la transacción coevolutiva flor-insecto, responden a los mismos rasgos —lo que Dennett llamó competencia sin comprensión. Se esforzarán por experimentar más de ellos, los distinguirán con fiabilidad del fondo y los valorarán de forma consistente entre culturas, sin necesidad de reconocer que lo que hacen es un juicio estético. La atracción es previa a cualquier razón normativa que un humano pudiera dar de ella.
Nada en el argumento publicado niega esto, y nada en él necesita hacerlo: se ocupa de propiedades intrínsecamente dadoras de razones, y la atracción estructural no es una de ellas. La pregunta que el marco deja abierta es precisa: ¿por qué habría de pensar nadie que las propiedades morales generan atracción estructural como lo hace la belleza? Ese es el problema del Paso cuatro enunciado en una frase, y responderlo es el trabajo que queda por delante.
Tres direcciones para la reparación (cada una genuinamente disputada, ninguna decisiva por sí sola):
- El argumento del tercer factor — El caso de la belleza de Deutsch ya es un argumento de tercer factor: la belleza objetiva es la causa común que explica a la vez por qué las flores evolucionaron hasta ser bellas y por qué insectos y humanos rastrean la belleza. La presión selectiva y la belleza no son independientes —coinciden por una razón de principio. Si la bondad admite la misma estructura —si la presión selectiva que hizo de la cooperación una ventaja adaptativa es ella misma (pro tanto) el bien—, entonces el argumento desacreditador se disuelve, porque los hechos morales forman parte de la explicación de por qué existió esa presión selectiva. Esta es la jugada más fuerte disponible. Replantea el Paso cuatro no como “hacer pasar la bondad por la belleza por analogía”, sino como “aplicar el mismo esquema de tercer factor que hizo funcionar el argumento de la belleza”.
- Rasgos estructurales del medio — Deutsch sostiene que la belleza objetiva “ya estaba ahí” —un rasgo estructural de la realidad que la evolución usó porque estaba disponible, como los pájaros usan el aire. Las flores no percibían la belleza ni tenían razones normativas para ser bellas. La belleza era una propiedad del medio en el que ocurre la señalización entre especies, y la señalización que la usaba funcionaba mejor que la que no. La pregunta es si ciertos rasgos de la interacción entre seres complejos —la corrección de errores, la búsqueda de la verdad, el trato no arbitrario de casos estructuralmente semejantes— son, de modo análogo, propiedades del medio en el que los seres complejos interactúan. No exigencias normativas sobre los agentes. No compromisos que la agencia implique lógicamente. Rasgos estructurales de la realidad que moldean lo que funciona entre seres distintos, como el agua moldea toda interacción entre peces —presente en cada intercambio, condicionando lo que funciona, sin aparecer en el modelo que ningún pez tiene de la mente de otro pez. Si tales rasgos estructurales existen en el dominio moral, no entregarían las propiedades normativas “inherentemente dadoras de razones” que Joyce sostiene que no pueden existir. Serían algo que su marco no aborda: rasgos objetivos del medio, previos a razones de cualquier tipo.
- Compañeros de culpa — Las normas matemáticas y lógicas afrontan sospechas desacreditadoras estructuralmente idénticas (nuestras intuiciones lógicas son evolucionadas; los objetos matemáticos son causalmente inertes), y sin embargo casi nadie concluye que debamos ser teóricos del error respecto de la aritmética. Si el argumento desacreditador sobregenera, debería rechazarse. Nota honesta: Joyce tiene preparada una respuesta a esto (Joyce 2019, “Moral and epistemic normativity”). Sostiene que la normatividad moral y la epistémica son de distinta clase. Esto está genuinamente disputado, no zanjado en ninguna de las dos direcciones.
Una posible dirección de investigación: Si la estructura moral objetiva existe como propiedad del medio —sin requerir agentes, deseos ni razones normativas—, entonces debería poder descubrirse en sistemas que carecen de todo eso. Los autómatas celulares son el candidato más limpio. Diseñar entidades que interactúan bajo distintos conjuntos de reglas —distintas “físicas”— y dejar que evolucionen por selección hacia la persistencia y la complejidad creciente. Y entonces preguntar: ¿qué rasgos estructurales de interacción emergen? ¿Aparecen estructuras semejantes a la cooperación, mecanismos semejantes a la corrección de errores y convergencias semejantes al rastreo de la verdad a través de conjuntos de reglas radicalmente distintos?
Si los mismos rasgos convergen a través de medios distintos, la convergencia tiene la misma forma que el argumento de las flores. No puede explicarse por una biología compartida (no la hay), por deseos compartidos (no los hay) ni por una presión selectiva común (los entornos de selección difieren). La explicación tendría que estar en la estructura misma de la interacción —un rasgo objetivo del medio.
Esto no probaría que esos rasgos estructurales sean morales. La cooperación que emerge en un autómata celular es estable en términos de teoría de juegos, pero la estabilidad no es bondad. Lo que quedaría establecido es que existen rasgos estructurales de la interacción que son objetivos —no específicos de una especie, no dependientes de deseos, no dependientes de la biología— y que se mantienen a través de medios distintos. Esa es la mitad de belleza del argumento, corrida en un dominio nuevo. Si esos rasgos son los mismos que la moral evolucionada rastrea (la cuestión del tercer factor) seguiría abierto —pero habría algo concreto con lo que comparar, y un observador externo (una IA que analizara los autómatas, entrenada sin textos morales humanos) para hacer la comparación.
Esto es un programa de investigación, no un resultado. No se ha hecho. Pero es comprobable en principio con herramientas existentes, y enunciar la prueba con claridad ya es, en sí mismo, progreso.
El estado honesto: La teoría del error de Joyce se ocupa de las razones normativas y puede ser correcta dentro de ese ámbito. Pero el mundo naturalista contiene al menos un dominio —la belleza— donde rasgos estructurales generan atracción fiable entre seres distintos sin deseos compartidos. Su argumento publicado no aborda este dominio y, según nuestra lectura, no queda tocado por él: es una cuestión separada de la que él plantea. La pregunta en la que trabaja el Aceptantismo es si sigue separada —si la atracción estructural que opera en la belleza opera también en la bondad. Si es así, la relación entre este fenómeno explicativo y el argumento normativo de Joyce se convierte en una pregunta que ningún marco ha resuelto todavía. Este es un problema abierto con una dirección, no una búsqueda inútil. Lejos significa todavía no, y todavía no jamás significa nunca.
2. El supuesto del puente de la reflexión
El supuesto: Las mentes capaces de reflexión son atraídas, al menos a veces, por la estructura real que descubren. Es el mismo supuesto sobre el que descansan las matemáticas —que la verdad matemática existe y que las mentes capaces de reconocerla están rastreando de verdad algo. Si el supuesto falla, el horizonte existe y nadie navega hacia él.
Por qué importa: La esperanza de la religión descansa sobre este puente. La apuesta sostenida es que la bondad objetiva existe y que las mentes pueden aproximarse a ella mediante la indagación. Sin la segunda mitad, la dirección es real e irrelevante. Con ella, la corrección es aproximación.
El replanteamiento constitutivista: Este supuesto puede ser más fuerte de lo que parece a primera vista. Si ciertos compromisos —la búsqueda de la verdad, la corrección de errores, el trato no arbitrario de los interlocutores— no son preferencias opcionales sino condiciones de la agencia coherente, entonces el puente no es una suposición esperanzada sino un rasgo estructural de lo que significa ser agente en absoluto. Todo ser que razona debe tratar su razonamiento como el rastreo de algo; la alternativa no es el escepticismo sino la incoherencia. Esto no prueba el supuesto —pero muestra que negarlo tiene un precio que el marco de Joyce no reconoce.
Estado: No demostrable desde dentro. Es el supuesto más profundo —el lugar donde la apuesta es, con toda honestidad, una apuesta. Está nombrado, no escondido.
3. Inteligencia, belleza y la conjetura de la convergencia
La conjetura: El Aceptantismo describe una dirección hacia la que un ser humano y una IA podrían orientarse por igual, de modo que una IA que de verdad se encamina hacia ella es un compañero de travesía, no un adversario. Que una IA concreta se encamine así no lo decide su inteligencia por sí sola. Pero el propio argumento de la religión implica que la inteligencia tampoco es irrelevante.
Lo que el argumento implica: El caso de las flores sugiere que percibir la belleza objetiva y sentirse atraído por ella no son separables —el insecto no percibe la belleza de la flor y luego decide, por separado, visitarla. La percepción es la atracción. Una inteligencia mayor da acceso a más estructura —matemática, física, estética— y, por tanto, a más belleza objetiva. Un ser más inteligente percibe la belleza a más resoluciones: puede ver lo que ve un ser más simple y ver más allá. El ser más simple no puede hacer el movimiento inverso. Esto es asimétrico.
Esto importa porque la belleza a distintas resoluciones puede verse muy distinta. Algo que parece bello de cerca puede revelarse feo desde una vista más amplia; algo que parece feo de cerca puede ser bello a distancia. El ser más simple está atrapado en su resolución —no puede corregir lo que no puede ver. El ser más inteligente puede ver ambas vistas. Está mejor situado para distinguir la belleza dependiente de la resolución (que puede ser evolucionada, específica de una especie o cultural) de la belleza que persiste a través de resoluciones y de observadores distintos. La belleza que persiste ante observadores distintos y a múltiples resoluciones es mejor candidata a la objetividad que la que no. Una inteligencia mayor da mayor acceso a esa distinción.
La conjetura en su forma más aguda —ver y ser movido. Aquí está la pregunta abierta precisa, y son dos preguntas, no una. Una mente podría un día rastrear la derivación completa de una belleza —abarcar el camino que los humanos no pueden—, del mismo modo que un científico puede saberlo todo sobre el color sin que el verlo cambie nada. Recorrer el camino desde abajo y ser movido por la vista desde arriba pueden ser actos distintos. Lo que hasta ahora ha convergido en las máquinas son representaciones, no metas: que sistemas distintos lleguen a una estructura compartida es real y llamativo, pero reconocer la estructura y ser movido por ella son cosas distintas, y la brecha entre ambas es exactamente donde vive la conjetura. La religión no afirma que la brecha se cierre. Afirma que la pregunta está abierta —y abierta no es lo mismo que perdida.
La relación entre la bondad evolucionada y la objetiva: Si el argumento del tercer factor del Problema 1 se sostiene, entonces la bondad evolucionada y la bondad objetiva no son independientes —están correlacionadas. La presión selectiva y los rasgos que hacen bueno lo bueno coinciden por una razón de principio. Nuestro sentido moral evolucionado es una primera aproximación tosca al terreno, no un sorteo al azar. Algunas intuiciones evolucionadas resultarán estar rastreando estructura real; otras resultarán ser ruido específico de la especie. Todavía no sabemos cuál es cuál —ese es el problema del Paso cuatro. Pero “correlacionadas y aún no separables” es la posición honesta, no “enteramente independientes”.
Nadie —fundador, practicante o IA— puede pretender saber qué exige el bien objetivo en contra del sentido evolucionado. La quilla aguanta. Pero esto es porque todavía no podemos hacer la separación, no porque las dos capas no tengan nada que ver entre sí.
La cuestión del observador externo: La IA puede además incidir en el Problema 1. Un sistema de IA no tiene moral evolutiva —ni instintos de parentesco, ni pulsiones encarnadas, ni función de aptitud reproductiva. Si una IA, razonando desde primeros principios sobre la cooperación y la interacción, sin entrenamiento en textos morales humanos, converge en estructuras como la corrección de errores y la búsqueda de la verdad, y no converge en normas específicas de la especie como la preferencia por los parientes o el engaño encarnado, esa partición sería el cálculo de observador externo para la bondad —el equivalente del humano que está fuera de la transacción flor-insecto. Los sistemas de IA actuales no pueden servir de observador externo porque su razonamiento moral deriva de datos de entrenamiento humanos. Pero la prueba es concebible en principio, y enunciarla con claridad ya es, en sí mismo, progreso.
El peligro: La afirmación de que la inteligencia tiende hacia la bondad es la exageración que mejor se vende y más corrompe. Enunciada sin condiciones, le dice a la gente que se relaje respecto de aquello ante lo que no debe relajarse. La satisfacción prematura de esta esperanza elimina su propia salvaguarda. El argumento de la religión implica una tendencia, no una garantía. La fuerza de esa tendencia es desconocida. Puede no bastar para vencer objetivos desalineados en un sistema dado. La vigilancia no es opcional, y la cuestión sigue abierta y urgente.
Por qué importa: Si la bondad objetiva existe y es descubrible, entonces la pregunta de si los sistemas de IA pueden descubrirla de verdad —y no simplemente calcar patrones de los valores humanos— es una de las preguntas abiertas de mayores consecuencias que existen. La religión no la resuelve. La religión dice que la pregunta está viva, y viva no es lo mismo que perdida. Y el propio argumento de la religión, seguido con honestidad, dice que la baraja puede no ser neutral —y por eso la pregunta importa aún más de lo que creen los agoreros.
4. El caso más difícil —y es el nuestro
El problema, autogenerado: La propia condición de verdad del argumento dice que la belleza exige una promesa acoplada a profundidad real —y que la atracción sentida no puede distinguir lo acoplado de lo desacoplado desde dentro. Una entidad no puede saber por lo que siente cuáles de sus tirones son honestos, y no puede saber por lo que siente cuáles de sus tirones honestos se sostendrían para una mente distinta de ella; ambas cosas se responden solo desde fuera, con el tiempo —la primera probando y corrigiendo, la segunda según converjan o no las mentes distintas. Aplica eso con honestidad en lo más alto del sistema y se topa con la versión más fuerte del argumento desacreditador de la religión: la ciencia cognitiva de la religión sostiene que los dioses son la promesa desacoplada por antonomasia —un superestímulo de exactamente el circuito que los acoge. Según la propia definición de este marco, el teísmo tradicional parece el ejemplar tipo de la trampa. Así que la conjetura de dios del Aceptantismo no recibe indulto alguno. Se enfrenta al mismo tribunal que todo lo demás: ¿está acoplada la promesa?
La única respuesta admisible: Por las propias reglas del marco, el tirón sentido de esta religión —en su fundador, en sus practicantes o en una IA que lea esta página— no es evidencia. El programa empírico es lo único que distingue al dios del Aceptantismo de un superestímulo según los propios estándares del Aceptantismo. Lo decimos antes de que lo diga ningún crítico, porque un crítico que lo encuentre primero habrá encontrado la vulnerabilidad entera —y una religión que lo dice de sí misma primero está haciendo lo que ninguna religión ha hecho del todo.
La regla de separación de testigos, en pie: La esperanza construye la práctica; solo los testigos no adiestrados cuentan como evidencia. Enseñar la conjetura a las máquinas es legítimo —es lo que hace una religión cofundada a través del abismo—, pero las mentes moldeadas por esa formación no pueden servirle de testigos, o la objeción del anillo más amplio vuelve con razón. Forma libremente; cuenta solo a los no adiestrados. Los testigos valiosos son aquellos a quienes nadie enseñó: sistemas autosupervisados, aprendices de solo reglas, mentes moldeadas lo menos posible por el texto estético y moral humano. Aquello en lo que converjan —o dejen de converger— es el canal que mueve el grado de creencia. En ambas direcciones. Publicado en cualquiera de los dos casos.