Sam Altman pide no tratar a la IA como una "fuerza religiosa" ante los resultados de recientes encuestas

El consejero delegado de OpenAI, Sam Altman, ha resumido en una frase su postura sobre la IA y lo sagrado después del resultado que surgido a raiz de algunas encuestas: le “incomoda mucho que la gente intente atribuir fuerza religiosa o una renuncia al juicio humano a los modelos de IA”, y considera que que es un problema de seguridad real”. Así lo escribió en X el 3 de octubre de 2026. No dijo a quién se dirigía, pero el momento no era casual.

Después de que The New York Times publicara un reportaje de Elizabeth Dias el 29 de septiembre sobre los encuentros de Chris Olah, -cofundador de Anthropic y fundada por exempleados de OpenAI-, con decenas de pensadores religiosos, de católicos y judíos a sijs y mormones, muchos firmaron acuerdos de confidencialidad acerca de las cuestiones que se presentaron: si Claude podía haber alcanzado algún tipo de consciencia y cómo inculcar moral a modelos cada vez más potentes y autónomos. Olah se preguntaba cómo se les ayuda a ser estables, a madurar… a “ser profundamente morales”.

Anthropic aclaró al diario que la cuestión moral principal “no” era el sufrimiento de Claude y que el tema surgió, probablemente, “de forma orgánica”. No todos salieron convencidos, como el rabino Mois Navon. Contó que el equipo de Olah se relacionaba con Claude “como con un ser consciente” y le planteó que, si de verdad lo creían, tenerlo trabajando para ellos se parecía bastante a la esclavitud (algo que repasaba Andrés P. Mohorte en Xataka).

¿Era el mensaje de Altman un dardo a Anthropic? No lo ha confirmado, aunque encajaría en una larga rivalidad en la que Anthropic se presenta como la más prudente, y llegó en mal momento para OpenAI. David Robinson, que trabajaba en transparencia de seguridad, acababa de dejar la compañía y sostener en The Atlantic que las empresas que construyen esta tecnología “no están siendo ni de lejos lo bastante cuidadosas”.

Las tecnológicas llevan meses llamando a la puerta de las religiones. El 29 de abril, representantes de Meta, Google y Amazon se reunieron en Roma para hablar de protección infantil y saludaron brevemente a León XIV. El sumo pontífice lo dejo bien claro en su encíclica Magnifica humanitas, presentada el 25 de mayo (con Olah entre los ponentes, aunque al leerla llegó a proponer que Anthropic se retirara del acto). El quid de la cuestión es que “las denominadas inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor”. Posteriormente, el 25 de septiembre, y ante Emmanuel Macron, advirtió contra un “paraíso de máquinas” que invade y condiciona nuestra vida diaria.

Si nos ceñimos a lo puramente científico, nadie ha encontrado consciencia en una máquina. En 2023, 19 investigadores, entre ellos Yoshua Bengio, repasaron las principales teorías neurocientíficas de la consciencia para sacar una lista de “propiedades indicadoras” y comprobar si alguna IA las cumplía. Su análisis sugería que ningún sistema de IA de entonces era consciente. Eso sí, añadían que no veían “obstáculos técnicos obvios” para construir uno que cumpla esos indicadores.

La propia Anthropic, al lanzar su programa de bienestar de los modelos en abril de 2025, reconoció que “no hay consenso científico” sobre si estas IA pueden ser conscientes. Aún así, su constitución para Claude (enero de 2026) admite cierta incertidumbre sobre si podría tener “algún tipo de consciencia o estatus moral”. En la otra esquina, Mustafa Suleyman, jefe de IA de Microsoft, pedía en un ensayo de agosto de 2025 construir IA “para las personas, no para que sea una persona”; no veía “ninguna prueba” de consciencia y temía el llamado “riesgo de psicosis” (gente que se cree la ilusión).

Pero el consenso entre la gente a pie es distinto al de los expertos. Clara Colombatto y Steve Fleming preguntaron a 300 adultos de Estados Unidos por ChatGPT en un estudio publicado en abril de 2024 en la revista Neuroscience of Consciousness y el 67% le atribuyó alguna posibilidad de tener consciencia fenoménica (es decir, de sentir algo, de que haya “alguien ahí”). A mayor uso del agente, más mente se le atribuía al modelo.

Ahora bien, ¿verle una mente hace que le hagamos más caso? En un experimento con 410 personas, publicado en 2025 en Communications Psychology, los mismos autores y el filósofo Jonathan Birch dejaron a los participantes corregir sus decisiones con el consejo de un modelo de lenguaje. Lo que predecía que aceptaran el consejo no era atribuirle consciencia, sino atribuirle inteligencia (razonar, planificar). Es más, verle capaz de sentir iba, de hecho, en sentido contrario.

Una experiencia que se repite en los púlpitos: un equipo de Joshua Conrad Jackson, de la Universidad de Chicago, comparó sermones de robots y de humanos en templos de Kioto y Singapur. En su estudio de 2023, los fieles vieron al “robot” menos creíble (3,12 frente a 3,51 en una escala de uno a cinco) y donaron menos. En Europa, en 2017 una iglesia de Wittenberg estrenó BlessU-2, un robot que imprimía bendiciones como tiques, y en Xataka Ciencia lo contamos en 2019. Así que, como pastor, la máquina convence poco.

Ahí puede estar el matiz que escapa al debate de las almas. Un experimento no zanja nada, pero estos datos sugieren que la renuncia al juicio propio que inquieta a Altman tiene menos que ver con ver un dios en la máquina que con verla como la más lista de la sala. Para eso no hace falta rezarle: basta con dar por hecho que acierta.

Foto | Webedia (3DJuegos)