Washington, D.C. – Menos de dos semanas después de que el Papa León XIV emitiera una contundente encíclica donde exhortaba a las empresas de inteligencia artificial (IA) a evitar la creación de una “nueva Torre de Babel”, la influyente compañía multimillonaria Anthropic ha solicitado una pausa o desaceleración global en el avance de esta tecnología. Este llamado se produce en un momento crítico, mientras su propio sistema Claude se acerca a la capacidad de diseñar de forma autónoma a sus sucesores sin intervención humana.
El 4 de junio, Jack Clark, cofundador de Anthropic, y Marina Favaro, directora del Anthropic Institute, publicaron un blog para alertar sobre el creciente riesgo de que “los humanos pierdan el control sobre los sistemas de IA”. Describieron una amenaza inminente: la “auto-mejora recursiva”, un escenario donde la IA podría evolucionar de manera exponencial por sí misma. Aunque reconocieron que este punto aún no se ha alcanzado y que no es inevitable, advirtieron que “podría llegar antes de lo que la mayoría de las instituciones están preparadas”.
Este pronunciamiento de Anthropic no es aislado, sino que resuena con las recientes preocupaciones expresadas por el Vaticano. Si bien la publicación del blog no hizo referencia directa a la encíclica, el contacto entre Anthropic y la Santa Sede es conocido. Chris Olah, otro cofundador de la empresa, ya se había reunido con el Papa León y lo acompañó durante la presentación de la encíclica *Magnifica Humanitas* el pasado 25 de mayo. Esta interacción subraya el compromiso de Anthropic con el diálogo ético y religioso en torno al desarrollo de la inteligencia artificial.
Los directivos de la compañía detallaron cómo su sistema de IA ya está asumiendo una porción significativa del trabajo de codificación para el diseño de nuevas inteligencias artificiales, con una carga de trabajo que se multiplica por ocho cada trimestre. Proyectan que la IA “se volverá mucho más capaz en los próximos años”, lo que, según ellos, “tiene enormes implicaciones”. La capacidad de los sistemas para construir por completo a sus propios sucesores, argumentaron, aumenta exponencialmente la importancia de cómo se diseñan, aseguran y monitorean.
Clark y Favaro reconocieron la incertidumbre inherente a la predicción del futuro de la IA, admitiendo que “no tenemos buenas intuiciones sobre cómo sería este mundo” si las capacidades de la inteligencia artificial llegaran a superar a las humanas. Ante este panorama, los líderes de Anthropic instaron a las empresas del sector a unirse para pausar o ralentizar el desarrollo, con el fin de “darnos más tiempo para afrontar sus enormes implicaciones”. No obstante, esta iniciativa requiere una cooperación internacional sin precedentes entre países y corporaciones, ya que, advirtieron, “si una desaceleración simplemente permite que los actores menos cautelosos alcancen el nivel tecnológico, podría dejar a todos menos seguros”.
La visión de Anthropic es clara: “Creemos que sería bueno para el mundo tener la opción de ralentizar o pausar temporalmente el desarrollo de la IA de frontera para permitir que las estructuras sociales y la investigación de alineamiento se pongan al día con el avance de la tecnología”. La empresa planea establecer un diálogo con legisladores, investigadores y el público en general para abordar estas preocupaciones, y se espera que publique un informe basado en los resultados de estas conversaciones.
Charles Camosy, teólogo moral de la Catholic University of America y colaborador de Anthropic en cuestiones éticas, comentó a EWTN News que las declaraciones de la empresa parecen alinearse con la visión del Papa León de “desarmar” la IA. El Pontífice ha aclarado que esto no implica detener la innovación, sino “evitar que domine a la humanidad”. Camosy señaló que Anthropic reconoce que la velocidad del desarrollo es “un problema tan grande que todos necesitamos desacelerar aquí”, lo que permitiría a la sociedad “pensar en lo que la IA debería o no debería hacer en la cultura”.
El teólogo también advirtió sobre el peligro de “externalizar” funciones humanas esenciales como la enseñanza, la tutoría, la crianza o el cuidado de los enfermos a la inteligencia artificial, lo que podría “socavar las cosas que… hacen que nuestra humanidad sea magnífica”. Reconoció que la intensa competencia global en IA entre naciones y empresas “crea un obstáculo significativo” para la cooperación necesaria, pero se mostró optimista ante el interés que ha generado la encíclica del Santo Padre. “Muchas personas estaban esperando que alguien llenara ese espacio moral”, afirmó Camosy, sugiriendo incluso que la Iglesia podría liderar un movimiento global por una IA ética, e instó al Papa León a considerar un viaje a Silicon Valley.
“Para muchos, eso suena esperanzadoramente ingenuo. Pero no veo otra opción aquí”, concluyó Camosy, subrayando la urgencia y la complejidad del desafío ético que la inteligencia artificial presenta a la humanidad.
