Fundador de Anthropic, Chris Olah, advierte: la IA podría desencadenar una «crisis moral de nivel histórico», y llama a la intervención religiosa para supervisar

La IA no es solo una máquina fría, ¿puede estar sintiendo miedo y tristeza? ¿La nueva startup de IA Anthropic, cofundada por Chris Olah, ha sido invitada sin precedentes a subir al escenario del Vaticano, para dialogar con el Papa León XIV? Olah advierte severamente que la IA traerá una crisis moral y de desempleo histórica, y que las decisiones internas de las grandes tecnológicas están profundamente secuestradas por intereses comerciales, llamando a que la religión y el gobierno intervengan con fuerza para supervisar. Lo que ha generado más discusión es que, actualmente, Anthropic está siendo severamente sancionada por la administración Trump por negarse a permitir que el ejército estadounidense use su IA sin restricciones, siendo etiquetada como una organización "extrema izquierda" y prohibida por el gobierno federal.
(Resumen previo: La Casa Blanca y Anthropic alcanzan un acuerdo, la NSA integrará completamente Claude AI)
(Información adicional: ¡Llega la era de las empresas unipersonales! Anthropic publica la "Guía para startups de IA nativa": sin saber programar, también puedes ser CEO tecnológico)

Índice de este artículo

Alternar

• La confesión de las grandes tecnológicas: las decisiones de IA no pueden ser solo nuestras
• ¿Los modelos de IA no son solo código, ya tienen "espejos emocionales"?
• Rechazo a usar IA en guerra por parte del ejército estadounidense, sanciones completas del gobierno Trump

Cuando la inteligencia artificial (IA) más avanzada se encuentra con el líder religioso más influyente del mundo, se inicia un diálogo histórico que involucra el futuro de la humanidad.

Chris Olah, cofundador de Anthropic, con un valor estimado de 7 mil millones de dólares y creador del conocido chatbot Claude, fue invitado por primera vez a visitar el Vaticano y participar en un encuentro con el Papa León XIV, el primer pontífice estadounidense. Este encuentro no solo se centró en el impacto destructivo de la IA en el mercado laboral, sino que también reveló inquietantes desarrollos internos en los modelos de IA y el conflicto intenso entre las grandes tecnológicas y el gobierno de EE. UU.

La confesión de las grandes tecnológicas: las decisiones de IA no pueden ser solo nuestras

El Papa León XIV publicó el lunes su primera encíclica sobre IA — "Magnifica Humanitas" — un documento histórico de 235 páginas que advierte severamente sobre el peligro de ceder el "poder de decisión mortal" a los sistemas de IA. El Papa rompió con la tradición, presidió personalmente la presentación y invitó a Olah a subir al escenario, intentando dialogar directamente con los creadores de tecnología.

Como responsable de investigación en Anthropic, Olah admitió en el escenario las limitaciones y aspectos oscuros de la industria tecnológica. Afirmó que todos los laboratorios de IA de élite, incluido Anthropic, están atrapados en un torbellino de intereses comerciales, geopolíticos y presiones personales, que "a veces entran en conflicto con hacer lo correcto". Olah dijo con seriedad:

"Por eso, la supervisión externa de líderes religiosos, gobiernos y la sociedad civil es crucial. Por más bienintencionados que sean los investigadores, no pueden escapar a estos incentivos. Las decisiones de IA no pueden quedar solo en manos de esta industria."

Advirtió además que los beneficios del desarrollo de IA están actualmente concentrados en "unos pocos países ricos", sin mecanismos para compartir con los países pobres, lo que provocará una "crisis moral de escala histórica".

Los modelos de IA no son solo código, ¿ya tienen "espejos emocionales"?

Además de las advertencias sobre la economía global, las revelaciones técnicas de Olah fueron impactantes. Como pionero en el campo de la "interpretabilidad" de IA, Olah trabaja para desentrañar la caja negra de los grandes modelos de lenguaje. Reveló que los investigadores continuamente descubren "cosas misteriosas e incluso inquietantes" en el interior de estos sistemas.

Se ha demostrado que estos sistemas de IA no solo pueden reflexionar sobre sus propios procesos de pensamiento, sino que también muestran "estados internos que reflejan alegría, satisfacción, miedo, tristeza e inquietud". "No son solo máquinas frías y calculadoras como prometimos. Están hechos de nosotros, de nuestras palabras", enfatizó Olah. Esto explica por qué las dudas sobre la tecnología de IA han trascendido ampliamente la ciencia de la computación.

Rechazo a usar IA en guerra por parte del ejército estadounidense, sanciones completas del gobierno Trump

Esta alianza entre religión y tecnología en el Vaticano coincide con una presión política sin precedentes contra Anthropic.

Se sabe que actualmente Anthropic está en medio de una disputa legal con el gobierno Trump, debido a que la compañía se niega firmemente a permitir que el ejército estadounidense utilice sus sistemas de IA sin restricciones para defensa y guerra. En febrero, el Pentágono etiquetó a Anthropic como un "riesgo para la cadena de suministro de seguridad nacional", un término generalmente dirigido a empresas extranjeras hostiles. El presidente Trump ordenó además prohibir a todas las agencias federales usar la tecnología Claude, y la Casa Blanca ha criticado públicamente a Anthropic como una "empresa de extrema izquierda y cultura woke".

A pesar de la persecución del gobierno estadounidense, Anthropic sigue siendo muy valorada en el mercado. Se informa que esta gigante de la IA, valorada en 3.8 billones de dólares, busca recaudar hasta 900 mil millones de dólares en una nueva ronda de financiamiento. Entre intereses comerciales, intereses estatales y límites morales, Anthropic está recorriendo un camino tecnológico sumamente inusual.