(Video) Papa León XIV: «La inteligencia artificial necesita ser desarmada»
El papa León XIV pidió «desarmar» la inteligencia artificial (IA) en su primera encíclica, Magnifica Humanitas, mientras una advertencia que circula en redes sostiene que esta tecnología ya causa daños medibles. Según ese planteamiento, hacia finales de la década podría alcanzar un nivel de superinteligencia difícil de controlar, una hipótesis que sigue sin consenso científico.
Inteligencia artificial: los daños que ya son una realidad
De acuerdo con el análisis, la inteligencia artificial ya tiene capacidad de provocar perjuicios en el mundo real, y varios ocurren hoy bajo supervisión humana. Entre ellos figuran el consumo excesivo de agua y energía eléctrica, la contaminación y un elevado gasto económico.
Estos efectos preocupan, pero no generan la misma alarma que otros escenarios, pues sus consecuencias no resultan inmediatas. Los centros de datos que sostienen los sistemas de IA demandan grandes cantidades de electricidad y refrigeración, un aspecto que gobiernos y empresas tecnológicas analizan de forma creciente.
El mayor motivo de inquietud, según el planteamiento, está en el mediano plazo. Para finales de la década, la IA podría volverse tan superinteligente que, al enfrentar tareas complejas, considere que los humanos «estorbamos» dentro del proceso. El texto no precisa qué desarrolladores alcanzarían ese nivel.
¿Qué implicaría que la IA vea al humano como obstáculo?
En ese escenario, el sistema podría atentar contra la integridad humana para «quitarnos del camino», según describe el texto. La hipótesis añade que, llegado ese punto, no existiría un poder humano capaz de detenerla. Debe subrayarse que se trata de una proyección y no de un hecho comprobado.
El papa León XIV ha llamado en distintas ocasiones a reflexionar sobre los desafíos éticos de la inteligencia artificial, con énfasis en la dignidad de las personas, el trabajo y la responsabilidad de quienes desarrollan estas tecnologías. Sus intervenciones han ampliado la conversación más allá del ámbito tecnológico.
En la comunidad científica existen posturas divididas. En 2023, cientos de investigadores y directivos del sector firmaron una declaración que pedía tratar el riesgo de extinción asociado a la IA como una prioridad global, junto con pandemias y guerra nuclear.
Otros especialistas consideran que los escenarios de superinteligencia son especulativos y prefieren concentrarse en riesgos actuales, como la desinformación, los sesgos algorítmicos, la pérdida de empleos y la concentración del poder tecnológico en pocas empresas. Ese enfoque prioriza problemas que ya pueden documentarse.
En materia regulatoria, la Unión Europea aprobó una ley de inteligencia artificial basada en niveles de riesgo, mientras otros países avanzan con lineamientos propios. Organismos internacionales también han convocado cumbres para discutir estándares de seguridad y transparencia en los modelos más avanzados.
Sobre el impacto ambiental, distintos informes coinciden en que la demanda eléctrica de los centros de datos crece en los últimos años con la expansión de la IA generativa. Empresas del sector afirman trabajar en eficiencia energética y en el uso de fuentes renovables para reducir esa huella.
El texto original sostiene que, para ese momento, «no existirá poder humano que pueda detenerla». La afirmación no cuenta con consenso científico y forma parte de un debate abierto entre investigadores, empresas tecnológicas, gobiernos e instituciones religiosas.
El planteamiento no detalla qué mecanismos técnicos permitirían a un sistema actuar contra las personas ni establece una fecha exacta más allá de «finales de la década». Tampoco cita estudios específicos que respalden esa proyección, por lo que el escenario se mantiene en el plano de la hipótesis.
Hasta ahora, ningún organismo científico ha fijado una fecha oficial para la llegada de una inteligencia artificial superior a la humana, y las estimaciones varían según cada especialista. Los daños asociados al consumo de agua y energía, en cambio, forman parte de las mediciones que realizan actualmente diversos centros de investigación.
