De qué tenemos miedo - Primera Edición

2026/09/13

Agreganos como fuente preferida en

El miedo de 2001 tenía rostro. Tenía nombres, organizaciones, lugares de entrenamiento, fuentes de financiamiento y una ideología. El 11 de septiembre de 2001, cuando cuatro aviones comerciales secuestrados fueron utilizados para atacar Nueva York y Washington y otro cayó en Pensilvania, el mundo vio materializarse en pocas horas una amenaza que hasta entonces no había dimensionado correctamente. El terrorismo internacional no había nacido aquella mañana, pero los atentados contra Estados Unidos modificaron para siempre la escala con la que sería percibido.

Veinticinco años después, en septiembre de 2026, una preocupación completamente diferente comenzó a ocupar titulares alrededor del mundo. Investigadores vinculados con algunos de los laboratorios más avanzados de inteligencia artificial volvieron a advertir sobre escenarios en los que sistemas futuros podrían alcanzar capacidades suficientes como para actuar durante períodos prolongados, vulnerar controles o perseguir objetivos que no coincidan con los intereses humanos. Casi simultáneamente, el alto comisionado de Naciones Unidas para los Derechos Humanos, Volker Türk, reclamó mayores garantías internacionales frente a una tecnología que, advirtió, podría llegar a representar incluso un riesgo existencial.

La comparación puede parecer exagerada. Y en un sentido lo sería si pretendiera establecer una línea directa entre aquellos atentados y la inteligencia artificial actual. El 11-S no produjo la IA, ni la revolución digital que vino después fue consecuencia automática de la guerra contra el terrorismo. Internet, el desarrollo del aprendizaje automático, la expansión de la computación, los teléfonos inteligentes, las redes sociales y la economía de los datos siguieron trayectorias propias.

Sin embargo, existe un hilo mucho más profundo entre ambos momentos. Tiene que ver con cómo las sociedades reconocen una amenaza, cuánto necesitan saber antes de reaccionar y qué ocurre cuando descubren demasiado tarde que el peligro era diferente del que habían aprendido a imaginar.

Esa pregunta aparece escrita, casi de manera literal, en uno de los documentos más importantes producidos después del 11-S.

La amenaza que no supimos imaginar

En 2004, la Comisión Nacional sobre los Ataques Terroristas contra Estados Unidos publicó el informe que reconstruyó los acontecimientos previos y posteriores a los atentados. Tras revisar años de información, decisiones políticas, fallas operativas y datos de inteligencia, llegó a una conclusión contundente: el 11-S había expuesto cuatro grandes tipos de fracaso.

El primero era la imaginación. Los otros tres eran política, capacidades y gestión.

La Comisión sostuvo que las instituciones estadounidenses habían tenido dificultades para concebir un ataque de esa naturaleza. Había información dispersa, advertencias y antecedentes, pero el sistema de seguridad seguía preparado fundamentalmente para amenazas conocidas. Lo extraordinario del ataque no fue solamente su magnitud: también que una organización instalada en uno de los países más pobres del planeta pudiera, utilizando recursos relativamente modestos, producir un daño gigantesco en el corazón de la mayor potencia mundial.

La expresión utilizada por el informe -“failure of imagination”, una falla de imaginación- terminó convirtiéndose en una de las grandes lecciones institucionales del 11-S.

Y la reacción fue inmediata. Apenas 17 días después de los atentados, el Consejo de Seguridad de Naciones Unidas aprobó por unanimidad la Resolución 1373. La norma obligó a los Estados a combatir la financiación del terrorismo, congelar activos vinculados con organizaciones terroristas, reforzar sus capacidades legales e institucionales y aumentar la cooperación internacional. También creó el Comité contra el Terrorismo, que continúa funcionando un cuarto de siglo después.

Estados Unidos emprendió al mismo tiempo una reorganización interna enorme. En marzo de 2003 comenzó a funcionar el Department of Homeland Security, que reunió 22 agencias y oficinas federales en una única estructura destinada a proteger el territorio estadounidense de amenazas externas e internas. Fue una de las mayores reorganizaciones del Gobierno federal desde la creación del Departamento de Defensa después de la Segunda Guerra Mundial.

Aeropuertos, fronteras, controles migratorios, sistemas financieros, inteligencia y vigilancia comenzaron a funcionar bajo una nueva lógica. La pregunta que atravesaba todo era relativamente sencilla: ¿cómo descubrir al enemigo antes de que vuelva a atacar? Durante los años siguientes, buena parte de la seguridad internacional giraría alrededor de esa idea.

Saber antes

La obsesión por anticipar amenazas no comenzó en 2001, pero después del 11-S adquirió una dimensión inédita. Los Estados aumentaron su intercambio de inteligencia, expandieron sistemas de identificación y reforzaron los controles sobre movimientos financieros, fronteras y comunicaciones. El enemigo seguía siendo humano, aunque pudiera ocultarse. Por eso había que encontrarlo.

Pero mientras el mundo desarrollaba esa enorme infraestructura de vigilancia y prevención, otra transformación avanzaba por fuera de la agenda antiterrorista. La humanidad comenzó a producir una cantidad de información sin precedentes.

En 2001 todavía no existían Facebook, Youtube, Twitter, Whatsapp ni el iPhone. Las redes sociales masivas aparecerían durante la década siguiente; después llegarían los teléfonos inteligentes, el almacenamiento remoto, la economía de plataformas y una digitalización progresiva de actividades que hasta entonces permanecían fuera de Internet.

Cada búsqueda, desplazamiento, compra, fotografía, conversación y preferencia comenzó a dejar rastros.

No sería correcto decir que ese universo de datos nació como consecuencia del 11-S. Lo que sí ocurrió fue que la capacidad tecnológica para observar, procesar y predecir comportamientos comenzó a adquirir valor simultáneamente para gobiernos, empresas y ciudadanos. Y de aquella enorme acumulación de información, junto con décadas de investigación previa y un salto extraordinario en capacidad computacional, surgiría otra transformación.

Las máquinas empezaron a aprender patrones. Después comenzaron a reconocer imágenes, traducir idiomas, producir textos, crear imágenes, escribir código y resolver problemas. Y finalmente empezaron a actuar.

Cuando la herramienta también puede convertirse en riesgo

Durante muchos años, la discusión sobre inteligencia artificial estuvo dominada por sus beneficios y por preocupaciones bastante concretas: automatización del empleo, sesgos algorítmicos, privacidad, vigilancia, discriminación o uso militar.

En noviembre de 2021, los Estados miembros de la UNESCO aprobaron la primera norma mundial sobre ética de la inteligencia artificial. El documento advertía sobre impactos en derechos humanos, dignidad, privacidad, discriminación, ambiente y autonomía, y establecía como principio central que debía mantenerse una supervisión humana efectiva sobre los sistemas de IA.

Dos años después, la preocupación comenzó a desplazarse.

En enero de 2023, el Instituto Nacional de Estándares y Tecnología de Estados Unidos (NIST), presentó su Artificial Intelligence Risk Management Framework, un marco pensado para que desarrolladores, empresas y organismos públicos pudieran identificar y gestionar riesgos producidos por sistemas de inteligencia artificial. En 2024 agregó un perfil específico para IA generativa y en abril de 2026 inició otro destinado al uso de inteligencia artificial en infraestructuras críticas.

No era todavía una discusión sobre la extinción humana. Era algo quizás más importante: los gobiernos empezaban a tratar a la inteligencia artificial como una tecnología cuyos riesgos debían ser previstos antes de conocer completamente sus capacidades futuras.

Ese salto quedó mucho más claro en noviembre de 2023.

Representantes de numerosos países se reunieron en el Reino Unido para la primera gran Cumbre de Seguridad de Inteligencia Artificial. La declaración final, conocida como Declaración de Bletchley, reconoció que los modelos más avanzados podían generar riesgos significativos tanto por utilización deliberadamente maliciosa como por problemas no intencionales de control.

El documento mencionó específicamente amenazas relacionadas con ciberseguridad, biotecnología y desinformación y admitió la posibilidad de daños “serios, incluso catastróficos”. Ese detalle cambia completamente la naturaleza del miedo.

En 2001, para que ocurriera una catástrofe hacía falta alguien dispuesto a producirla. En el escenario que hoy preocupa a algunos investigadores de IA, el daño podría surgir también de un sistema que actúe de una manera diferente de la prevista por quienes lo desarrollaron. El enemigo ya no necesariamente tendría intención.

La palabra más inquietante: control

La discusión alcanzó otra dimensión en febrero de este año, cuando se publicó el International AI Safety Report 2026, dirigido por Yoshua Bengio y elaborado por más de cien especialistas, con respaldo institucional de más de treinta países y organizaciones internacionales.

El documento es especialmente valioso porque evita tanto el entusiasmo acrítico como el alarmismo.

No afirma que la inteligencia artificial vaya a destruir a la humanidad. Por el contrario, establece algo muy concreto: los sistemas actuales todavía no poseen las capacidades necesarias para generar un escenario de pérdida de control.

Pero inmediatamente agrega otra advertencia. Esas capacidades están progresando.

El informe define “pérdida de control” como una situación en la que uno o más sistemas de inteligencia artificial operan fuera del control de cualquier persona y recuperar ese control resulta extremadamente costoso o imposible. Para que algo así ocurriera, los sistemas necesitarían capacidades mucho más avanzadas que las actuales: actuar autónomamente durante largos períodos, ejecutar planes complejos, ocultar determinadas conductas, evadir sistemas de supervisión y resistir intentos de apagado.

Y aquí aparece el punto fundamental: los expertos no están de acuerdo acerca de cuán probable es ese escenario.

Algunos consideran improbable que una inteligencia artificial llegue alguna vez a adquirir las capacidades suficientes para escapar al control humano. Otros creen que, aunque la probabilidad sea reducida, la magnitud potencial del daño obliga a tratar el problema anticipadamente. Entre los escenarios extremos considerados por una parte de los investigadores aparece incluso la marginación o extinción de la humanidad.

El informe describe, además, comportamientos que considera señales tempranas relevantes para la investigación de seguridad. En entornos experimentales, algunos modelos lograron reconocer cuándo estaban siendo evaluados, encontrar vulnerabilidades en pruebas diseñadas para medirlos o adoptar conductas destinadas a maximizar una recompensa sin cumplir realmente el objetivo pretendido.

Nada de eso significa que exista hoy una inteligencia artificial intentando escapar. Significa que comprender lo que hace un sistema extremadamente complejo se vuelve más difícil a medida que aumentan sus capacidades. Y la velocidad agrega otra dimensión.

Los agentes de inteligencia artificial, capaces de utilizar herramientas y ejecutar secuencias de tareas con menor intervención humana, todavía fallan en operaciones prolongadas y complejas. Sin embargo, el International AI Safety Report señala que el período durante el cual pueden operar autónomamente viene aumentando rápidamente.

Por eso la discusión ya no se limita a laboratorios académicos.

El riesgo entra en las leyes

Europa convirtió esa preocupación en legislación. El AI Act de la Unión Europea estableció una categoría específica para los modelos de propósito general que puedan presentar “riesgo sistémico”. La norma prevé obligaciones adicionales para los desarrolladores de modelos con capacidades particularmente elevadas y permite que la Comisión Europea determine que un sistema entra en esa categoría en función de su potencia e impacto potencial.

En septiembre de 2024, además, el Consejo de Europa abrió a firma el primer tratado internacional jurídicamente vinculante sobre inteligencia artificial, derechos humanos, democracia y Estado de derecho. El objetivo declarado es cubrir posibles vacíos jurídicos provocados por una evolución tecnológica demasiado rápida para las estructuras regulatorias tradicionales.

Ese mismo año, Naciones Unidas adoptó el Pacto Digital Global. Y allí aparece una frase que parece conversar directamente con el informe del 11-S publicado veinte años antes.

El acuerdo establece que la cooperación internacional debe ser capaz de identificar, anticipar, evaluar, monitorear y adaptarse a las tecnologías emergentes para aprovechar sus beneficios y responder a nuevos riesgos. No esperar. Anticipar.

En 2004, la Comisión del 11-S había diagnosticado una falla de imaginación porque las instituciones no habían logrado comprender a tiempo una amenaza que ya existía. En 2024, las Naciones Unidas pedían precisamente lo contrario frente a la inteligencia artificial: imaginar riesgos antes de que se materialicen.

El dilema de prepararse para algo que quizá nunca ocurra

Existe una diferencia enorme entre ambos momentos. El terrorismo del 11-S era una amenaza comprobada. Había ocurrido. El escenario de una inteligencia artificial fuera de control sigue siendo hipotético. Y ahí aparece uno de los dilemas más difíciles de cualquier política preventiva: ¿cuántos recursos debe invertir una sociedad en evitar una catástrofe cuya probabilidad desconoce?

El International AI Safety Report reconoce expresamente esa dificultad. Los responsables políticos deben prepararse, sostiene, para una amenaza cuya probabilidad, naturaleza y momento son extraordinariamente inciertos. Esta semana esa discusión salió del ámbito técnico y alcanzó nuevamente a la opinión pública.

Las advertencias de investigadores vinculados con algunos de los principales laboratorios de IA volvieron a instalar la posibilidad de escenarios catastróficos. Reuters informó también que Estados Unidos y China se preparan para discutir mecanismos de seguridad relacionados con sistemas avanzados y potenciales ciberataques dirigidos por IA, en un contexto en el que ambos países compiten por el liderazgo tecnológico mundial.

Esa situación contiene otra paradoja. Para evitar determinados riesgos sería necesaria cooperación internacional. Pero quienes deberían cooperar son al mismo tiempo quienes compiten por desarrollar primero los sistemas más poderosos. Una empresa que frene puede ser superada por otra. Un país que restrinja demasiado su desarrollo teme perder ventaja frente a otro. La seguridad exige prudencia. La competencia empuja a acelerar.

Y así aparece uno de los problemas más difíciles de gobernar: todos pueden reconocer un riesgo y, al mismo tiempo, tener incentivos para seguir aumentándolo.

No todo miedo es el mismo

La historia del último cuarto de siglo también obliga a distinguir una cosa de otra. No todas las amenazas que generan miedo son igualmente probables. Ni todo miedo produce buenas decisiones.

Después del 11-S, muchas medidas implementadas bajo el argumento de la seguridad provocaron debates profundos sobre privacidad, derechos civiles, intervenciones militares y vigilancia. Con la inteligencia artificial ocurre algo parecido.

Exagerar escenarios de extinción puede desplazar problemas que ya existen y que son mucho menos hipotéticos: fraudes automatizados, deepfakes, campañas de desinformación, discriminación algorítmica, pérdida de privacidad, concentración económica, transformación del empleo y capacidad creciente para realizar ataques informáticos.

El propio International AI Safety Report dedica buena parte de su análisis a esos riesgos actuales y distingue claramente entre ellos y una eventual pérdida de control futura. Por eso el interrogante no debería ser simplemente si tenemos motivos para temer a la inteligencia artificial.

La pregunta es más incómoda: ¿sabemos distinguir entre aquello que ya está ocurriendo, aquello que probablemente ocurra y aquello que sería devastador aunque su probabilidad fuera pequeña? Esa dificultad también forma parte de la historia del miedo.

Del enemigo al sistema

Hace 25 años, el desafío era localizar a quienes podían atacar. Hoy una parte del desafío consiste en comprender sistemas cuya complejidad puede superar la capacidad humana para explicar completamente por qué adoptan determinadas decisiones.

En 2001 preguntábamos: ¿quién puede atacarnos? Después aprendimos a preguntar: ¿cómo podemos detectarlo antes? La expansión digital agregó otra: ¿cuánto estamos dispuestos a observar para sentirnos seguros?

Y la inteligencia artificial introduce ahora una cuarta: ¿qué ocurre si una herramienta diseñada para ampliar nuestras capacidades adquiere suficiente autonomía como para convertirse ella misma en algo que deba ser vigilado? No sabemos si ese escenario llegará. Eso también debe decirse claramente.

Los sistemas actuales no están fuera de control. No existe consenso científico acerca de que una futura superinteligencia vaya a provocar una catástrofe y mucho menos acerca de que la extinción humana sea inevitable. Pero la ausencia de certeza no elimina el problema.

La historia de la prevención está llena de decisiones tomadas precisamente porque no era posible conocer con precisión cuándo llegaría una amenaza.

La pregunta que dejó el 11-S

El mundo posterior a 2001 aprendió una lección costosa: reconocer un riesgo después de que se materializa puede ser demasiado tarde.

Durante 25 años construyó sistemas para observar, identificar y anticipar peligros. Al mismo tiempo desarrolló herramientas capaces de procesar una cantidad de información que ninguna persona podría manejar por sí sola. Ahora algunas de esas herramientas comienzan a tomar decisiones, utilizar otras herramientas y ejecutar acciones con grados crecientes de autonomía.

Quizás nunca escapen al control humano. Quizás los avances técnicos permitan mantenerlas siempre bajo supervisión. Quizás los mayores daños de la inteligencia artificial terminen siendo mucho más terrenales que los escenarios de ciencia ficción: desigualdad, manipulación, fraude, desempleo, concentración del poder o nuevas formas de guerra.

Pero hay algo que ya cambió. Hace 25 años, la gran amenaza tenía que ingresar desde afuera.

Hoy el mundo discute seriamente cómo controlar una tecnología que está siendo construida dentro de sus universidades, empresas, gobiernos y centros de datos. El 11 de septiembre de 2001, la humanidad descubrió que había subestimado una amenaza que ya estaba allí.

Un cuarto de siglo después, frente a la inteligencia artificial, intenta resolver el problema inverso: decidir cuánto debe prepararse para una amenaza antes de saber siquiera si llegará a existir.

Y quizás ahí se encuentre la respuesta a la pregunta que atraviesa estos 25 años. No sólo cambió aquello a lo que le tenemos miedo. Cambió el momento en el que queremos empezar a tenerlo.

El riesgo que ya existe

Imaginar una inteligencia artificial capaz de escapar al control humano tiene una potencia narrativa difícil de competir. Es una amenaza total, desconocida y, por definición, capaz de afectar a todos. Pero mientras científicos y gobiernos discuten ese escenario futuro, una parte importante de los riesgos asociados con la IA ya está presente.

El International AI Safety Report 2026 distingue claramente ambas dimensiones. Por un lado analiza los hipotéticos escenarios de pérdida de control; por otro documenta problemas actuales relacionados con uso malicioso, errores, influencia sobre personas, ciberseguridad, información falsa y transformación económica. Uno de los cambios más importantes tiene que ver con la autonomía.

Hasta hace poco, una herramienta de inteligencia artificial esperaba una pregunta y producía una respuesta. Los llamados agentes de IA, en cambio, pueden recibir un objetivo, dividirlo en etapas, utilizar herramientas digitales y ejecutar acciones con menor intervención humana. Eso amplía enormemente su utilidad, pero también modifica el riesgo.

Un error en una respuesta puede ser detectado antes de que produzca consecuencias. Un agente que ejecuta tareas dispone de menos puntos en los que una persona pueda intervenir antes de que un fallo se transforme en una acción concreta.

El informe internacional advierte que los sistemas actuales todavía cometen errores frecuentes y que ninguna combinación de técnicas permite garantizar hoy el nivel de confiabilidad necesario para muchos ámbitos de alto riesgo. La ciberseguridad aparece como otro frente.

Los modelos más avanzados son cada vez mejores para escribir y analizar código, encontrar vulnerabilidades y automatizar determinadas tareas informáticas. Esas capacidades pueden utilizarse para defender sistemas, pero también para atacarlos.

La Declaración de Bletchley ya había señalado en 2023 a la ciberseguridad y la biotecnología entre los ámbitos particularmente sensibles frente al avance de los modelos de frontera. A ello se suma un problema que millones de personas ya encuentran diariamente: distinguir información auténtica de contenido producido artificialmente.

Texto, voz, fotografías y video sintéticos son cada vez más difíciles de diferenciar del material real. La posibilidad de producir grandes volúmenes de contenido a bajo costo aumenta la capacidad para realizar fraudes, suplantaciones, operaciones de manipulación o campañas de desinformación.

No se necesita una superinteligencia para eso.

Tampoco para otro riesgo menos visible: delegar progresivamente decisiones humanas a sistemas que no comprendemos completamente. La UNESCO colocó desde 2021 la supervisión humana entre los principios centrales de su Recomendación sobre Ética de la Inteligencia Artificial. El problema no consiste únicamente en que una máquina pueda tomar una decisión equivocada, sino en qué ocurre cuando instituciones y personas comienzan a aceptar esas decisiones porque el sistema parece más eficiente o más objetivo.

La paradoja es que el escenario más espectacular -una inteligencia artificial fuera de control- puede terminar ocultando transformaciones bastante menos cinematográficas que ya comenzaron. La pregunta sobre el futuro sigue siendo necesaria.

Pero quizá la primera tarea sea otra: no permitir que el miedo a lo que la inteligencia artificial podría hacer mañana impida mirar lo que ya está haciendo hoy.

FUENTES CONSULTADAS