“Mucha gente piensa que la inteligencia artificial tiene que ver con la tecnología. No, tiene que ver con el poder de determinar el futuro y en qué futuro estamos entrando: ¿es un futuro donde los oligarcas tecnológicos deciden todo lo relativo a nuestras instituciones democráticas, o es un futuro donde la acción colectiva, la rendición de cuentas democrática y nuestras instituciones están ahí para fijar los límites que necesitamos?”, se preguntaba este jueves Francesca Bria en una rueda de prensa convocada por el Ministerio de Transformación Digital.
Bria es profesora honoraria del University College de Londres, miembro del Consejo Europeo de Innovación de la UE y una reconocida especialista en soberanía tecnológica. También ha formado parte del consejo internacional de expertos que ha asesorado al Gobierno sobre inteligencia artificial desde 2024, un órgano que ha puesto punto y final a su andadura esta semana con la presentación del Manifiesto de Madrid por una IA responsable.
El documento reclama el control democrático de la tecnología, la soberanía digital y el rechazo a la autorregulación de las grandes multinacionales. Entre sus once firmantes están algunas de las voces de referencia en el debate sobre la inteligencia artificial, como el director del Centro de Ética Digital de la Universidad de Yale, el profesor Luciano Floridi; la filósofa Carissa Véliz; o Kate Crawford, profesora universitaria y autora de El Atlas de la IA, un referente en el análisis de las implicaciones sociales, políticas y ambientales de la IA. El comité ha sido presidido por Manuel Castells. Ninguno de los participantes ha recibido remuneración.
“Quiero dejar claro que hemos podido crear un grupo internacional porque el liderazgo que España ha asumido en este ámbito a nivel mundial ha sido reconocido por todos. Por eso creo que no hay que dar por sentado que personas de EEUU, de Australia y de toda Europa aceptaran participar en este proyecto, ya que España tenía la ambición no solo de llevar a cabo esta labor en España o en Europa, sino de ser líder a nivel mundial en un enfoque de la inteligencia artificial que anteponga a las personas y la democracia”, ha destacado Bria.
Una hoja de ruta en la estacada
La política del Gobierno en materia de IA deja varios hitos: el principal, haber liderado la negociación del Reglamento europeo de Inteligencia Artificial durante su Presidencia del Consejo de la UE en 2023, la primera ley sobre esta nueva generación de IA a nivel internacional. También creó la primera agencia nacional europea dedicada a la supervisión de la IA, la AESIA, y puso en marcha junto a la Comisión Europea el primer sandbox regulatorio de IA de la UE, un entorno de pruebas para estudiar cómo aplicar en la práctica las nuevas obligaciones.
España también participó activamente en la creación del comité internacional de 40 expertos sobre IA de la ONU y acogió en Madrid su primera reunión presencial. Una iniciativa que el Gobierno había ensayado ya unos meses antes con la creación de su propio grupo de expertos. Tras dos años de trabajo y reuniones periódicas en el Ministerio, el resultado ha sido un manifiesto que apunta las líneas maestras para la regulación “humanista” de la IA.
Unas pautas que ya no podrá ejecutar el actual Gobierno, al que el final de la legislatura ha llegado con buena parte de su agenda digital aún pendiente. Con casi total probabilidad decaerán sus dos banderas en este campo: la Ley Orgánica para la protección de personas menores de edad en los entornos digitales, que elevaba hasta los 16 años el mínimo legal para abrir una cuenta en redes sociales, creaba una app para verificarla y hacía responsables a las tecnológicas de los daños que causan los algoritmos; y la adaptación de la ley europea de IA, que incluía muchos de los avances propuestos por el Gobierno, como la capacidad sancionadora de la AESIA.
El documento de los expertos internacionales incluye 25 recomendaciones agrupadas en cuatro grandes ejes. Entre sus medidas clave, exige evaluaciones de seguridad independientes previas al despliegue de modelos avanzados de IA y de agentes de IA, la prohibición de las armas autónomas letales o la exigencia de que las empresas desarrolladoras se hagan responsables de los daños que produzca su tecnología.
Sobre este último punto ha tomado la palabra Kate Crawford, australiana, que ha recordado cómo los agentes de OpenAI hackearon el sistema sanitario de su país y la compañía tardó meses en informar a su gobierno. “La vulneración del sistema sanitario australiano fue un ataque grave a algo de lo que todos los australianos estamos profundamente orgullosos, que es nuestro sistema sanitario. Quiero reiterar que hemos alcanzado una línea roja muy clara para la inteligencia artificial, y por eso lanzamos este manifiesto en este momento: ya no es momento de esperar a ver qué pasa, es hora de actuar y de regular”, ha enfatizado.
El manifiesto también reclama la protección de la “autonomía cognitiva frente a algoritmos manipuladores”, reforzar la seguridad de los menores y vigilar el consumo de agua y energía de los centros de datos. Este último punto también cuenta con una regulación aprobada recientemente por el Ejecutivo que no decae por la convocatoria de elecciones al estar configurada como un Real Decreto ordinario que no necesita ser aprobado por el Congreso.
“Hay muchas leyes vivas que vamos a seguir empujando”, ha asegurado el ministro Óscar López, que ha prometido “reintroducir la ley de protección de menores en las redes sociales en el Parlamento” después de las elecciones, “además de seguir luchando para que llegue la legislación europea”.
“Según la Universidad de Stanford, España es el séptimo país del mundo en desarrollo de IA, y el sexto según Microsoft. Este país ha hecho mucho para desarrollar otro modelo de IA, no el que quieren los oligarcas tecnológicos”, ha concluido López: “La respuesta de este grupo de expertos y la respuesta de este gobierno es que hay que hacer, gobernar, regular, hay que hacer algo que nos permita aprovechar esas posibilidades, pero también minimizar los riesgos de la IA. Por eso son tan tramposas las voces que dicen que la regulación no es compatible con la innovación, porque no es verdad. Porque industrias como el automóvil han innovado durante más de un siglo con regulación como la que ahora algunas voces quieren impedir”.