Todavía hablamos con demasiada frecuencia de la inteligencia artificial como si fuera un enfrentamiento entre el ser humano y la máquina.
¿Quién será más rápido? ¿Quién tomará las mejores decisiones? ¿Qué profesiones desaparecerán? ¿Qué competencias seguirán siendo exclusivamente humanas?
Este relato resulta atractivo, pero nos encierra en una pregunta demasiado limitada: ¿quién ganará?
Mientras buscamos un ganador, las organizaciones deben responder a interrogantes mucho más inmediatos. ¿En qué decisiones podemos incorporar una inteligencia artificial? ¿Con qué datos? ¿Con qué controles? ¿Quién seguirá siendo responsable? ¿Cómo continuar funcionando si el sistema se equivoca, deja de estar disponible o sufre un ataque?
La verdadera línea divisoria probablemente no pasará entre los seres humanos y las máquinas. Separará a las organizaciones capaces de utilizar estas tecnologías con discernimiento de aquellas que simplemente habrán automatizado sus antiguas fragilidades.
El poder pertenece a quienes todavía saben verificar
Pilar Métrics: poder y amenazas
La inteligencia artificial ya está modificando las relaciones de poder.
Permite analizar grandes cantidades de información, detectar correlaciones, producir contenidos persuasivos y acelerar determinadas decisiones. Ofrece nuevas capacidades a las empresas y las instituciones públicas, pero también a los grupos criminales y a los actores que desarrollan estrategias de desestabilización.
La misma tecnología puede servir para identificar una campaña de desinformación o para fabricar una. Puede reforzar una infraestructura crítica o contribuir a detectar sus vulnerabilidades. Puede facilitar el acceso al conocimiento o saturar el espacio informativo de contenidos engañosos.
El informe 2026 de la Agencia de la Unión Europea para la Ciberseguridad destaca especialmente el peso de las tensiones geopolíticas y de la creciente interconexión de los ecosistemas digitales. También recuerda que nuestras dependencias tecnológicas amplían la superficie de ataque.[1]
En este contexto, el poder ya no reside únicamente en la cantidad de información disponible. Reside en la capacidad de establecer su procedencia, contrastarla, comprender sus límites y rechazar una respuesta cuando no resulta suficientemente fiable.
Por tanto, el reto estratégico no consiste solo en adoptar la inteligencia artificial. Consiste en conservar una capacidad autónoma de evaluación.
Un avance técnico solo se vuelve útil cuando cambia de escala
Pilar Métrics: ciencia y tecnologías
Una demostración espectacular puede realizarse en unos minutos. Su transformación en una capacidad operativa requiere mucho más tiempo.
Entre el laboratorio y el terreno están los datos, las infraestructuras, la ciberseguridad, la interoperabilidad, las competencias, el mantenimiento, la financiación y el cumplimiento normativo. También es necesario comprender el contexto en el que se utilizará la tecnología y las posibles consecuencias de un error.
Esta diferencia explica por qué dos organizaciones que disponen de la misma herramienta pueden obtener resultados radicalmente opuestos. La tecnología no sustituye al conocimiento del oficio ni a la comprensión del problema.
El Reglamento europeo de inteligencia artificial traduce esta exigencia en responsabilidad organizativa. Su artículo 4 obliga a los proveedores y responsables del despliegue de sistemas de IA a adoptar medidas para garantizar a sus equipos un nivel suficiente de alfabetización en materia de IA, en función de sus conocimientos, su experiencia y el contexto de uso. Para los sistemas considerados de alto riesgo, el Reglamento también establece obligaciones de gestión de riesgos, transparencia y supervisión humana.[2]
En otras palabras, comprar una herramienta no basta. Hay que saber qué hace, qué no hace y en qué circunstancias sus resultados dejan de ser fiables.
La innovación comienza con una tecnología. La transformación comienza cuando la organización adquiere la capacidad de comprenderla y gobernarla.
Diseñar pensando en el día en que el sistema deje de responder
Pilar Métrics: sistemas críticos y resiliencia
Solemos evaluar un sistema cuando funciona en condiciones normales. Sin embargo, la resiliencia se mide cuando esas condiciones desaparecen.
¿Qué ocurre si los datos están dañados? ¿Si el proveedor deja de estar disponible? ¿Si una actualización modifica el rendimiento del modelo? ¿Si un ataque apunta a un componente de la cadena tecnológica? ¿Si los equipos ya no saben realizar manualmente una operación que se ha automatizado por completo?
La Directiva europea NIS2 incluye precisamente la continuidad de la actividad, la gestión de crisis, las copias de seguridad y la seguridad de las cadenas de suministro entre las medidas de gestión de riesgos que se esperan de las entidades comprendidas en su ámbito de aplicación. También atribuye a los órganos de dirección una función de aprobación y supervisión de estas medidas.[3]
En el sector financiero, el Reglamento DORA lleva esta lógica más lejos al imponer un enfoque estructurado de la resiliencia digital y programas de pruebas adaptados a los riesgos: análisis de vulnerabilidades, pruebas basadas en escenarios, revisiones de seguridad y pruebas de penetración.[4]
La CNIL recomienda, por su parte, combinar la seguridad informática clásica con un análisis de los riesgos propios de los sistemas de IA. Insiste especialmente en la fiabilidad de los datos, la documentación de los componentes, el conocimiento de los límites del sistema, las auditorías de seguridad y la preparación de procedimientos de reversión.[5]
Por tanto, la pregunta no es: «¿Es eficaz este sistema?»
Es: «¿Seguiremos siendo capaces de actuar cuando deje de comportarse como estaba previsto?»
La automatización redistribuye las responsabilidades
Pilar Métrics: economía, gobernanza y factor humano
Las tecnologías nunca entran en una organización neutra.
Afectan a las responsabilidades, las competencias, las formas de evaluación y la circulación de la información. Pueden poner en cuestión una profesión, pero también un estatus, una identidad profesional o una forma de poder.
Por eso, las resistencias no deben interpretarse demasiado deprisa como un rechazo al progreso. Pueden expresar preguntas perfectamente legítimas: ¿quién controlará el resultado? ¿Quién responderá del error? ¿Cómo se evaluará mi trabajo? ¿Ganaré autonomía o simplemente tendré que producir más?
Según la Organización Internacional del Trabajo, aproximadamente uno de cada cuatro trabajadores ejerce ya una profesión con cierto grado de exposición a la inteligencia artificial generativa. Sin embargo, la OIT considera que la transformación de los empleos sigue siendo más probable que su eliminación completa, especialmente porque muchas tareas continúan requiriendo intervención humana. Por ello, llama a organizar esta evolución mediante el diálogo social.[6]
Esta transformación no puede dirigirse únicamente mediante indicadores de productividad.
Un cuadro de mando puede medir el número de tareas automatizadas o el tiempo ahorrado. Revela con mucha menos facilidad la pérdida de confianza de un equipo, la desaparición progresiva de una competencia crítica o el hecho de que algunos colaboradores ya no se atrevan a cuestionar las recomendaciones de un sistema.
Los principios revisados de la OCDE sobre inteligencia artificial insisten precisamente en la transparencia, la robustez, la trazabilidad y la responsabilidad a lo largo de todo el ciclo de vida de los sistemas.[7]
Por tanto, una gobernanza seria no consiste en pedir a los equipos que confíen en la herramienta. Consiste en crear las condiciones en las que esa confianza puede concederse, limitarse o retirarse.
El valor de una solución comienza después de la demostración
Pilar Métrics: experimentación y soluciones de socios
Las demostraciones tecnológicas suelen realizarse en un entorno controlado. Las organizaciones, en cambio, operan en condiciones mucho menos ordenadas.
Sus datos son imperfectos. Los sistemas existentes tienen dificultades para comunicarse entre sí. Las responsabilidades están repartidas. Las limitaciones jurídicas, presupuestarias y humanas se superponen.
Por eso, una solución debe ponerse a prueba en escenarios reales: crisis cibernética, interrupción del suministro, indisponibilidad de un proveedor, ataque informativo, fallo de un sensor o decisión tomada bajo una fuerte presión.
Hay que probar no solo la tecnología, sino también la organización que la utiliza.
¿Quién detecta el incidente? ¿Quién puede detener el sistema? ¿Existe una solución alternativa? ¿Saben los equipos actuar sin la herramienta? ¿Son reversibles los datos y los modelos? ¿Están claramente definidas las responsabilidades entre el diseñador, el integrador, el proveedor y el usuario?
La experimentación se convierte entonces en un instrumento de gobernanza. Permite contrastar las promesas con la realidad, revelar las dependencias y determinar las condiciones en las que una innovación puede contribuir realmente a la resiliencia.
Elegir qué queremos reforzar
Todavía no conocemos los límites definitivos de la inteligencia artificial. Buscar desde hoy las competencias que nunca podrá reproducir corre el riesgo de distraernos de decisiones más urgentes.
En cambio, podemos elegir las capacidades que queremos reforzar: el discernimiento, la preparación, la cooperación, la responsabilidad y la libertad de cuestionar una decisión automatizada.
En esta perspectiva se inscribe Métrics.
Conectar a especialistas en amenazas, científicos, industriales, responsables de sistemas críticos, dirigentes, juristas y actores de la financiación permite superar una visión exclusivamente tecnológica del progreso.
Porque una organización no se vuelve resiliente cuando posee las herramientas más avanzadas.
Lo hace cuando sabe por qué las utiliza, qué responsabilidades les confía y cómo seguirá decidiendo cuando alcancen sus límites.
Notas y referencias
1. ENISA, Threat Landscape 2026, análisis de las amenazas que afectan a la Unión Europea y de la incidencia de las dependencias digitales: Agencia de la Unión Europea para la Ciberseguridad https://www.enisa.europa.eu/publications/enisa-threat-landscape-2026.
2. Reglamento (UE) 2024/1689 sobre inteligencia artificial, en particular los artículos 4, 9, 13 y 14 relativos a la alfabetización en materia de IA, la gestión de riesgos, la transparencia y la supervisión humana: texto oficial en EUR-Lex https://eur-lex.europa.eu/legal-content/FR/ALL/?uri=CELEX:32024R1689.
3. Directiva (UE) 2022/2555, conocida como NIS2, en particular los artículos 20 y 21 sobre la responsabilidad de los órganos de dirección, la continuidad de la actividad, la gestión de crisis y la seguridad de las cadenas de suministro: texto oficial en EUR-Lex https://eur-lex.europa.eu/legal-content/FR/TXT/?uri=CELEX:32022L2555.
4. Reglamento (UE) 2022/2554, conocido como DORA, en particular los artículos 24 a 27 relativos a los programas de pruebas de resiliencia operativa digital: texto oficial en EUR-Lex https://eur-lex.europa.eu/legal-content/FR/TXT/?uri=CELEX:32022R2554.
5. CNIL, Garantizar la seguridad del desarrollo de un sistema de IA, recomendaciones sobre análisis de riesgos, auditorías, limitaciones de uso, controles de resultados y procedimientos de reversión: recomendaciones de la CNIL https://www.cnil.fr/fr/ia-garantir-la-securite-du-developpement.
6. Organización Internacional del Trabajo, Inteligencia artificial generativa y empleo: revisión 2025: nota de investigación de la OIT https://www.ilo.org/fr/publications/intelligence-artificielle-generative-et-emploi-revision-2025.
7. OCDE, Principios sobre inteligencia artificial, revisados en 2024: transparencia, explicabilidad, robustez, seguridad operativa, protección y responsabilidad: Principios de la OCDE sobre IA https://www.oecd.org/fr/themes/principes-de-l-ia.html.
