¿Qué riesgos plantea la IA para las empresas? ¿Cómo influye la IA en la agencia moral, la toma de decisiones y la deliberación en los consejos?

Esta sesión tiene como propósito crear un espacio de reflexión crítica y práctica sobre el impacto de la inteligencia artificial en la empresas y la democracia. El encuentro abordará cuestiones como la confianza en sistemas complejos y parcialmente opacos, las implicaciones de su uso para la responsabilidad corporativa y los límites de aceptar resultados técnicamente óptimos cuando plantean tensiones éticas o reputacionales.

Asimismo, el foro busca profundizar en cómo la IA influye en la agencia moral y en los procesos de toma de decisiones y deliberación dentro de los consejos. A través del diálogo interdisciplinar, se analizará el equilibrio entre el apoyo tecnológico al juicio humano y el riesgo de que este se vea condicionado o empobrecido, así como las competencias y formas de comprensión necesarias para que los consejeros sigan tomando decisiones responsables, prudentes y bien fundamentadas.

Preparación para la sesión

Antes de la sesión, se recomienda a los deliberantes revisar los siguientes materiales breves:

Materiales preparatorios

La inteligencia artificial se ha convertido en una de las tecnologías más influyentes de nuestro tiempo, con efectos que trascienden ampliamente el ámbito técnico. Su capacidad para procesar grandes volúmenes de información, automatizar decisiones y optimizar procesos está transformando la forma en que operan las empresas, se diseñan las políticas públicas y se articulan los sistemas democráticos. Esta expansión acelerada sitúa a la IA en el centro de un debate que ya no es solo tecnológico, sino también económico, ético y político. Impacto de la inteligencia artificial en el ámbito empresarial Inteligencia artificial, democracia y dilemas éticos Principales Desafíos para los Consejos Principales oportunidades para los Consejos Acciones que están tomando los Consejos para incorporar la IA Bibliografía Otras lecturas "Microsoft warns that China is winning AI race outside the west" Financial Times, 13 de enero, 2026 Manifiesto de Mapfre por una IA humanista, ética y responsable

Ponencia principal

La segunda sesión del foro estuvo dedicada a reflexionar sobre el impacto empresarial, social y geopolítico de la inteligencia artificial en un momento de aceleración tecnológica sin precedentes. A través de un diálogo entre José Sancho —inversor y fundador de Profit Gestión Informática— y José Manuel Inchausti —vicepresidente del Grupo Mapfre—, moderado por David Mejía, los participantes analizaron cómo la inteligencia artificial está transformando los modelos de negocio, alterando las dinámicas de competitividad y reconfigurando el equilibrio de poder económico y político a escala global.

La conversación abordó tanto los riesgos como las oportunidades asociadas a esta nueva revolución tecnológica: desde la concentración de poder en torno a las grandes infraestructuras de computación hasta la adaptación de las organizaciones, la transformación del empleo, la gobernanza corporativa de la IA y el desafío de integrar estas herramientas sin perder de vista el propósito y los valores de las compañías.

Una transformación comparable a la revolución industrial

El diálogo comenzó con una reflexión sobre el carácter estructural de la transformación que está provocando la inteligencia artificial. José Sancho defendió que el fenómeno actual no puede compararse simplemente con la expansión de internet a comienzos de los años 2000, sino que constituye una transformación mucho más profunda, comparable a la revolución industrial.

Mientras internet permitió conectar personas, acceder a información y desarrollar nuevas formas de comunicación y consumo, la inteligencia artificial está modificando directamente la manera en que se produce conocimiento, se toman decisiones y se organiza la actividad económica. En su opinión, nos encontramos ante un cambio de paradigma capaz de alterar profundamente la estructura productiva de las sociedades contemporáneas.

Desde la perspectiva de la inversión y el análisis financiero, explicó cómo la inteligencia artificial ya ha transformado radicalmente su propio sector. El trabajo tradicional de estudiar empresas a partir de documentación, relaciones y análisis manuales ha sido sustituido progresivamente por sistemas capaces de procesar cantidades masivas de información mediante distintos modelos especializados. En este contexto, quienes no incorporen la inteligencia artificial a sus procesos de trabajo sufrirán rápidamente una desventaja competitiva difícilmente reversible.

José Manuel Inchausti coincidió en el carácter estratégico de esta transformación, aunque desde una perspectiva más organizacional. En el caso de Mapfre, señaló que la inteligencia artificial ya se encuentra integrada en prácticamente toda la cadena de valor de la compañía: desde la tarificación de seguros hasta la atención al cliente, la automatización de procesos o la detección de fraude. Más del 70% de los clientes de Mapfre España interactuaron en el último año con algún sistema de inteligencia artificial desarrollado por la compañía.

Sin embargo, insistió en que la incorporación de estas herramientas no puede responder únicamente a una lógica tecnológica, sino que debe estar subordinada a la estrategia, los valores y el propósito de la organización. La cuestión central no es simplemente adoptar inteligencia artificial, sino decidir para qué se utiliza y bajo qué criterios se gobierna.

Infraestructuras, concentración de poder y soberanía tecnológica

Uno de los ejes más relevantes del diálogo giró en torno a la enorme concentración de poder económico y tecnológico que acompaña al desarrollo actual de la inteligencia artificial.

José Sancho describió los grandes centros de datos como las nuevas “factorías” de la inteligencia artificial. Frente a la revolución industrial clásica —basada en cadenas de producción, petróleo o banca—, las infraestructuras estratégicas contemporáneas son hoy las grandes nubes de computación capaces de entrenar y operar modelos avanzados de inteligencia artificial. Estas infraestructuras requieren inversiones gigantescas, enormes capacidades energéticas y acceso privilegiado a microprocesadores de última generación.

En este contexto, advirtió sobre el creciente desequilibrio entre Estados Unidos, China y Europa. Mientras Estados Unidos y China concentran prácticamente la totalidad de los grandes modelos fundacionales y las principales infraestructuras de computación avanzada, Europa corre el riesgo de quedar relegada a una posición de dependencia tecnológica estructural. La escala de capital necesaria para competir en este terreno sitúa a las compañías europeas muy lejos de los gigantes tecnológicos estadounidenses y chinos.

La conversación derivó así hacia la dimensión geopolítica de la inteligencia artificial. José Sancho recordó que los microprocesadores más avanzados se han convertido en activos estratégicos y explicó cómo el control de los chips, de la capacidad energética y de las infraestructuras de computación condiciona ya tanto la competitividad económica como el equilibrio de poder internacional.

A partir del ejemplo de la guerra de Ucrania, describió cómo tecnologías vinculadas a la inteligencia artificial —desde sistemas de comunicación satelital hasta drones autónomos— están transformando la naturaleza de los conflictos contemporáneos. También señaló el creciente peso de grandes compañías tecnológicas y de sus líderes en decisiones con impacto geopolítico global.

Riesgos operativos, regulatorios y reputacionales

Desde una perspectiva empresarial, José Manuel Inchausti identificó diversos tipos de riesgos asociados a la adopción de inteligencia artificial dentro de las organizaciones.

El primero de ellos es el riesgo operativo: cuando la inteligencia artificial pasa a formar parte de procesos críticos de negocio, cualquier error en los modelos puede traducirse directamente en decisiones incorrectas o disfunciones relevantes. En el sector asegurador, por ejemplo, la fijación de precios depende precisamente de la capacidad de estimar riesgos futuros a partir de enormes volúmenes de datos. Si los sistemas fallan, el impacto puede ser significativo.

A ello se añaden riesgos éticos, reputacionales y regulatorios. La inteligencia artificial puede incorporar sesgos, producir decisiones difíciles de explicar o generar interacciones no deseadas con clientes y usuarios. En sectores altamente regulados, como banca y seguros, las compañías deben además garantizar trazabilidad, explicabilidad y cumplimiento normativo en cada uno de sus procesos automatizados.

Otro de los grandes desafíos identificados fue el relacionado con la calidad del dato. La inteligencia artificial es tan fiable como los datos sobre los que se construye. Datos incompletos, sesgados o mal estructurados generan inevitablemente resultados deficientes, independientemente de la sofisticación del modelo utilizado.

Finalmente, ambos participantes coincidieron en señalar la creciente competencia por el talento especializado como uno de los factores críticos del nuevo escenario tecnológico. La demanda de perfiles capaces de combinar conocimiento técnico, criterio empresarial y comprensión estratégica está creciendo mucho más rápido que la oferta disponible.

Gobernanza de la IA y propósito organizacional

El diálogo abordó también la necesidad de desarrollar modelos de gobernanza específicos para la inteligencia artificial dentro de las organizaciones.

José Manuel Inchausti explicó cómo Mapfre decidió ordenar y estructurar estratégicamente el desarrollo de la inteligencia artificial dentro de la compañía mediante la elaboración de un manifiesto interno sobre IA. El documento articula principios, límites, criterios de decisión y estructuras de gobierno aplicables a toda la organización.

El manifiesto parte de una idea central: la inteligencia artificial debe estar al servicio de las personas —clientes, empleados y colaboradores— y no orientarse exclusivamente a la reducción de costes o sustitución de empleo. A partir de ahí, la compañía desarrolló mecanismos específicos de supervisión, escalabilidad, control de datos, evaluación de riesgos y alineamiento estratégico.

Para Inchausti, este tipo de gobernanza resulta imprescindible en organizaciones complejas y multinacionales. La inteligencia artificial no puede desarrollarse simplemente como una sucesión de experimentos tecnológicos aislados, sino que requiere reflexión institucional, coordinación y criterios claros sobre qué usos son compatibles con la identidad y los valores de la compañía.

En este sentido, insistió en que la verdadera diferencia competitiva no dependerá únicamente del acceso a la tecnología —cada vez más accesible para muchas empresas—, sino de la capacidad de integrarla de manera coherente con el propósito organizacional y con una visión de largo plazo.

Empleo, productividad y transformación del trabajo

La conversación abordó también el impacto de la inteligencia artificial sobre el empleo y sobre la organización del trabajo.

José Sancho señaló que los efectos más visibles comienzan ya a percibirse especialmente entre perfiles junior y titulados recientes. Actividades vinculadas a programación básica, elaboración de informes, análisis de datos o producción de contenidos están siendo crecientemente automatizadas mediante herramientas capaces de ejecutar tareas repetitivas con gran eficiencia.

Al mismo tiempo, explicó cómo determinadas funciones profesionales están transformándose rápidamente. En ámbitos como la programación o los servicios de atención al cliente, la inteligencia artificial permite automatizar tareas repetitivas y desplazar progresivamente ciertas funciones de ejecución hacia perfiles más orientados a supervisar, coordinar y gestionar sistemas complejos de agentes automatizados.

Sin embargo, ambos participantes coincidieron en que el efecto de la inteligencia artificial no debe entenderse únicamente como sustitución directa de trabajadores, sino como una profunda transformación de funciones, capacidades y dinámicas laborales.

José Manuel Inchausti defendió que, al menos en organizaciones como Mapfre, la inteligencia artificial está siendo utilizada principalmente para ampliar las capacidades de las personas y liberar tiempo de tareas administrativas o repetitivas. La tecnología permite ofrecer mejor información, mejorar la atención al cliente y aumentar la productividad, pero sigue siendo necesario el juicio humano, la relación interpersonal y la capacidad de generar confianza.

En paralelo, las compañías se enfrentan al reto de acompañar cultural y emocionalmente estos procesos de transformación. La aparición de herramientas de inteligencia artificial generativa ha provocado inquietud e incertidumbre en muchos profesionales respecto a la estabilidad futura de sus puestos de trabajo.

Frente a ello, Mapfre ha desarrollado programas internos de formación en inteligencia artificial para miles de empleados, así como entornos controlados de uso que permitan aprovechar las nuevas capacidades tecnológicas sin comprometer la seguridad de la información ni la identidad de la compañía. La clave, señaló Inchausti, no es únicamente incorporar tecnología, sino ayudar a las personas a comprenderla, utilizarla y convivir con ella dentro de un marco de confianza.

Optimismo prudente ante una transformación inevitable

La sesión concluyó con una reflexión sobre el papel que pueden desempeñar las empresas europeas y españolas en este nuevo contexto tecnológico global.

José Sancho insistió en la enorme velocidad y profundidad de la transformación en curso, así como en las desigualdades estructurales que probablemente generará la concentración de infraestructuras, capital y capacidad computacional en muy pocos actores globales.

José Manuel Inchausti, por su parte, quiso cerrar el diálogo con una visión más optimista. Aunque reconoció la magnitud de los desafíos tecnológicos y geopolíticos, defendió que el verdadero diferencial competitivo seguirá dependiendo de la capacidad de las organizaciones para utilizar la tecnología con criterio, propósito y responsabilidad.

La inteligencia artificial, señaló, no sustituye automáticamente la calidad del liderazgo, la cultura corporativa ni la capacidad de generar valor para clientes, empleados y sociedad. Las empresas que sepan integrar estas herramientas manteniendo claridad estratégica, una gobernanza sólida y una orientación clara hacia las personas seguirán teniendo un papel relevante en el nuevo escenario global.

La sesión concluyó reafirmando la necesidad de afrontar la transformación tecnológica desde una combinación de ambición, prudencia y responsabilidad institucional, evitando tanto el inmovilismo como una visión simplista o exclusivamente tecnológica de los desafíos asociados a la inteligencia artificial.

Deliberación

Después de ver la ponencia arriba, os invitamos a responder a estas preguntas de deliberación.

Preguntas para la deliberación

Segunda sesión de la IV edición del foro Mejores Empresas, Mejor Democracia

Materiales preparatorios

Preguntas para la deliberación

Segunda sesión de la IV edición del foro Mejores Empresas, Mejor Democracia