La primera sesión de la IV edición del foro Mejores Empresas, Mejor Democracia estuvo dedicada a reflexionar sobre los desafíos éticos, políticos y humanos que plantea el desarrollo de la inteligencia artificial. Más allá de las aplicaciones concretas de estas tecnologías, la deliberación se centró en preguntas más fundamentales relacionadas con la idea de progreso y de la inteligencia y la responsabilidad moral en el diseño de sistemas que son cada vez más influyentes en la vida económica, política y social.

El foro comenzó con un diálogo entre Lucía Ortiz de Zárate, profesora de filosofía de la Universidad Autónoma de Madrid, y Juan Antonio Cordero Fuertes, moderado por el filósofo del derecho Ricardo Calleja, lecturer de Ética Empresarial en IESE Business School. A lo largo de la sesión se abordaron cuestiones como la lógica de la optimización tecnológica, los sesgos, la opacidad de los sistemas automatizados y la necesidad de incorporar una formación más humanística en el diseño y gobernanza de la tecnología.

Ponencia principal

La idea del progreso tecnológico

La conversación comenzó con una pregunta aparentemente sencilla planteada por Ricardo: ¿qué sentimos cuando leemos un titular que anuncia un nuevo avance en inteligencia artificial? ¿Alegría, preocupación o simplemente cautela antes de emitir un juicio?

A partir de esta cuestión emergió una primera reflexión crítica sobre la propia idea de progreso tecnológico. Lucía señaló que la mayoría de los supuestos avances en inteligencia artificial suelen estar asociados a una lógica de optimización y eficiencia. Sin embargo, advirtió que este tipo de progreso no posee, por sí mismo, un significado ético o moral. Para ella, la cuestión central no es únicamente cuánto crece la capacidad tecnológica, sino hacia dónde queremos dirigirla y qué costes estamos dispuestos a asumir para lograrlo, especialmente en términos ecológicos y sociales.

Juan Antonio introdujo entonces una cuestión terminológica fundamental: ¿de qué métricas hablamos exactamente cuando afirmamos que una inteligencia artificial “mejora”? ¿Velocidad de procesamiento? ¿Capacidad de cómputo? ¿Consumo energético? A su juicio, toda discusión sobre optimización implica necesariamente una decisión política previa acerca de qué variables queremos optimizar y por qué. La inteligencia artificial no puede separarse de las decisiones humanas que determinan sus objetivos, los datos que utiliza y la forma en que se modela la realidad. Cada proceso de modelización implica, inevitablemente, dejar fuera dimensiones de la realidad que no pueden ser fácilmente cuantificadas.

La problemática del término "inteligencia"

Uno de los grandes ejes del diálogo giró en torno al propio concepto de “inteligencia artificial”. Ambos ponentes coincidieron en cuestionar el uso del término, aunque desde perspectivas diferentes.

Juan Antonio sostuvo que lo que hoy denominamos inteligencia artificial no es realmente inteligencia, sino procesamiento masivo de datos. El auge actual responde a la convergencia de varios factores: la existencia de algoritmos avanzados, la capacidad masiva de recolección de datos, la infraestructura global de internet y la enorme potencia de procesamiento alcanzada por los microprocesadores contemporáneos. La revolución actual, señaló, es fundamentalmente una revolución de computación, automatización y digitalización.

Desde Platón y Aristóteles, la idea de inteligencia ha estado históricamente vinculada a relaciones de dominio: unos nacen para gobernar y otros para obedecer.

Lucía fue aún más lejos al afirmar que el propio término “inteligencia” resulta profundamente problemático porque genera expectativas desproporcionadas y desplaza el debate moral hacia lugares equivocados. Recordó que, desde Platón y Aristóteles, la idea de inteligencia ha estado históricamente vinculada a relaciones de dominio: unos nacen para gobernar y otros para obedecer. Bajo esa lógica, si una inteligencia artificial llegara a ser “más inteligente” que los seres humanos, deberíamos aceptar su dominación como algo natural. Sin embargo, advirtió que esa concepción de la inteligencia es extraordinariamente estrecha y excluye atributos fundamentales como el cuidado, la benevolencia, la intuición o la capacidad de comprender emocionalmente a los demás. Precisamente, varias de las habilidades tradicionalmente menos valoradas en el ámbito profesional —y frecuentemente asociadas al ámbito femenino— comienzan ahora a adquirir una nueva relevancia en un contexto en el que las máquinas parecen capaces de automatizar muchas tareas vinculadas al cálculo, el análisis o el razonamiento lógico.

Neutralidad, objetividad y sesgos

Otro de los temas centrales del diálogo fue si la IA puede ser neutral. En una encuesta antes de la ponencia principal, se preguntó a los participantes sobre los problemas morales o ético-políticos que plantea la IA, y la respuesta más común fue “sesgos”. Juan Antonio defendió que el núcleo matemático de los algoritmos de optimización sí puede considerarse neutral. El problema aparece en las decisiones políticas y sociales que rodean al sistema: qué datos se utilizan, cómo se clasifican y qué variables se consideran relevantes. Puso como ejemplo sistemas de selección de personal entrenados exclusivamente con datos históricos de hombres, reproduciendo así sesgos estructurales ya presentes en la sociedad. Matizó esta posición distinguiendo entre ciencia y tecnología. La ciencia puede aspirar a cierta neutralidad metodológica; sin embargo, la tecnología deja de ser neutral en el momento en que se aplica a fines concretos dentro de una sociedad determinada.

Mientras que en un medio de comunicación se puede intuir desde qué posición ideológica se construye un discurso, en la inteligencia artificial esa perspectiva suele permanecer oculta.

Lucía introdujo a continuación una distinción importante entre neutralidad y objetividad. A su juicio, los procesos técnicos pueden aspirar a la objetividad en la medida en que siguen metodologías verificables y contrastables. Sin embargo, la neutralidad es otra cuestión distinta. Toda tecnología “habla desde algún lugar”, incorpora una determinada visión del mundo y refleja prioridades concretas, aunque muchas veces estas permanezcan invisibles para el usuario. Mientras que en un medio de comunicación se puede intuir desde qué posición ideológica se construye un discurso, en la inteligencia artificial esa perspectiva suele permanecer oculta.

Por ello, insistió en la necesidad de abandonar la idea de que la tecnología es neutral. La opacidad tecnológica genera una falsa sensación de objetividad y contribuye a construir un aura de misterio alrededor de la inteligencia artificial. En muchos casos, señaló, aquello que interpretamos como “inteligencia” es simplemente el resultado de no comprender realmente cómo funcionan estos sistemas.

Tecnología, burocracia y dilución de la responsabilidad política

Los participantes reflexionaron también sobre el riesgo de que la creciente complejidad tecnológica contribuya a diluir responsabilidades individuales e institucionales. Juan Antonio describió algunas de las declaraciones públicas de líderes tecnológicos contemporáneos como discursos propios de un burócrata más que de un científico, que consisten en intervenciones cargadas de lenguaje oscuro y opaco. Citó también el ejemplo del “ministro” hecho por IA en Albania, que demuestra que la tecnología se convierte frecuentemente en un mecanismo utilizado por gobiernos y organizaciones para evitar asumir directamente determinadas decisiones.

A partir de referencias al castillo kafkiano, describió el riesgo de construir sistemas donde “no hay nadie al otro lado”: estructuras tecnológicas opacas ante las cuales los ciudadanos no encuentran interlocutores capaces de explicar o justificar las decisiones adoptadas. Esta lógica se agrava cuando la tecnología añade capas crecientes de distancia entre las personas y los procesos que organizan su vida cotidiana. Cuanto mayor es la eficiencia del sistema, mayor suele ser también la desconexión respecto a aquello que ocurre detrás de la interfaz tecnológica.

“No vale con que sean transparentes; tienen que ser explicables, tienen que ser entendibles”

Frente a ello, defendió la necesidad de que los algoritmos de toma de decisiones sean públicos, auditables y estén sometidos a responsabilidades humanas claras. Lucía coincidió en la importancia de la transparencia, aunque advirtió que hay que ir más allá y que “no vale con que sean transparentes; tienen que ser explicables, tienen que ser entendibles”. La ciudadanía necesita entender cómo y por qué se toman determinadas decisiones para poder cuestionarlas, aceptarlas o rechazarlas democráticamente.

¿Estamos empezando a pensar como máquinas?

La conversación concluyó con una reflexión sobre la formación humanística de ingenieros y responsables de toma de decisiones. El problema de fondo, señaló Ricardo, no es únicamente cuándo las máquinas llegarán a pensar como los seres humanos, sino cuándo los seres humanos empezamos a pensar como máquinas.

Juan Antonio Cordero Fuertes sostuvo que la inteligencia artificial representa la culminación de un modelo civilizatorio basado en la protocolización de problemas: convertir tareas complejas en procedimientos repetibles y automatizables. La IA no transforma radicalmente nuestra civilización, sino que lleva hasta sus últimas consecuencias una lógica que las sociedades industriales vienen desarrollando desde hace siglos. La verdadera cuestión no es únicamente qué hará la máquina, sino qué haremos nosotros con la capacidad excedente que genera.

Deberíamos invertir el razonamiento y comenzar preguntándonos qué tipo de sociedad queremos construir y solo después decidir qué tecnologías son compatibles con ella.

Lucía Ortiz de Zárate cuestionó, por su parte, la tendencia contemporánea a conceder automáticamente legitimidad a cualquier innovación tecnológica bajo la promesa de que sus posibles daños podrán corregirse en el futuro. Tal vez, propuso, deberíamos invertir el razonamiento y comenzar preguntándonos qué tipo de sociedad queremos construir y solo después decidir qué tecnologías son compatibles con ella. No todas las tecnologías, advirtió, son necesariamente coherentes con ideales de libertad, igualdad o justicia.

Ambos coincidieron en la importancia de incorporar formación humanística en el desarrollo tecnológico y en la toma de decisiones empresariales y políticas. Sin embargo, Lucía recordó que la responsabilidad no recae únicamente sobre ingenieros o científicos: existen múltiples actores implicados —empresas, gobiernos, inversores y reguladores—, aunque algunos posean una capacidad mucho mayor que otros para orientar el rumbo tecnológico de nuestras sociedades.

Deliberación

Tras la ponencia, los participantes se distribuyeron en mesas de deliberación para analizar las oportunidades y riesgos que plantea la IA para sus organizaciones y la democracia. Las deliberaciones reflejaron una valoración ampliamente positiva del potencial de estas tecnologías, aunque también pusieron de manifiesto preocupaciones relevantes relacionadas con la gobernanza, la desinformación y el impacto sobre determinadas capacidades humanas.

1. ¿Para qué consideras que puede ser útil utilizar la IA en tu organización?

Las deliberaciones mostraron un amplio consenso respecto a la utilidad práctica de la inteligencia artificial. Aunque los ejemplos variaron en función del sector y de la experiencia profesional de los participantes, la mayoría coincidió en identificar tres grandes ámbitos de aplicación.

La aplicación más inmediata señalada por los participantes fue la automatización de tareas repetitivas o de escaso valor añadido. Se mencionaron usos relacionados con la elaboración de documentos, el análisis de información, la redacción de borradores, la programación informática y la gestión de procesos administrativos.

En distintos sectores se compartieron experiencias que apuntan en la misma dirección: liberar tiempo para que los profesionales puedan concentrarse en tareas que requieren mayor capacidad de análisis, creatividad o juicio.

Más allá de la automatización, muchos participantes destacaron la capacidad de la IA para sintetizar grandes volúmenes de información y facilitar la toma de decisiones. Esta utilidad fue especialmente valorada en ámbitos como la inversión, los servicios jurídicos, la investigación o la administración pública, donde los profesionales deben trabajar habitualmente con grandes cantidades de datos y documentación. La posibilidad de identificar patrones, comparar escenarios o generar análisis preliminares fue considerada una de las contribuciones más prometedoras de estas herramientas.

Un tercer ámbito de utilidad señalado durante las deliberaciones fue la capacidad predictiva de determinados modelos. Algunos participantes destacaron el potencial de la IA para elaborar escenarios futuros, detectar tendencias emergentes o identificar riesgos que resultarían difíciles de anticipar mediante métodos tradicionales. Esta función de apoyo a la prospectiva apareció como una de las capacidades más valiosas para organizaciones que operan en entornos complejos e inciertos.

En conjunto, las mesas coincidieron en que la utilidad de la inteligencia artificial depende menos del sector concreto de actividad que de la naturaleza de las tareas desempeñadas. Allí donde existen procesos repetitivos, grandes volúmenes de información o necesidad de analizar múltiples variables simultáneamente, la IA ofrece oportunidades significativas de mejora.

2. A la luz de la ponencia, ¿cómo visualizas el impacto que va a tener la IA en el futuro de nuestra sociedad y de nuestra democracia?

A diferencia de la primera pregunta, donde predominó el consenso, esta segunda cuestión generó una discusión más abierta. Los participantes reconocieron importantes oportunidades asociadas al desarrollo de la inteligencia artificial, pero también identificaron riesgos que podrían afectar a la calidad de la democracia, la cohesión social y determinadas capacidades humanas.

Uno de los temas que apareció con más fuerza fue la preocupación por la desinformación. Los participantes señalaron que la capacidad creciente para generar imágenes, vídeos y contenidos sintéticos dificulta cada vez más distinguir entre información auténtica y manipulada.

Esta situación podría erosionar la confianza en medios de comunicación, instituciones públicas y procesos electorales, al tiempo que amplifica fenómenos de polarización ya presentes en muchas democracias.

También surgió preocupación por el papel de los algoritmos en la configuración del espacio público. Algunos participantes advirtieron que los sistemas de recomendación pueden reforzar dinámicas de aislamiento informativo y reducir la exposición a puntos de vista diversos, dificultando la deliberación democrática.

El impacto sobre el empleo constituyó otro de los grandes temas de discusión. A diferencia de anteriores revoluciones tecnológicas, varios participantes destacaron que la inteligencia artificial afecta especialmente a tareas de carácter intelectual y profesional.

Una preocupación recurrente fue la situación de los perfiles más jóvenes. Si las tareas de entrada desaparecen o se reducen significativamente, ¿cómo adquirirán los futuros profesionales la experiencia necesaria para desarrollar criterio propio? La cuestión fue planteada no solo como un desafío laboral, sino también como un problema de formación y transmisión del conocimiento.

Las deliberaciones reflejaron asimismo cierta inquietud sobre los posibles efectos de la IA en hábitos vinculados al aprendizaje, la lectura y el pensamiento crítico.

Algunos participantes expresaron preocupación por una posible dependencia creciente de sistemas capaces de proporcionar respuestas inmediatas, reduciendo el esfuerzo intelectual necesario para comprender problemas complejos. Otros señalaron que determinadas funciones tradicionalmente asociadas a las relaciones humanas —como el acompañamiento, la escucha o el apoyo emocional— comienzan a ser parcialmente ocupadas por asistentes conversacionales y sistemas inteligentes. Aunque estas tendencias fueron interpretadas de formas diferentes, existió un acuerdo amplio en que el desafío no es únicamente tecnológico, sino también cultural y educativo.

Junto a estos riesgos, los participantes identificaron numerosas oportunidades. La inteligencia artificial fue vista como una herramienta capaz de acelerar avances científicos, mejorar diagnósticos médicos, impulsar la investigación y aumentar la productividad en múltiples sectores.

También se destacó su potencial para democratizar el acceso al conocimiento y facilitar que personas y organizaciones dispongan de capacidades que anteriormente estaban reservadas a grandes instituciones o equipos especializados.

En la votación final realizada durante la sesión predominó una visión moderadamente optimista sobre el impacto de la inteligencia artificial. Aunque las preocupaciones fueron numerosas y significativas, la mayoría de los participantes consideró que los beneficios potenciales superan los riesgos, siempre que el desarrollo y despliegue de estas tecnologías vaya acompañado de mecanismos adecuados de gobernanza, supervisión y responsabilidad.