La espada y el algoritmo

/ por Manuel J. Moya Araújo /

Todos los que seguimos con interés —y no sin cierta inquietud— las noticias de actualidad relacionadas con la industria de la inteligencia artificial (IA) sabemos que recientemente una de las empresas tecnológicas que mayor protagonismo han adquirido en este ámbito, Palantir Technologies, conocida por sus sistemas de integración y análisis de información empleados por agencias gubernamentales, servicios de inteligencia y grandes corporaciones, publicó en su cuenta oficial de X un manifiesto de veintidós puntos bajo el título The Technological Republic, in brief, que suscitó cierto revuelo. El texto condensaba las principales tesis de The Technological Republic, el libro publicado el año anterior por su consejero delegado, Alexander Karp, y Nicholas Zamiska, y exponía una visión no tanto del futuro del sector tecnológico como del futuro de los Estados Unidos y, por extensión, de Occidente.

Como ocurre con frecuencia en este tipo de manifiestos, buena parte de su contenido no es más que un burdo ejercicio de legitimación ideológica. Sin embargo, su tesis operativa merece ser tomada en serio y puede resumirse del siguiente modo: en opinión de Palantir, la eficacia del poder estatal contemporáneo depende cada vez menos de la mera posesión de recursos materiales y cada vez más de la capacidad para coordinarlos mediante la organización, el procesamiento y la interpretación de la información. Cuando Alexander Karp —una figura poco habitual en Silicon Valley, formado en teoría social en Fráncfort y brevemente alumno de Jürgen Habermas— afirma que el hard power del siglo xxi se construirá sobre el software, no está formulando simplemente una imagen retórica, sino señalando una transformación muy real en las condiciones de ejercicio del poder.

Ahora bien, para comprender qué significa realmente que el software pueda convertirse en una infraestructura del poder no basta con atender a la digitalización de funciones administrativas o a la automatización de determinados procesos. Las administraciones llevan siglos incorporando nuevas herramientas para gestionar territorios, recaudar impuestos, organizar ejércitos o recopilar información. La cuestión verdaderamente novedosa aparece en otro nivel. Para advertirla conviene detenerse en uno de los conceptos centrales de la arquitectura de Palantir: su «ontología».

La «ontología» —la arquitectura conceptual sobre la que Palantir construye sus soluciones comerciales— constituye un ejemplo particularmente revelador. El término no debe entenderse aquí en su sentido filosófico clásico, esto es, como la rama de la metafísica que estudia el ser en cuanto ser, sino como una estructura formal destinada a definir qué entidades existen dentro de un sistema, cómo se relacionan entre sí y qué patrones resultan significativos. La elección del nombre no parece casual. Del mismo modo que la ontología filosófica se interroga por aquello que existe, la ontología de Palantir determina qué elementos de la realidad merecen ser tenidos en cuenta, cómo se vinculan y qué cabe hacer con ellos. Individuos, organizaciones, vehículos, domicilios, movimientos financieros, registros telefónicos o acontecimientos aparecen así integrados en una misma red de relaciones susceptible de ser explorada, clasificada y jerarquizada. El resultado no es simplemente una base de datos especialmente sofisticada, sino una determinada representación de la realidad.

Las consecuencias de esta mediación son difíciles de exagerar. El decisor político conserva la capacidad formal de decidir, pero la realidad sobre la que ejerce esa capacidad se le presenta ya organizada mediante correlaciones, alertas, índices de relevancia y patrones previamente establecidos. El problema fundamental no es, por tanto, la externalización de funciones administrativas, sino la externalización de determinadas funciones cognitivas. La agencia jurídica permanece intacta mientras la agencia cognitiva comienza a desplazarse.

En consecuencia, la oferta de Palantir no es meramente técnica. No busca únicamente ayudar a decidir, sino fijar de antemano el terreno de la decisión. Determina qué datos cuentan, qué relaciones resultan visibles y qué problemas aparecen como relevantes. En este punto, el software deja de ser una herramienta y se convierte en infraestructura. Ya no se limita a ejecutar órdenes; organiza la realidad sobre la que esas órdenes se aplican, de modo que quien controla ese nivel no decide necesariamente cada caso concreto, pero sí algo más decisivo: cómo aparece el mundo para quien debe decidir.

Un enfoque similar aparece formulado, desde presupuestos muy distintos, en la encíclica Magnifica humanitas del papa León XIV. Reflexionando sobre los desafíos éticos planteados por la IA, el pontífice sostiene que ningún sistema técnico puede considerarse moralmente neutro, puesto que todo artefacto incorpora decisiones previas acerca de aquello que mide, aquello que ignora, aquello que optimiza y el modo en que clasifica personas y situaciones. Por ello, añade, el problema ético no consiste únicamente en preguntarse si utilizamos una determinada tecnología para fines buenos o malos, sino también qué idea de persona y de sociedad queda inscrita en los datos y modelos que la constituyen.

La observación merece atención porque trasciende el ámbito específico de la IA y remite a una cuestión filosófica más amplia: la neutralidad de la técnica. Durante largo tiempo, la respuesta dominante a esta cuestión fue de carácter instrumentalista. Los instrumentos, según esta perspectiva, carecen de orientación moral propia. Todo depende del uso que los seres humanos hagan de ellos. Una espada puede servir para asesinar o para defender; un barco puede transportar mercancías o soldados; una imprenta puede difundir tratados científicos o propaganda fascista. La responsabilidad recae íntegramente sobre el agente y no sobre el instrumento.

Quizá ninguna formulación exprese mejor esta posición que la sentencia que la tradición ha condensado en la fórmula lapidaria —gladius non occidit: occidentis instrumentum est, «la espada no mata, es instrumento de quien mata»—, cuya raíz se halla en un pasaje de las epístolas de Séneca: quemadmodum gladius neminem occidit, occidentis telum est (Ep. 87, 30), «del mismo modo, la espada no mata a nadie, es el arma de quien mata». A primera vista, la frase encierra una verdad difícilmente discutible.

Sin embargo, junto a esa tradición instrumentalista encontramos ya desde la Antigüedad otra intuición. En la Odisea (XIX, 13) aparece una expresión cuya fuerza ha llamado la atención de numerosos comentaristas: autòs gàr ephélketai ándra sídēros, que, en una paráfrasis libre —quizá excesivamente libre—, vendría a decir algo así como: «La propia espada incita a la violencia». No se trata, claro está, de atribuir voluntad al metal ni de sostener que el arma obligue a nadie a ejercer la violencia. La observación homérica apunta en una dirección más sutil: sugiere que ciertos artefactos, por su propia naturaleza, modifican las condiciones dentro de las cuales actuamos; que algunas herramientas favorecen unos comportamientos y dificultan otros, y que la mera existencia de determinados instrumentos transforma el horizonte de posibilidades disponible para quienes los emplean.

La filosofía contemporánea ha desarrollado esta intuición con considerable sofisticación. Jacques Ellul insistió en que la técnica tiende a constituir un entorno relativamente autónomo, capaz de reorganizar progresivamente las actividades humanas conforme a sus propias exigencias funcionales. Con todo, una formulación más equilibrada puede encontrarse en la obra de Langdon Winner. En su célebre ensayo «Do Artifacts Have Politics?», Winner argumentó que los artefactos tecnológicos pueden incorporar determinadas presuposiciones acerca de sus usuarios, de sus fines y de las formas de organización social dentro de las cuales operan. No es necesario imaginar una conspiración ni atribuir conciencia a las máquinas. Basta reconocer que todo diseño implica elecciones. Elegir qué medir, qué registrar, qué optimizar y qué considerar relevante supone ya introducir una determinada visión de la realidad.

Desde esta perspectiva, lo que el pontífice está señalando no es simplemente un problema de uso, sino un problema de diseño. Las tecnologías avanzadas no son recipientes vacíos que esperan ser llenados por la voluntad de sus usuarios. Incorporan ya una determinada antropología implícita, una determinada jerarquía de prioridades y una determinada concepción de aquello que merece atención.

Volvemos así al problema planteado por Palantir. Cuando una plataforma tecnológica organiza millones de registros y los transforma en modelos operativos destinados a orientar decisiones gubernamentales, militares o policiales, no está sustituyendo formalmente a quienes ejercen la autoridad. No obstante, interviene en un nivel anterior al propio acto de decidir. Determina qué aspectos de la realidad resultarán visibles, qué relaciones aparecerán como significativas y qué fenómenos serán considerados dignos de atención. En otras palabras, configura las condiciones de inteligibilidad sobre las que después se ejercerá el juicio político.

La IA podría transformar la producción, alterar las relaciones de trabajo o incluso reducir la dependencia del trabajo humano. Sin embargo, una parte importante de su despliegue actual se orienta hacia la vigilancia, el control y la predicción. No es una elección neutra: es política a un nivel tan elemental que apenas lo parece. Son usos que no desestabilizan el sistema, sino que lo hacen más gobernable: reducen la incertidumbre, permiten anticipar comportamientos y refuerzan los mecanismos de control. La cuestión resulta especialmente relevante en las democracias contemporáneas, donde la soberanía popular se ejerce a través de complejas estructuras administrativas y de gobierno. En este sentido, la soberanía democrática no desaparece, pero ve desplazadas sus condiciones efectivas de ejercicio: la decisión permanece formalmente en el ámbito jurídico, mientras que la determinación del campo sobre el que se decide se traslada a la infraestructura que la hace posible.

Si el horizonte descrito por The Technological Republic llegara a consolidarse, la cuestión ya no sería simplemente quién decide, sino también quién organiza previamente el mundo dentro del cual las decisiones resultan posibles. Cuando quienes diseñan la infraestructura cognitiva coincidan con quienes ejercen el poder político, la distancia entre agencia jurídica y agencia cognitiva tenderá a reducirse hasta desaparecer. Por tanto, si plataformas como Palantir y otras empresas del ecosistema neorreaccionario de Silicon Valley logran integrar de forma estable la infraestructura cognitiva con los centros efectivos de decisión estatal hasta formar con ellos una misma estructura de poder, la «deuda moral» de Silicon Valley a la que alude el propio manifiesto quedará saldada: acreedor y deudor habrán terminado convirtiéndose en una misma realidad.