Además, la dependencia de la IA conlleva el riesgo de una renuncia total a la agencia humana y el empobrecimiento de la inteligencia y la socialidad humanas. A medida que la autoridad para la toma de decisiones se ceda a los algoritmos, las personas se convertirán en nodos pasivos de un sistema que sustituye el pensamiento humano por el procesamiento de información de la IA («Bots R Us»), lo que erosionará la autonomía, la creatividad y la deliberación genuina.
Desde el punto de vista geopolítico, la IA amenaza con generar sistemas sin parangón de dominio y cohesión ideológicos y políticos. La cosmovisión dominante es aquella que domina la IA. La carrera de la IA no se dirige hacia la liberación, sino hacia un orden poshumano híbrido en el que la libertad queda obsoleta y el libre albedrío, como dice Yuval Noah Harari, es «historia».
En Vigilar y castigar (1975), Michel Foucault se refirió a la expansión gubernamental del Estado a través de «tecnologías de poder» de vigilancia como el «panoptismo» (195-230). El panoptismo describe una transmutación en la expresión y el ejercicio del poder que tuvo lugar desde el periodo premoderno hasta el moderno. Este cambio incluyó un alejamiento de las formas de castigo principalmente corporales (tortura, descuartizamiento, marcado a fuego y otros rituales brutales para infligir dolor físico), pero también la descentralización del poder, su metástasis y penetración en toda la sociedad; sus efectos ya no se limitaban a los presos, los enfermos mentales o los detenidos por otros motivos. El nuevo régimen «disciplinario» incluía las prisiones reformadas y otros lugares de reclusión, pero también escapaba de los límites de las instituciones para aplicarse universalmente a toda la población. Toda la sociedad se convirtió en una sociedad disciplinaria bajo el panoptismo.
© CopyrightPanóptico
Quien está sometido a un campo de visibilidad, y lo sabe, asume la responsabilidad de las restricciones del poder; hace que estas actúen espontáneamente sobre sí mismo; inscribe en sí mismo la relación de poder en la que desempeña simultáneamente ambos roles [el de observador y el de observado]; se convierte en el principio de su propia sujeción (202-203).Foucault muestra cómo las tecnologías de disciplina practicadas con el auge del panoptismo se han vuelto menos coercitivas, más ligeras, menos gravosas para el cuerpo, pero al mismo tiempo absolutamente omnipresentes.
Da la casualidad de que, al menos en EE.UU., el Panóptico será propiedad de Palantir (la empresa de programas informáticos que toma su nombre de las legendarias piedras videntes de El Señor de los Anillos) y estará gestionado por ella. Por un lado, la plataforma de inteligencia artificial Maven de Palantir ha sido designada «programa oficial» por el Pentágono, lo que la convierte en el sistema fundamental de inteligencia en el campo de batalla para la selección de objetivos, la asignación de recursos y la toma de decisiones en tiempo real. Maven emplea inteligencia artificial avanzada y aprendizaje automático (tecnologías que devoran colosales flujos de datos para detectar patrones e identificar objetos con una eficiencia implacable) para procesar imágenes por satélite, transmisiones de drones, señales de radar e informes de inteligencia. Detecta objetivos militares (vehículos, edificios, arsenales de armas) y luego automatiza amplios tramos de la denominada «cadena de destrucción», la secuencia militar de localizar, rastrear y atacar un objetivo, comprimiendo las decisiones desde la detección hasta la destrucción a una velocidad aterradora.
Por desgracia, esta misma maquinaria quedó al descubierto durante las primeras horas de la Operación Furia Épica. Un ataque estadounidense arrasó la escuela primaria femenina Shajareh Tayyebeh en Minab, al sur de Irán, causando la muerte de entre 165 y 180 personas, en su mayoría niñas de entre siete y doce años. El edificio hacía tiempo que había dejado de tener uso militar, pero la información de inteligencia obsoleta aún lo catalogaba como objetivo legítimo. La velocidad impulsada por la IA de Maven redujo a la mínima expresión el estrecho margen para el escrutinio humano, convirtiendo un patio de colegio en un osario en cuestión de segundos. Las investigaciones del ejército estadounidense han determinado que este es culpable del «accidente». El Pentágono está ahora «investigando» el papel de su propia plataforma en la atrocidad.
Comentario: O peor aún es la posibilidad de que la tecnología de IA se utilizara como «excusa», y que la escuela de las niñas fuera objetivo de destrucción con pleno conocimiento del resultado.
El progama de Palantir también ha sido utilizado por las Fuerzas de Defensa de Israel (FDI) en Gaza, con efectos devastadores. La empresa estableció una «alianza estratégica» formal con el Ministerio de Defensa de Israel en enero de 2024 (que incluyó una reunión de la junta directiva celebrada en Tel Aviv) con el objetivo explícito de suministrar tecnología avanzada para «misiones relacionadas con la guerra». Gotham y la plataforma de inteligencia artificial de Palantir se han utilizado para fusionar ingentes flujos de inteligencia, imágenes satelitales, comunicaciones interceptadas y datos de comportamiento en listas de objetivos generadas por IA, optimizando la «cadena de muerte» con una velocidad implacable y permitiendo una rápida selección de objetivos y ataques. La relatora especial de la ONU, Francesca Albanese, ha citado esta alianza como motivo para creer que las herramientas de Palantir han facilitado el «uso ilegal de la fuerza» por Israel, contribuyendo a un desproporcionado número de muertes de civiles y planteando la posibilidad de complicidad en crímenes de guerra. En resumen, la misma lógica preventiva que redujo a escombros una escuela de niñas en Irán ha sido puesta a prueba y perfeccionada a una escala mucho mayor en Gaza: las piedras videntes de IA de Palantir escrutan cada rincón del campo de batalla y dictan sentencia antes de que ninguna mano humana apriete el gatillo.
Por otra parte, el Departamento de Seguridad Nacional ha firmado un acuerdo de compra global por valor de mil millones de dólares para desplegar las plataformas Gotham y Foundry de Palantir en todo el departamento, fusionando datos de múltiples agencias para la identificación de amenazas, la gestión de casos y la coordinación operativa.
En abril de 2025, Palantir se adjudicó un contrato de 30 millones de dólares con el ICE para desarrollar ImmigrationOS, un sistema basado en inteligencia artificial destinado a gestionar todo el proceso de inmigración. Esto encaja con otros importantes contratos de la era Trump para la empresa: un posible acuerdo de programas y datos por valor de 10 000 millones de dólares con el Ejército de EE.UU., más de 180 millones de dólares en acuerdos con el IRS desde 2018 (con proyectos recientes que organizan los registros fiscales en bases de datos consultables, seleccionan objetivos de auditoría y detectan fraudes), y el trabajo en curso con el Departamento de Salud y Servicios Humanos y los CDC, incluido un proyecto de 443 millones de dólares para crear un único panel de control compartido que recopile datos de salud pública de múltiples sistemas.
Si se tienen en cuenta los vínculos de Palantir con más de 30 agencias federales adicionales, el patrón se vuelve inconfundible: Palantir posee una base de datos maestra de facto, que fusiona grandes cantidades de datos (sobre salud, obligaciones fiscales, trazas financieras, registros de viajes, estatus migratorio y patrones de comportamiento) en un cuadro panóptico. Dado que las herramientas de Palantir están diseñadas para la interoperabilidad, el Panóptico de Palantir se expande por necesidad. Los historiales médicos se incorporan a los expedientes de inmigración, a los datos fiscales y a la vigilancia policial predictiva. La lógica de la IA del campo de batalla se traslada sin fisuras a las fuerzas del orden nacionales.
Y no se trata solo de una base de datos. Se trata también de enjambres de agentes de IA que predicen comportamientos e inician acciones. Las capacidades de inteligencia de «precrimen» arraigadas desde hace tiempo en Gotham (reconocimiento de patrones, detección de anomalías y análisis predictivo) se están ampliando ahora para su aplicación a nivel nacional, convirtiendo a toda la población en nodos dentro de una matriz de amenazas totalizadora y en constante expansión.
Cuando una sola entidad se convierte en la infraestructura indispensable tanto para la selección de objetivos militares como para la fusión de datos nacionales, ya no estamos ante la mera fusión del Estado y la empresa. También nos enfrentamos al control estatal de la explosión de la inteligencia artificial. Nos enfrentamos a una dictadura de la IA, en términos de la clase dominante, por supuesto.
En el panóptico de Palantir, la torre central no es una garita de vigilancia, sino un parque de servidores. Los reclusos no son convictos, sino ciudadanos. Y la vigilancia es perpetua, penetrante y, como mínimo, «potenciada» por IA. Foucault lo habría reconocido al instante como la culminación de una gubernamentalidad tecno-biopolítica, como el panoptismo consumado. Yo lo veo así y como el cumplimiento de la advertencia que lancé hace seis años en Archipiélago Google: el gulag digital nunca iba a limitarse a Internet tal y como lo conocemos. Siempre estuvo destinado a convertirse en el sistema operativo del propio Estado corporativo. Es decir, ya no estamos en Internet. Estamos dentro de él. El Panóptico de Palantir no va a llegar aquí. Ya está aquí. Y una vez que despierte por completo, nunca volverá a cerrar los ojos.
Comentarios del Lector
a nuestro Boletín