Un artículo cortado y pegado de ChatGPT plantea interrogantes sobre el papel de los verificadores de hechos en los medios de comunicación tradicionales.
© agsandrew/Getty Images
El artículo sindicado, distribuido por King Features, de Hearst, vendía títulos inventados basados en temas inventados, poniendo de relieve tanto la excesiva dependencia de los medios de los contenidos baratos de inteligencia artificial como la incurable podredumbre del periodismo tradicional. El hecho de que esta farsa pasara desapercibida para los editores de medios moribundos (el Sun-Times acababa de despedir al 20% de su plantilla) subraya una verdad más oscura: cuando la desesperación y la falta de profesionalidad se unen a algoritmos sin depurar, la difusa línea que separa los medios tradicionales de las tonterías simplemente desaparece.
La tendencia parece ominosa. La IA se ve abrumada por una mezcla de noticias falsas, datos falsos, ciencia falsa y mendacidad sin paliativos que está convirtiendo la lógica establecida, los hechos y el sentido común en un pútrido fango de podredumbre cognitiva. Pero, ¿qué es exactamente la alucinación de la IA?
La alucinación de la IA se produce cuando un modelo generativo de IA (como ChatGPT, DeepSeek, Gemini o DALL·E) produce información falsa, sin sentido o inventada con gran confianza. A diferencia de los errores humanos, estos errores se derivan de cómo los modelos de IA generan respuestas prediciendo patrones plausibles en lugar de sintetizar hechos establecidos.
¿Por qué "alucina" la IA?
Hay varias razones por las que la IA genera información totalmente incorrecta. No tiene nada que ver con el actual alarmismo sobre la posibilidad de que la IA adquiera sensibilidad o incluso alma.
Entrenamiento con datos imperfectos: La IA aprende de vastos conjuntos de datos repletos de sesgos, errores e incoherencias. Un entrenamiento prolongado con estos materiales puede dar lugar a la generación de mitos, hechos obsoletos o fuentes contradictorias.
Optimización excesiva de la verosimilitud: Contrariamente a lo que afirman algunos expertos, la IA no está ni cerca de alcanzar la "sensibilidad" y, por tanto, no puede discernir la "verdad". Los GPT, en particular, son gigantescas enciclopedias neuronales a escala planetaria que desmenuzan los datos y sintetizan la información más destacada basándose en patrones preexistentes. Cuando existen lagunas, las rellenan con respuestas estadísticamente probables (pero probablemente erróneas). Sin embargo, Este no fue el caso del fiasco del Sun-Times.
Falta de conexión con la realidad: A diferencia de los humanos, la IA no tiene experiencia directa del mundo. No puede verificar los hechos, ya que sólo puede imitar las estructuras del lenguaje. Por ejemplo, cuando se le pregunta "¿cuál es el coche más seguro en 2025?", puede inventar un modelo que no existe porque está rellenando el hueco de un coche ideal con las características deseadas (determinadas por la masa de "expertos") en lugar de uno real.
Incitación a la ambigüedad: Muchos usuarios de GPT son perezosos y puede que no sepan cómo presentar un aviso adecuado. Las instrucciones imprecisas o contradictorias también aumentan el riesgo de alucinación. Peticiones ridículas como "resume un estudio sobre gatos y teoría de género" pueden dar lugar a un estudio falso fabricado por IA que, a primera vista, puede parecer muy académico.
Generación creativa frente a recuerdo factual: Los modelos de IA como ChatGPT dan prioridad a la fluidez sobre la precisión. Cuando no están seguros, improvisan antes que admitir su ignorancia. Alguna vez te has encontrado con una respuesta de GPT que dice así: "lo siento, esto va más allá de mi formación".
Refuerzo de noticias falsas y patrones: Los GPT pueden identificar a usuarios particulares basándose en sus inicios de sesión (algo obvio), direcciones IP, peculiaridades semánticas y sintácticas y propensiones personales. Luego las refuerza. Cuando alguien utiliza constantemente las GPT para difundir noticias falsas o artículos propagandísticos, la IA puede reconocer esos patrones y proceder a generar contenidos parcial o totalmente ficticios. Es un caso clásico de oferta y demanda algorítmicas.
Recuerda que los GPT no sólo se entrenan en grandes conjuntos de datos, sino también en los tuyos.
Refuerzan los prejuicios y la censura de las grandes tecnológicas: Prácticamente todas las grandes empresas tecnológicas que están detrás de las GPT también se dedican a la censura a escala industrial y a la prohibición algorítmica en la sombra. Esto se aplica tanto a individuos como a plataformas de medios alternativos y constituye una damnatio memoriae moderna y digitalmente comisariada. El motor de búsqueda de Google, en particular, es propenso a subir de categoría los resultados de un plagiador en serie en lugar del artículo original.
La perpetuación de este fraude sistémico puede convertirse algún día en un auténtico escándalo mundial. Imagínate despertarse una mañana y leer que tus citas u obras favoritas son producto de una campaña cuidadosamente calibrada de desvío algorítmico a expensas de los ideadores o autores originales. Esta es la consecuencia inevitable de monetizar la censura mientras se subcontrata el "conocimiento" a una IA coja por parámetros ideológicos.
Experimentos sobre la credulidad humana: Hace poco planteé la posibilidad hipotética de que se entrenara a la IA para estudiar la credulidad humana, de un modo conceptualmente similar al Experimento Milgram, los Experimentos de Conformidad de Asch y su iteración, la Situación Crutchfield. Los humanos son crédulos y timoratos y la gran mayoría de ellos tiende a conformarse con la turba humana o, en el caso de la IA, con la "turba de datos".
Esto tendrá consecuencias inevitables en el mundo real, ya que la IA está cada vez más integrada en operaciones críticas y urgentes, desde las cabinas de pilotos y las centrales nucleares hasta los laboratorios de guerra biológica y las grandes instalaciones químicas. Ahora imagínate tomar una decisión fatídica en estos entornos de alto riesgo, basándote en datos erróneos de la IA. Esta es precisamente la razón por la que los "planificadores del futuro" deben comprender tanto el porcentaje como los tipos de personalidad de los profesionales cualificados que son propensos a confiar en recomendaciones erróneas generadas por máquinas.
¿Los verificadores de hechos no verificaron los hechos?
Cuando la IA genera un artículo en nuestro nombre, cualquier periodista que se precie debería considerarlo escrito por otra persona y, por tanto, sujeto a la comprobación de hechos y a la improvisación. Siempre que el producto final se someta a una comprobación de los hechos y se añadan valor, contenido y revisiones sustanciales al borrador original, no veo que el proceso implique ningún conflicto de intereses o infracción de la ética. Los GPT pueden actuar como catalizadores, editores o "abogados del diablo" para poner en marcha el proceso de redacción.
Lo que ocurrió en esta saga fue que el escritor, Marco Buscaglia, parecía haber cortado y pegado íntegramente la obra de ChatGPT y la hizo pasar por suya (desde que se destapó este vergonzoso episodio, su sitio web está en blanco y es privado). La sobrecarga de tonterías de temática woke generada por ChatGPT debería haber levantado banderas rojas en la mente de Buscaglia, pero supongo que él mismo podría ser propenso a vender estas cosas.
Sin embargo, todo el oprobio dirigido actualmente a Buscaglia debería aplicarse también a los editores de King Features Syndicate y a varios medios de comunicación que no comprobaron los hechos del contenido, incluso cuando se presentaban como los bastiones de la verdad, toda la verdad y nada más que la verdad. Varios niveles de control simplemente no hicieron su trabajo. Se trata de una dejación colectiva del deber por parte de los medios, que alquilan sus servicios a los poderosos mientras pontifican sobre ética, integridad y valores a los mortales de menor categoría.
Supongo que ya estamos acostumbrados a este doble rasero. Pero esto es lo aterrador: Estoy seguro de que los datos defectuosos y las entradas erróneas ya están fluyendo desde los sistemas de IA a las plataformas comerciales y financieras, los controles de aviación, los reactores nucleares, los laboratorios de guerra biológica y las plantas químicas sensibles, incluso mientras escribo esto. Los guardianes no están cualificados para tareas tan complejas, salvo sobre el papel. Estas son las consecuencias de un mundo "diseñado por payasos y supervisado por monos".
Terminaré con una nota que subraya la ironía de las ironías: Todos los editores afectados en esta saga podrían haber utilizado ChatGPT para someter el artículo de Buscaglia a una comprobación de contenido factual. ¡Sólo les habría llevado 30 segundos!
Comentarios del Lector
a nuestro Boletín