11/06/2026
Los desafíos y límites de la Inteligencia Artificial como herramienta de apoyo a la alfabetización mediática
Introducción: IA y alfabetización mediática en la era de la desinformación
No cabe duda de que, si bien la comunicación de noticias falsas con el fin de orientar la opinión pública no es algo novedoso, a lo largo de este siglo y especialmente la última década se ha convertido en un fenómeno completamente diferente. La ubicuidad en el uso de las redes sociales, también para informarse, que ha conducido al sistema híbrido de medios (Chadwick, 2017) atravesado por campanas de eco (Liu et al., 2025), con unos medios tradicionales de comunicación con crecientes cotas de pérdida de legitimidad (Laviana, 2024; Soengas Pérez et al., 2023), han producido cambios cualitativos en los procesos de formación de opinión, y más ampliamente sobre cómo fluyen las dinámicas informativas (Wahlström & Törnberg, 2021).
La emergencia de la Inteligencia Artificial (IA) en los últimos años ha aumentado exponencialmente el problema en este sentido. Para las personas ajenas a sus bases y funcionamiento, esta doble faceta de la IA como amplificadora de los mismos problemas que persigue ayudar a solucionar incrementa el carácter mágico de “la IA”. Por ello, a lo largo del próximo capítulo se ofrecerá una explicación más centrada en las características técnicas de las herramientas para la detección de desinformación. Finalmente, se esbozan algunos límites y desafíos a los que se enfrentan las herramientas de IA, y el rol de la alfabetización digital en esta tarea.
2. La dimensión técnica de la IA, sus posibilidades y sus límites.
Cuando en los medios generalistas se refieren hoy en día a la IA suelen referirse a un subcampo muy específico: los modelos generativos, en particular aquellos basados en redes neuronales. El objetivo de un modelo generativo es producir nuevas muestras de un determinado tipo de datos —texto, imágenes, vídeos, audios, etc. Por otra parte, las redes neuronales son algoritmos compuestos por un conjunto de parámetros que pueden ajustarse, y determinan su funcionamiento. Podemos imaginar cada parámetro como el dial de una radio que debe girarse hasta captar correctamente la señal. En el paradigma del machine learning, en lugar de ajustar estos parámetros manualmente, se utilizan datos para que el propio algoritmo los optimice de forma automática. Este proceso se conoce como entrenamiento, y una vez completado, al algoritmo resultante se le denomina modelo. Hasta hace pocos años estos modelos se desarrollaban para una tarea concreta —como generar imágenes de rostros, detectar correos electrónicos no deseados o transcribir la matrícula de un coche a partir de una fotografía—, y era necesario entrenar el modelo desde cero. Esto implicaba recopilar un conjunto de ejemplos representativos, optimizar los parámetros del modelo y, tras un largo proceso de prueba y error, obtener finalmente un rendimiento suficiente para su uso en el mundo real.
Este paradigma cambió con la aparición de los modelos fundacionales (foundational models). La principal diferencia de estos modelos radica en la escala y el propósito del entrenamiento. Mientras los modelos clásicos se diseñaban para resolver tareas específicas, los modelos fundacionales se entrenan con cantidades ingentes de datos procedentes de múltiples dominios, sin centrarse en una tarea concreta. En este enfoque, la prioridad pasó de la calidad a la cantidad de datos, incluyendo textos de Wikipedia, libros, foros, noticias y prácticamente cualquier contenido textual disponible en Internet. De esta línea de investigación surgieron los modelos con los que hoy estamos familiarizados —ChatGPT, Gemini, Claude, DeepSeek, entre otros—. Gracias a su aparición, ya no es necesario recopilar datos y entrenar un modelo desde cero para abordar una tarea, ya que ahora existen herramientas generales capaces de realizar multitud de funciones describiendo la tarea en lenguaje natural, sin requerir conocimientos técnicos avanzados. Este cambio de paradigma facilita también la generación de desinformación: ya no es preciso dominar un idioma para producir un artículo que parezca legítimo (Shah et al., 2025); con apenas unos audios se puede clonar una voz y hacerla decir lo que se quiera (Genelza, 2024); y con tan solo diez imágenes bien elegidas de una persona es posible entrenar modelos que generen imágenes realistas de esa persona en contextos inventados, algo que también sucede con el vídeo y audio(Kaur et al., 2024; Loth et al., 2024).
No obstante, estos mismos modelos pueden ayudar a combatir la desinformación de forma más eficiente, teniendo en cuenta sus características. Estos modelos, basados en la arquitectura Transformer, están entrenados para generar texto coherente, no verídico. Por ello, aunque no se pretenda usar el modelo de manera maliciosa, no es posible fiarse completamente de sus resultados porque a menudo sus respuestas son coherentes sintácticamente pero han sido “inventadas”, algo que se conoce como alucinación (Li, 2023). Por lo tanto, entrenar modelos para saber si un hecho es verdadero o falso es una tarea demasiado complicada, y más lo es que sea una característica emergente a partir de datos aleatorios de internet. En general, no es buena idea dejar que un modelo de IA, de la índole que sea, decida por sí solo si algo es verídico o no.
Para el aprovechamiento de las capacidades de la IA en la detección de desinformación debe observarse el problema desde una perspectiva diferente. Porque si bien la detección de si un texto es verídico está fuera del alcance de estos modelos por su arquitectura y entrenamiento los modelos, por estas mismas características sí son capaces de identificar si dos piezas de información expresan exactamente lo mismo, gracias al dominio del lenguaje que tienen. De esta forma, los modelos de IA son utilizados para comparar información con bases de datos de bulos verificadas por organizaciones de fact-checking, y que indiquen si coincide (o es similar) con un bulo conocido. De esta manera es posible combinar lo mejor de ambos mundos: los profesionales de la información se ocupan de las tareas que las máquinas no pueden —decidir si una pieza de información es verídica o no—, y las máquinas asumen el trabajo que los profesionales no pueden —procesar los ingentes volúmenes de datos que se generan en internet—.
Este es solo un ejemplo entre muchos posibles usos. También pueden emplearse para encontrar qué piezas de información susceptibles de ser verificadas y cuales no, organizar contenido similar en grupos coherentes para identificar los temas de los que se habla, o buscar relaciones entre actores maliciosos que organicen campañas de desinformación, entre otros.
Finalmente, es importante destacar que cada vez que se despliega un modelo de este tipo, se inicia un juego del gato y el ratón, en el que los agentes maliciosos intentan burlar el sistema y los defensores tratan de detectarlos. Por ejemplo, hoy en día se utiliza el leet speech (consistente en sustituir ciertas letras del abecedario por símbolos o números, cómo usar “3” en lugar de “e”) para confundir a los sistemas y evitar los controles automatizados. Esto lleva al estudio y desarrollo de nuevos modelos para que esas nuevas estrategias no funcionen, mientras los agentes maliciosos buscan formas nuevas de burlarlos, y así contínuamente. Por lo tanto, es necesario estudiar, monitorizar y actualizar continuamente estos sistemas para reducir lo máximo posible el tiempo y eficacia de respuestas ante los usos maliciosos.
3. Conclusión: Desafíos y límites de la IA
La importancia que tiene la detección de bulos y desinformación en las sociedades actuales no puede ser subestimada. La IA no solo puede asistir a los profesionales de la información para que realicen mejor su trabajo, sino que también puede ayudar a la ciudadanía a informarse más adecuadamente.
A menudo, la desinformación emplea ciertos trucos psicológicos para que su mensaje cale con mayor eficacia en la población y se difunda más rápidamente. Por ejemplo, recurre al clickbait —titulares sensacionalistas que poco o nada tienen que ver con el cuerpo de la noticia— para captar la atención. También apela a las emociones, buscando producir enfado, susto o miedo para que se actúe de forma menos racional. Además, utiliza falacias lógicas como la del hombre de paja (distorsionar o exagerar el argumento de otra persona para refutar una versión más débil o falsa de este) o la generalización de la anécdota (usar una experiencia personal o un caso aislado como prueba suficiente para apoyar una afirmación general). Los modelos de IA tienen la capacidad de detectar algunas de estas prácticas y pueden tanto alertar al usuario como enseñarle a reconocerlas en el futuro. Siendo una pieza clave en la alfabetización mediática de la población.
Para conseguir este objetivo es fundamental, por un lado, tratar los sistemas de información que utiliza el público como una infraestructura crítica del país, que requiere una vigilancia constante para evitar ataques de actores maliciosos, del mismo modo que se hace con las centrales eléctricas, refinerías o plantas nucleares. Por otro lado, también es crítico formar a la ciudadanía en las competencias de pensamiento crítico, porque sin una ciudadanía crítica y con conocimiento no se pueden desarrollar ni desplegar este tipo de sistemas.
Referencias
Chadwick, A. (2017). The Hybrid Media System: Politics and Power (2.a ed.). Oxford University PressNew York. https://doi.org/10.1093/oso/9780190696726.001.0001
Genelza, G. G. (2024). A systematic literature review on AI voice cloning generator: A game-changer or a threat? Journal of Emerging Technologies, 4(2), 54-61. https://doi.org/10.57040/ag587791
Kaur, A., Noori Hoshyar, A., Saikrishna, V., Firmin, S., & Xia, F. (2024). Deepfake video detection: Challenges and opportunities. Artificial Intelligence Review, 57(6), 159. https://doi.org/10.1007/s10462-024-10810-6
Laviana, J. C. (2024). Recuperar la confianza perdida, el gran desafío de los medios. Cuadernos de Periodistas, 85-92.
Li, Z. (2023). The Dark Side of ChatGPT: Legal and Ethical Challenges from Stochastic Parrots and Hallucination (No. arXiv:2304.14347). arXiv. https://doi.org/10.48550/arXiv.2304.14347
Liu, J., Schwarz, A., Risius, M., Hirschheim, R., & Scotter, J. V. (2025). Conceptualizing Echo Chambers and Information Cocoons: A Literature Review and Synthesis of Current Knowledge and Future Directions. The Journal of Strategic Information Systems, 34(2), 101904. https://doi.org/10.1016/j.jsis.2025.101904
Loth, A., Kappes, M., & Pahl, M.-O. (2024). Blessing or curse? A survey on the Impact of Generative AI on Fake News (No. arXiv:2404.03021). arXiv. https://doi.org/10.48550/arXiv.2404.03021
Shah, S. B., Thapa, S., Acharya, A., Rauniyar, K., Poudel, S., Jain, S., Masood, A., & Naseem, U. (2025). Navigating the Web of Disinformation and Misinformation: Large Language Models as Double-Edged Swords. IEEE Access, 13, 169262-169282. https://doi.org/10.1109/ACCESS.2024.3406644
Soengas Pérez, X., Rodríguez Castro, M., & Campos Freire, F. (2023). La credibilidad de los informativos de la televisión pública en España. Comunicar: Revista Científica de Comunicación y Educación, 76, 73-84. https://dialnet.unirioja.es/servlet/articulo?codigo=8947688
Wahlström, M., & Törnberg, A. (2021). Social Media Mechanisms for Right-Wing Political Violence in the 21st Century: Discursive Opportunities, Group Dynamics, and Co-Ordination. Terrorism and Political Violence, 33(4), 766-787. https://doi.org/10.1080/09546553.2019.1586676
Ángel Panizo Lledot es profesor Ayudante Doctor en la Escuela Técnica Superior de Ingeniería de Sistemas Informáticos de la Universidad Politécnica de Madrid (UPM). Es licenciado en Ciencias de la Computación por la Universidad Complutense de Madrid, máster en Inteligencia Artificial por la Universidad Politécnica de Madrid y doctor en Ciencias de la Computación por la Universidad Autónoma de Madrid. En la actualidad, forma parte del grupo de investigación AIDA en la ETSISI-UPM. Sus principales líneas de investigación se centran en el clustering, los algoritmos basados en grafos —especialmente en grafos con evolución temporal—, el análisis de datos sociales y los métodos bioinspirados.
Sergio D’Antonio es sociólogo y doctor en Filosofía, actualmente profesor de la Universidad Politécnica de Madrid y miembro del grupo de investigación NLP-DL. Sus principales ámbitos de investigación son los Estudios de Ciencia y Tecnología (STS), las interrelaciones entre las tecnologías de la información y las ciencias sociales, y el Análisis de Redes Sociales. Entre otros, ha participado en varios proyectos nacionales y europeos relacionados con temas de desinformación, así como sus consecuencias.
