11/06/2026
Os desafios e limites da Inteligência Artificial como ferramenta de apoio à alfabetização mediática
Introdução: IA e alfabetização mediática na era da desinformação
Não há dúvida de que, embora a comunicação de notícias falsas com o objetivo de orientar a opinião pública não seja algo novo, ao longo deste século e especialmente na última década tornou-se um fenómeno completamente diferente. A ubiquidade no uso das redes sociais, também para se informar, que conduziu ao sistema híbrido de meios (Chadwick, 2017) atravessado por câmaras de eco (Liu et al., 2025), juntamente com meios de comunicação tradicionais com crescentes níveis de perda de legitimidade (Laviana, 2024; Soengas Pérez et al., 2023), produziu mudanças qualitativas nos processos de formação de opinião e, mais amplamente, na forma como fluem as dinâmicas informativas (Wahlström & Törnberg, 2021).
A emergência da Inteligência Artificial (IA) nos últimos anos aumentou exponencialmente o problema neste sentido. Para as pessoas alheias às suas bases e funcionamento, esta dupla faceta da IA como amplificadora dos mesmos problemas que procura ajudar a resolver aumenta o caráter mágico da “IA”. Por isso, ao longo do próximo capítulo será apresentada uma explicação mais centrada nas características técnicas das ferramentas para a deteção de desinformação. Finalmente, esboçam-se alguns limites e desafios enfrentados pelas ferramentas de IA, bem como o papel da alfabetização digital nesta tarefa.
2. A dimensão técnica da IA, as suas possibilidades e os seus limites
Quando os meios de comunicação generalistas se referem hoje em dia à IA, costumam referir-se a um subcampo muito específico: os modelos generativos, em particular aqueles baseados em redes neuronais. O objetivo de um modelo generativo é produzir novas amostras de um determinado tipo de dados — texto, imagens, vídeos, áudios, etc. Por outro lado, as redes neuronais são algoritmos compostos por um conjunto de parâmetros que podem ser ajustados e que determinam o seu funcionamento. Podemos imaginar cada parâmetro como o botão de um rádio que deve ser ajustado até captar corretamente o sinal.No paradigma do machine learning, em vez de ajustar estes parâmetros manualmente, utilizam-se dados para que o próprio algoritmo os otimize de forma automática. Este processo é conhecido como treino e, uma vez concluído, o algoritmo resultante é denominado modelo. Até há poucos anos, estes modelos eram desenvolvidos para uma tarefa concreta — como gerar imagens de rostos, detetar correios eletrónicos não desejados ou transcrever a matrícula de um carro a partir de uma fotografia — e era necessário treinar o modelo do zero. Isto implicava recolher um conjunto de exemplos representativos, otimizar os parâmetros do modelo e, após um longo processo de tentativa e erro, obter finalmente um desempenho suficiente para a sua utilização no mundo real.
Este paradigma mudou com o aparecimento dos modelos fundacionais (foundational models). A principal diferença destes modelos reside na escala e no propósito do treino. Enquanto os modelos clássicos eram concebidos para resolver tarefas específicas, os modelos fundacionais são treinados com enormes quantidades de dados provenientes de múltiplos domínios, sem se focarem numa tarefa concreta. Nesta abordagem, a prioridade passou da qualidade para a quantidade de dados, incluindo textos da Wikipédia, livros, fóruns, notícias e praticamente qualquer conteúdo textual disponível na Internet. Desta linha de investigação surgiram os modelos com os quais hoje estamos familiarizados — ChatGPT, Gemini, Claude, DeepSeek, entre outros. Graças ao seu aparecimento, já não é necessário recolher dados e treinar um modelo do zero para abordar uma tarefa, uma vez que agora existem ferramentas gerais capazes de realizar uma multiplicidade de funções descrevendo a tarefa em linguagem natural, sem exigir conhecimentos técnicos avançados. Esta mudança de paradigma facilita também a geração de desinformação: já não é preciso dominar um idioma para produzir um artigo que pareça legítimo (Shah et al., 2025); com apenas alguns áudios é possível clonar uma voz e fazê-la dizer o que se quiser (Genelza, 2024); e com apenas dez imagens bem escolhidas de uma pessoa é possível treinar modelos que gerem imagens realistas dessa pessoa em contextos inventados, algo que também acontece com o vídeo e o áudio (Kaur et al., 2024; Loth et al., 2024).
No entanto, estes mesmos modelos podem ajudar a combater a desinformação de forma mais eficiente, tendo em conta as suas características. Estes modelos, baseados na arquitetura Transformer, são treinados para gerar texto coerente, não necessariamente verdadeiro. Por isso, mesmo que não se pretenda usar o modelo de forma maliciosa, não é possível confiar completamente nos seus resultados porque, frequentemente, as suas respostas são sintaticamente coerentes, mas foram “inventadas”, algo conhecido como alucinação (Li, 2023). Portanto, treinar modelos para determinar se um facto é verdadeiro ou falso é uma tarefa demasiado complicada, e ainda mais que isso seja uma característica emergente a partir de dados aleatórios da Internet. Em geral, não é boa ideia deixar que um modelo de IA, seja de que tipo for, decida sozinho se algo é verídico ou não.
Para aproveitar as capacidades da IA na deteção de desinformação, é necessário observar o problema de uma perspetiva diferente. Porque, embora a deteção da veracidade de um texto esteja fora do alcance destes modelos devido à sua arquitetura e treino, os modelos, por essas mesmas características, são capazes de identificar se duas peças de informação expressam exatamente o mesmo, graças ao domínio da linguagem que possuem. Desta forma, os modelos de IA são utilizados para comparar informação com bases de dados de desinformação verificadas por organizações de fact-checking, indicando se coincide (ou é semelhante) com uma desinformação já conhecida. Assim, é possível combinar o melhor dos dois mundos: os profissionais da informação encarregam-se das tarefas que as máquinas não conseguem realizar — decidir se uma peça de informação é verídica ou não — e as máquinas assumem o trabalho que os profissionais não conseguem fazer — processar os enormes volumes de dados gerados na Internet—.
Este é apenas um exemplo entre muitos possíveis usos. Também podem ser utilizados para identificar quais peças de informação são suscetíveis de verificação e quais não são, organizar conteúdo semelhante em grupos coerentes para identificar os temas de que se fala, ou procurar relações entre agentes maliciosos que organizem campanhas de desinformação, entre outros.
Finalmente, é importante destacar que, sempre que se implementa um modelo deste tipo, inicia-se um jogo do gato e do rato, no qual os agentes maliciosos tentam contornar o sistema e os defensores procuram detetá-los. Por exemplo, atualmente utiliza-se o leet speech (consistente em substituir certas letras do alfabeto por símbolos ou números, como usar “3” em vez de “e”) para confundir os sistemas e evitar os controlos automatizados. Isto leva ao estudo e desenvolvimento de novos modelos para que essas novas estratégias deixem de funcionar, enquanto os agentes maliciosos procuram novas formas de os contornar, e assim sucessivamente. Portanto, é necessário estudar, monitorizar e atualizar continuamente estes sistemas para reduzir ao máximo possível o tempo e a eficácia das respostas perante usos maliciosos.
3. Conclusión: Desafíos y límites de la IA
A importância da deteção de boatos e da desinformação nas sociedades atuais não pode ser subestimada. A IA não só pode auxiliar os profissionais da informação a desempenharem melhor o seu trabalho, como também pode ajudar os cidadãos a informarem-se de forma mais adequada.
Frequentemente, a desinformação utiliza certos truques psicológicos para que a sua mensagem tenha maior impacto na população e se difunda mais rapidamente. Por exemplo, recorre ao clickbait — títulos sensacionalistas que pouco ou nada têm a ver com o conteúdo da notícia — para captar a atenção. Também apela às emoções, procurando provocar indignação, susto ou medo para que as pessoas ajam de forma menos racional. Além disso, utiliza falácias lógicas, como a do homem de palha (distorcer ou exagerar o argumento de outra pessoa para refutar uma versão mais fraca ou falsa desse argumento) ou a generalização da anedota (utilizar uma experiência pessoal ou um caso isolado como prova suficiente para sustentar uma afirmação geral). Os modelos de IA têm a capacidade de detetar algumas destas práticas e podem tanto alertar o utilizador como ensiná-lo a reconhecê-las no futuro, constituindo uma peça fundamental na alfabetização mediática da população.
Para alcançar este objetivo, é fundamental, por um lado, tratar os sistemas de informação utilizados pelo público como uma infraestrutura crítica do país, que requer vigilância constante para prevenir ataques de agentes maliciosos, da mesma forma que acontece com centrais elétricas, refinarias ou centrais nucleares. Por outro lado, é igualmente crucial formar os cidadãos em competências de pensamento crítico, porque sem uma cidadania crítica e informada não é possível desenvolver nem implementar este tipo de sistemas.
Referências
Chadwick, A. (2017). The Hybrid Media System: Politics and Power (2.a ed.). Oxford University PressNew York. https://doi.org/10.1093/oso/9780190696726.001.0001
Genelza, G. G. (2024). A systematic literature review on AI voice cloning generator: A game-changer or a threat? Journal of Emerging Technologies, 4(2), 54-61. https://doi.org/10.57040/ag587791
Kaur, A., Noori Hoshyar, A., Saikrishna, V., Firmin, S., & Xia, F. (2024). Deepfake video detection: Challenges and opportunities. Artificial Intelligence Review, 57(6), 159. https://doi.org/10.1007/s10462-024-10810-6
Laviana, J. C. (2024). Recuperar la confianza perdida, el gran desafío de los medios. Cuadernos de Periodistas, 85-92.
Li, Z. (2023). The Dark Side of ChatGPT: Legal and Ethical Challenges from Stochastic Parrots and Hallucination (No. arXiv:2304.14347). arXiv. https://doi.org/10.48550/arXiv.2304.14347
Liu, J., Schwarz, A., Risius, M., Hirschheim, R., & Scotter, J. V. (2025). Conceptualizing Echo Chambers and Information Cocoons: A Literature Review and Synthesis of Current Knowledge and Future Directions. The Journal of Strategic Information Systems, 34(2), 101904. https://doi.org/10.1016/j.jsis.2025.101904
Loth, A., Kappes, M., & Pahl, M.-O. (2024). Blessing or curse? A survey on the Impact of Generative AI on Fake News (No. arXiv:2404.03021). arXiv. https://doi.org/10.48550/arXiv.2404.03021
Shah, S. B., Thapa, S., Acharya, A., Rauniyar, K., Poudel, S., Jain, S., Masood, A., & Naseem, U. (2025). Navigating the Web of Disinformation and Misinformation: Large Language Models as Double-Edged Swords. IEEE Access, 13, 169262-169282. https://doi.org/10.1109/ACCESS.2024.3406644
Soengas Pérez, X., Rodríguez Castro, M., & Campos Freire, F. (2023). La credibilidad de los informativos de la televisión pública en España. Comunicar: Revista Científica de Comunicación y Educación, 76, 73-84. https://dialnet.unirioja.es/servlet/articulo?codigo=8947688
Wahlström, M., & Törnberg, A. (2021). Social Media Mechanisms for Right-Wing Political Violence in the 21st Century: Discursive Opportunities, Group Dynamics, and Co-Ordination. Terrorism and Political Violence, 33(4), 766-787. https://doi.org/10.1080/09546553.2019.1586676
Ángel Panizo Lledot é Professor Auxiliar Doutor na Escola Técnica Superior de Engenharia de Sistemas Informáticos da Universidade Politécnica de Madrid (UPM). É licenciado em Ciências da Computação pela Universidade Complutense de Madrid, mestre em Inteligência Artificial pela Universidade Politécnica de Madrid e doutorado em Ciências da Computação pela Universidade Autónoma de Madrid. Atualmente, integra o grupo de investigação AIDA da ETSISI-UPM. As suas principais linhas de investigação centram-se no clustering, nos algoritmos baseados em grafos — especialmente em grafos com evolução temporal —, na análise de dados sociais e nos métodos bioinspirados.
Sergio D’Antonio é sociólogo e doutorado em Filosofia, sendo atualmente professor da Universidade Politécnica de Madrid e membro do grupo de investigação NLP-DL. As suas principais áreas de investigação são os Estudos de Ciência e Tecnologia (STS), as inter-relações entre as tecnologias da informação e as ciências sociais, e a Análise de Redes Sociais. Entre outros projetos, participou em várias iniciativas nacionais e europeias relacionadas com a desinformação, bem como com as suas consequências.
