Como os hackers podem “envenenar” a inteligência artificial

E o que os cientistas estão a fazer para detetar o veneno nos dados

Hoje em dia, a inteligência artificial (IA) está por todo o lado, recomenda séries, ajuda a conduzir, escreve textos e até apoia médicos. Mas existe um ataque silencioso que pode corromper uma IA antes mesmo de nascer: o “envenenamento de dados” (data poisoning).

Em termos simples, é quando alguém coloca informação falsa ou manipulada nos dados usados para treinar um modelo de IA. O sistema aprende coisas erradas e pode cometer erros graves sem que ninguém perceba porquê.

---

O que é “envenenamento de dados”?

Imagina que estás a ensinar uma criança a distinguir frutas. Mostras 100 imagens de maçãs, mas, no meio, colocas 10 imagens de tomates e dizes que são maçãs. Quando ela crescer, vai chamar “maçã” a um tomate. 🍅

É isto que acontece com a IA: os hackers misturam exemplos errados nos dados de treino e o modelo aprende associações incorretas.

Como estes ataques funcionam (sem tecnicismos)

1. O objetivo do atacante: Pode querer que a IA erre em tudo, que falhe apenas num caso específico, ou até que revele informação privada.
2. A forma de ataque: Pode trocar etiquetas (“isto é um cão” quando é um gato), inserir um pequeno símbolo escondido numa imagem, ou espalhar textos manipulados que influenciam modelos de linguagem.
3. O momento do ataque: Antes do treino (dados da internet), durante o treino (sistemas partilhados) ou depois, usando “gatilhos” que ativam comportamentos estranhos.
4. O grau de disfarce: Alguns ataques são óbvios; outros são tão subtis que passam despercebidos e estes são os mais perigosos.

E os modelos grandes, como o ChatGPT?

Os Modelos de Linguagem Grande (LLMs), como o ChatGPT, são treinados com biliões de palavras da internet. Isso significa mais exposição a dados contaminados.

• Textos falsos na web podem fazer um chatbot repetir informação errada.
• Frases “escondidas” podem servir de gatilhos para respostas incorretas.

O que os cientistas estão a fazer

Equipas de investigação criaram um “framework taxonómico” – um guia organizado para entender e detetar estes ataques. Com ele, é mais fácil identificar onde, quando e como o “veneno” entra nos dados e desenvolver defesas mais eficazes.

O futuro: um “sistema imunitário” para a IA

O próximo passo é criar IAs que detetem e limpem dados suspeitos automaticamente, um sistema imunitário digital que neutraliza o veneno antes de causar danos.

“Compreender o inimigo é o primeiro passo para proteger a inteligência.”

Quer saber mais?

Artigo científico (em inglês): Zhao, P. et al. (2025). Data Poisoning in Deep Learning: A Survey. arXiv:2503.22759.

---

Perguntas Frequentes (FAQ)

O que é “data poisoning”?

É quando alguém introduz dados falsos ou manipulados num sistema de IA, fazendo com que ele aprenda algo errado.

Porque é perigoso?

Porque o erro vem “de dentro”, o modelo parece normal, mas foi treinado com informação contaminada.

Isto pode acontecer com o ChatGPT?

Sim. Se forem usados dados falsos no treino, o modelo pode reproduzir informação enviesada ou incorreta.

Como se evita?

• Verificar a origem dos dados e remover duplicados.
• Usar filtros automáticos e deteção de outliers.
• Fazer auditorias regulares aos conjuntos de treino.

É motivo para pânico?

Não, é motivo para atenção. Proteger os dados é essencial para manter a IA útil e segura.

Sugestões de leitura

Porque os Modelos de Linguagem Alucinam – Desafios e Soluções em Português – Vitor Martins