Para empezarUn atacante no necesita hackear tu servidor si puede inyectar datos falsos directamente en el entrenamiento de tu inteligencia artificial.
Qué es el Data Poisoning
El envenenamiento de datos, o Data Poisoning, es una técnica de ataque donde actores maliciosos introducen muestras alteradas o maliciosas en el conjunto de datos de entrenamiento de un modelo de Machine Learning, logrando comprometer su comportamiento antes de que llegue a producción.
El peligro invisible
Modificar apenas un 0.1% de los datos de entrenamiento con patrones imperceptibles para el ojo humano puede bastar para introducir puertas traseras permanentes en una red neuronal profunda, haciendo que falle de forma crítica solo ante activadores específicos.
Fases de un ataque
Para ejecutar un envenenamiento de datos exitoso en entornos de aprendizaje automático, el atacante sigue una metodología estructurada paso a paso:
Marca cada paso al entenderlo · 0/4
Simulando inyección de ruido
Mediante scripts en Python podemos observar cómo la introducción de ruido dirigido desvía las fronteras de decisión de un clasificador lineal simple en nuestro laboratorio.
$ python3 poison_attack.py --dataset mnist --target 7 --perturbation 0.05
[+] Cargando dataset de entrenamiento...
[+] Inyectando 50 muestras maliciosas con etiqueta alterada...
[+] Precisión del modelo tras reentrenamiento: reducida al 78.4%
[!] Puerta trasera establecida exitosamente para la clase objetivo.
Dependencia de datos externos
Cualquier modelo que se alimente automáticamente de datos de internet sin una validación criptográfica y un filtrado estadístico riguroso es vulnerable a este vector de ataque. Confiar ciegamente en fuentes abiertas es un riesgo inaceptable en seguridad.
Defensa mediante Sanitización
La sanitización de datos y el uso de técnicas como la detección de valores atípicos y el aprendizaje robusto ante ruido son las líneas de defensa fundamentales para neutralizar los intentos de envenenamiento antes de compilar los pesos del modelo.
¿Te acuerdas? Toca para comprobarlo
Atajos: ← → para cambiar de pieza · / para buscar