Programas de seguridad y anti-spam podrían verse afectados
Nuevos resultados indican que es más fácil de lo pensado el proporcionar información falsa a un programa de aprendizaje y obtenga así conocimiento no deseado -“un ataque de veneno”, reportó I Programmer.
Tres investigadores, Battista Biggio (Italia), Blaine Nelson y Pavel Laskov (Alemania), han encontrado la forma de alimentar una Máquina de Soporte de Vectores (SVM por sus siglas en inglés) con información especialmente diseñada para incrementar el promedio de error de la máquina tanto como sea posible con algunos pocos puntos defectuosos de información.
Las SVM son dispositivos de aprendizaje simples que utilizan ejemplos para clasificar o decidir. Se utilizan en configuraciones de seguridad para detectar un comportamiento anormal, como fraudes, uso anómalo de tarjeta de crédito e incluso eliminar spam. Las SVM aprenden por medio de ejemplos del tipo de cosas se supone detectarán, incluyendo ejemplos al tiempo que ejecutan su trabajo.
El enfoque asumido por los investigadores asume que el atacante conoce el algoritmo de aprendizaje que se utiliza y tiene acceso a la misma información original de capacitación (el cual puede ser simulado).
Su descubrimiento indica que este método fue capaz de ocasionar un impacto sorprendentemente grande en la ejecución del SVM que se probó. La prueba incluso reportó que es posible dirigir los errores inducidos para producir un tipo determinado de error. Por ejemplo, un spammer podría enviar información envenenada para evadir que sea detectado en el futuro.
Más información sobre este artículo aquí.
Comentarios