Parches alucinógenos para hacer flipar a los sistemas de reconocimiento visual

Your ads will be inserted here by

Easy AdSense.

Please go to the plugin admin page to paste your ad code.

Adversarial Patch / Google
En la foto el sistema reconoce un plátano. Si se añade el parche, reconoce una tostadora

Unos investigadores de Google han publicado un trabajo sobre redes generativas antagónicas (adversarial networks) en forma de «parches» que pueden imprimirse fácilmente y usarse en el MundoReal™. Tal y como lo describen,

Se trata de un método para crear parches de imágenes antagónicas, robustas y con aplicación en el mundo real. Los parches son universales porque sirven para «atacar» cualquier escena; robustos porque funcionan bajo una amplia variedad de transformaciones y dirigidos porque pueden hacer que un clasificador produzca cualquier clase de objetivo que se desee.

Estos parches se pueden imprimir, añadir a cualquier «escena» y fotografiarlos para alimentar con ellos a los clasificadores de imágenes. Incluso siendo muy pequeños provocan que los clasificadores ignoren los demás elementos de la escena e informen de la imagen objetivo deseada.

Como en el ejemplo, se puede «convertir» un plátano en una tostadora.

Your ads will be inserted here by

Easy AdSense.

Please go to the plugin admin page to paste your ad code.

¿Cómo funcionan? Según explican los sistemas de reconocimiento visual (conocidos como «clasificadores») actúan en cierto modo como el sistema visual humano, simplificando la escena y fijándose sólo en ciertos detalles – los que consideran «importantes» durante la fase de entrenamiento.

Con estos parches añadidos lo que se consigue en básicamente «desviar la atención» del clasificador para concentrarla en el dibujo psicodélico, donde la red neuronal caerá en el engaño, ignorando el resto. El dibujo no es aleatorio aunque lo parezca; ha debido trabajarse previamente para que produzca el resultado deseado. En el trabajo completo hay muchos más detalles: Adversarial Patch (PDF).

La aplicación más directa es pegarse uno de estos parches en la ropa, un gorro o la camiseta para pasar desapercibido ante los sistemas de reconocimiento facial. Usado para el mal puede hacer que la figura de una persona, un coche o una matrícula pasen desapercibidas. «Coches con sistema de camuflaje»; lo veo como app en un futuro a lo Black Mirror no muy lejano.

En cierto modo parece una nueva guerra abierta entre los sistemas de reconocimiento visual y los sistemas antagónicos para burlarlos. Quién iba a pensar que habría quien quisiera «hackear» la visión de un coche de otra persona, algo sin utilidad aparente.

(Vía TechCrunch.)

Relacionado:

# Enlace Permanente

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

*