Un diseñador desarrolló una prenda con un patrón generado por inteligencia artificial que impide que los sistemas de detección automática reconozcan al usuario como persona.
El artista y desarrollador Simon Weckert creó una camisa hawaiana con un patrón diseñado para evitar que los sistemas de videovigilancia con inteligencia artificial identifiquen a quien la lleva como un ser humano. La información fue difundida por el sitio Odditycentral.
Weckert explicó que los sistemas de IA no aprenden qué es un humano, sino cómo se ven estadísticamente en millones de imágenes de entrenamiento. «En las primeras capas, se centran en los bordes, los contrastes y los gradientes de textura; en las capas más profundas de la red, en patrones que se asemejan a partes del cuerpo: la silueta de la cabeza y los hombros, las proporciones de las extremidades con respecto al torso, la continuidad del contorno del cuerpo sobre el fondo. Para la máquina, una ‘persona’ es un conjunto de estadísticas visuales, y esa es precisamente su debilidad», afirmó.
El patrón de la camisa fue desarrollado mediante un proceso conocido como «bucle adversario», en el que la propia IA genera candidatos y los somete a prueba contra un detector hasta reducir su confianza. «El patrón se desarrolló en un bucle antagónico con el propio sistema de detección: generar un candidato, mostrárselo al detector, medir con qué confianza aún encuentra a la persona, ajustar, repetir, hasta que la confianza se desmorona», declaró Weckert a la revista Dezeen.
El diseñador señaló que los puntos ciegos de una máquina no son intuitivos para los humanos, por lo que solo la máquina puede indicar qué no percibe. «Hay una simetría poética en ello: la misma clase de IA que vigila el cuadrado también le enseñó a la camisa a esconderse», indicó Odditycentral.
Si bien el estampado colorido hace que la prenda sea visible para las personas, en las pruebas realizadas por Weckert los sistemas de IA no registraron al usuario como persona.