- iCrowdNewswire
  • Spain
  • Brazil
  • Russia
  • France
  • Germany
  • China
  • Korea
  • Japan
 
x

RSS Newsfeeds

See all RSS Newsfeeds

Global Regions

United States ( XML Feed )

Jan 3, 2018 12:00 PM ET

Estas pegatinas psicodélicas soplan las mentes de AI

iCrowdNewswire - Jan 3, 2018

Los sistemas de aprendizaje automático son muy capaces, pero no son exactamente inteligentes . Carecen de sentido común. Aprovechando este hecho, los investigadores han creado un ataque maravilloso contra los sistemas de reconocimiento de imágenes que usa pegatinas especialmente impresas que son tan interesantes para la IA que no puede ver nada más. ¿Por qué tengo la sensación de que estos pronto serán accesorios populares?

La visión por computadora es un problema increíblemente complejo , y es solo por atajos cognitivos que incluso los humanos pueden ver correctamente, por lo que no debería sorprender que las computadoras tengan que hacer lo mismo.

Uno de los atajos que estos sistemas toman no es asignarle a cada píxel la misma importancia. Digamos que hay una imagen de una casa con un poco de cielo detrás y un poco de hierba en el frente. Algunas reglas básicas le dejan claro a la computadora que esta no es una imagen “del” cielo o la hierba, a pesar de su presencia. Por lo tanto, considera esos antecedentes y pasa más ciclos analizando la forma en el medio.

Un grupo de investigadores de Google se preguntaba (PDF) : ¿qué pasaría si jugaras con ese atajo y lo hicieras para que la computadora ignore la casa y se concentre en algo de su elección?

Lo lograron entrenando un sistema de adversarios para crear pequeños círculos llenos de características que distraen al sistema objetivo, probando muchas configuraciones de colores, formas y tamaños, y viendo lo que hace que el reconocedor de imágenes preste atención. Curvas específicas que la IA ha aprendido a observar, combinaciones de colores que indican algo distinto de fondo, y así sucesivamente.

Finalmente sale un remolino psicodélico como los que se muestran aquí.

Póngalo junto a otro objeto que el sistema conoce, como un plátano, e inmediatamente olvidará el plátano y pensará que la imagen es “del” remolino. Los nombres en las imágenes son diferentes enfoques para crear la etiqueta y fusionarla con las imágenes existentes.

 

Esto se hace de acuerdo con un sistema específico, no específico de la imagen, lo que significa que el parche de aleatorizador resultante generalmente funcionará independientemente de lo que esté mirando el sistema de reconocimiento de imágenes.

¿Qué se puede hacer con esto? Ponga unos pocos en su ropa o bolso y tal vez, solo tal vez, ese clasificador de imágenes en el aeropuerto o cuerpo de policía se distraerá lo suficiente como para que no registre su presencia. Por supuesto, tendrías que saber qué sistema se estaba ejecutando y probar algunas miles de variaciones de las pegatinas, pero es una posibilidad.

Otros intentos de engañar a los sistemas de visión por computadora generalmente se han basado en pequeños cambios repetidos a las imágenes para ver si con unos pocos píxeles colocados estratégicamente se puede engañar a una IA para que piense que una imagen de una tortuga es de hecho una pistola. Pero estas “purturbaciones” poderosas y altamente localizadas, como los llaman los investigadores, constituyen una amenaza diferente y muy interesante.

Nuestro ataque funciona en el mundo real y puede disfrazarse como una pegatina inocua. Estos resultados demuestran un ataque que podría crearse fuera de línea y luego compartirse ampliamente …

Incluso si los humanos pueden notar estos parches, es posible que no entiendan la intención del parche y en su lugar lo vean como una forma de arte. Este trabajo muestra que enfocarse solo en defenderse contra pequeñas perturbaciones es insuficiente, ya que las perturbaciones locales grandes también pueden romper clasificadores.

Los investigadores presentaron su trabajo en la conferencia de Sistemas de procesamiento de información neuronal en Long Beach.

Contact Information:

Devin Coldewey

View Related News >