La botella Nº 125: “El peor enemigo del coche autónomo es… ¡una pegatina!”

La conducción autónoma¿Son seguros los coches autónomos? El reciente estudio, etiquetado en “Criptografía y Seguridad”, ha demostrado que es relativamente fácil burlar los sistemas de visión por ordenador para que identifiquen erróneamente las señales de tráfico usando nada más que… ¡pegatinas hechas en una impresora doméstica!

¿De qué forma se engaña al sistema? El algoritmo de ataque mezcla el ingenio con talento innovador: utiliza imágenes impresas pegadas en las señales de tráfico, y dichas imágenes confunden a las cámaras y los sensores de los vehículos autónomos.

Los sistemas de visión en automóviles autónomos tienen un detector de objetos y un clasificador: el primero localiza peatones, luces, señales y otros vehículos, y éste decide qué es el objeto y qué están diciendo los signos. Al parecer todos los sistemas actuales de reconocimiento visual de la conducción autónoma son muy sensible a las pequeñas perturbaciones: minúsculos cambios pueden hacer que se comporten mal en formas inesperadas y potencialmente peligrosas. Cuando un coche pueda no identificar una señal de Stop o confunde el sentido obligatorio da mucho miedo.

Y esto precisamente lo que ha ocurrido. Los hackers han sido capaces de acceder a este clasificador y luego, usando su algoritmo y una foto de la señal de carretera de destino, han generado una imagen personalizada que es superpuesta en la señal. Ahora se puede provocar un caos circulatorio con unas pegatinas hechas en una impresora doméstica que confunden a tu coche.

El algoritmo denominado “Robust Physical Perturbations”, genera perturbaciones en señales de tráfico a través de distintos ángulos, distancias y resoluciones. Por ejemplo las pequeñas pegatinas adheridas a una señal de “Stop” provocaron que un sistema de visión lo identificara erróneamente como un letrero de límite de velocidad 45 en el 100% de las condiciones de prueba. Lo mismo pasó con una señal de giro a la derecha: fue clasificada erróneamente como un letrero Stop o de Carril añadido.

Y lo peor del todo es la facilidad y el coste casi ilusorio para efectuar dichos ataques. Los algoritmos creados por los investigadores de la Universidad de Michigan y la Universidad de California están diseñados para ser impresos en una impresora de color normal y pegados a las señales de tráfico existentes. El ataque más mortífero contra la conducción autónoma se basa en la vulnerabilidad de las redes neuronales profundas que han sido entrenadas para reconocer señales, semáforos y otros usuarios de la carretera usando imágenes de cámaras montadas en vehículos autónomos.

No es ninguna novedad que los hackers están haciéndose con el control de vehículos conectados y autónomos remotamente, pero ahora también pueden hacerlo con pegatinas. Y quizá la amenaza más preocupante para la tecnología autónoma actual no es digital… ¡es analógica!

 

Anuncios

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión /  Cambiar )

Google photo

Estás comentando usando tu cuenta de Google. Cerrar sesión /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión /  Cambiar )

Conectando a %s