Enfrentan frágil confianza de usuarios.
A raíz de la muerte de Elaine Herzberg, la mujer que fue atropellada por un vehículo autónomo de Uber en Arizona, el análisis y la discusión sobre la seguridad de este tipo de transporte cobró vigencia frente a los desafíos que aún se tienen que superar como la capacidad de detección, transparencia y redundancia.
En opinión Amnon Shashuaes vicepresidente ejecutivo de Intel Corporation y director de tecnología de Mobileye, la sociedad espera que los vehículos autónomos tengan un estándar más elevado que los conductores humanos.
«El video que emitió la policía parece demostrar que incluso el componente más básico de un vehículo autónomo, la capacidad de detectar y clasificar objetos, es una tarea desafiante».
Sin embargo, esta capacidad es uno de los aspectos fundamentales de los actuales Sistemas Avanzados de Asistencia al Conductor (ADAS, por sus siglas en inglés), que comprenden funciones como Frenado de Emergencia Automático (AEB, por sus siglas en inglés) y apoyo para cambio de carril.
El especialista señala que los sistemas de detección de alta precisión dentro de ADAS, son los que están salvando vidas, probados en miles de millones de kilómetros recorridos y se trata de la misma tecnología que se requiere, incluso antes abordar retos más difíciles.
«Para demostrar el poder y la sofisticación de la tecnología ADAS actual, ejecutamos nuestro software en un video proveniente de un monitor de televisión que transmitía el video policiaco del incidente».
A pesar de las condiciones poco óptimas, señaló Shashuaes, donde gran parte de los datos de alto rango dinámico que estarían presentes en la escena real probablemente se habrían perdido, se logró una clara detección de alrededor de un segundo antes del impacto.
Las siguientes imágenes muestran tres fotografías con detecciones de cuadros delimitadores en la bicicleta y en la señora Herzberg.
Las detecciones provienen de dos fuentes: reconocimiento de patrones, que genera los cuadros delimitadores y un módulo de detección de “espacio libre”, que genera la gráfica horizontal en la que la sección de color rojo indica que un “usuario de la vía pública” está presente arriba de la línea. Un tercer módulo separa los objetos de la vialidad usando la estructura del movimiento, en términos técnicos: “plano + paralaje”.
Esto valida la presencia 3D del objeto detectado que tenía poca confianza, como lo ilustra “fcvValid: Baja,” que se muestra en el lado superior izquierdo de la pantalla.
Esta poca confianza ocurrió por la información faltante que normalmente está disponible en un vehículo de producción y la configuración de imágenes de baja calidad por tomar el video de un video de una cámara del tablero del automóvil que se sometió a un submuestreo desconocido.
«El software que se usa para este experimento es el mismo que se incluye en los vehículos actuales equipados con ADAS, que han sido probados en miles de millones de kilómetros en manos de los consumidores».
Para el directivo, los avances recientes en inteligencia artificial, como las redes neuronales profundas, han llevado a creer que ahora es fácil desarrollar un sistema de detección de objetos muy preciso y que debe dejarse a un lado la experiencia de más de una década de expertos actuales en visión artificial.
«Aun cuando estas técnicas son útiles, el legado de identificar y cerrar cientos de casos límite, anotar conjuntos de datos de decenas de millones de kilómetros y pasar por pruebas de validación de preproducción desafiantes en docenas de programas ADAS de producción, no pueden pasarse por alto. La experiencia cuenta, sobre todo en los ámbitos críticos para la seguridad».
Amnon Shashuaes señala que la transparencia es fundamental para ganar la confianza de los usuarios pues es común escuchar frases como “la seguridad es nuestra consideración más importante”, pero es necesario ser más claros sobre el significado de esta afirmación.
«Como dije en octubre cuando Mobileye lanzó el modelo formal de Responsabilidad de Seguridad Sensible (RSS, por sus siglas en inglés), la toma de decisiones debe cumplir con el sentido común del criterio humano».
En ese sentido, la empresa presentó un formalismo matemático de nociones de sentido común como “situación peligrosa” y “respuesta adecuada” y construyó un sistema para garantizar matemáticamente el cumplimiento de estas definiciones.
Por último, el directivo considera que la verdadera redundancia del sistema de percepción debe basarse en fuentes de información independientes como la cámara o un radar, ya que fusionarlos es bueno para una conducción confortable, pero es malo para la seguridad.
«En Mobileye, para mostrar realmente que obtenemos verdadera redundancia, construimos un sistema de cámara de extremo a extremo por separado y un sistema LIDAR y de radar por separado».
En opinión del directivo, más incidentes como el que sucedió con el vehículo autónomo de Uber podrían dañar más la ya frágil confianza de los consumidores y promover una regulación reactiva que podría reprimir este importante trabajo.
«Este es el momento para tener una conversación significativa sobre un marco de validación de la seguridad para vehículos totalmente autónomos. Invitamos a los fabricantes de automóviles, a las compañías tecnológicas del campo, a las autoridades reguladoras y a otras partes interesadas a organizarse para poder resolver juntos estos importantes temas».
C$T-GM
