Automatización, safety, error humano y más allá…

Aviaciondigit@l

0

Washington, USA.- Una interesante reflexión de Christopher A. Hart nos sirve de excusa para abordar el interesante debate sobre Automatización/Safety. La perspectiva del presidente de la NTSB es más interesante aún si cabe si tenemos en cuenta que la Junta Nacional para la Seguridad del Transporte en EEUU aborda de forma intermodal la mejora para la seguridad de los distintos modos. En este caso se centra en el automóvil automatizado de Tesla que sufría un accidente en 2016 y el Vuelo 214 de Asiana que sufría un accidente en San Francisco en 2013. La aparente simplicidad de la forma de exponerlo esconde la complejidad de un debate que hoy se encuentra totalmente abierto…

Del blog SafetyCompass de la NTSB “Willinston and Beyond”:

Christopher A. Hart (NTSB Chairman)

Un automóvil que está completamente controlado por una computadora no se adormece ni se distrae. No se emborracha ni se altera con otras drogas. Si se le ordena no superar el límite de velocidad, no lo hará. El error humano, que es al menos parcialmente responsable del 94% de los accidentes en las carreteras actuales (EEUU), puede ser eliminado en gran parte si el conductor humano se convierte en un pasajero más. Y con la inaceptable carnicería de más de 37,000 muertes en accidentes automovilísticos sólo en 2016 (EEUU), debemos utilizar toda la ayuda que podamos obtener. No hay duda de que los beneficios potenciales de los vehículos autónomos son fenomenales.

Llegar allí, sin embargo, no será tan fácil como mucha gente piensa. Recientemente celebramos una reunión de la Junta Nacional de Seguridad del Transporte (NTSB) para considerar el accidente en 2016 de un Tesla parcialmente automatizado con una cabeza tractora con remolque cerca de Williston, Florida. El conductor no estaba prestando atención a la carretera como debería haberlo hecho, y el sistema permitió al conductor usar su  “piloto automático” en lugares donde no estaba diseñado para funcionar.

El sistema de automatización usaba un torque en el volante como proxy para el manejo del conductor y alertaba al conductor si pasaba demasiado tiempo sin movimiento detectable en las ruedas, pero el conductor trataba las alertas como molestias, aplicando par de forma diligente cada vez que sonaba la alerta antes de tomarla. sus manos fuera del volante de nuevo. Aunque el conductor fue el responsable final del accidente resultante en el que perdió trágicamente su vida, la automatización le permitió tomar decisiones poco seguras.

Retrocedemos a 1914. Un avión pasa volando revisando gradas llenas de espectadores. El piloto levanta sus manos al aire para demostrar que el avión se está volando. El avión hace otro pase, luego otro. De acuerdo con la ciencia de la aviación, en el tercer pase, el piloto, Lawrence Sperry, camina sobre las alas. Sperry estaba mostrando su entrada en una exposición internacional de seguridad aérea: el primer piloto automático primitivo del mundo, el estabilizador giroscópico. Permitió que un avión volara recto y nivelado sin la intervención de un piloto durante cortos períodos.

En los años posteriores, la automatización de aeronaves se ha vuelto mucho más sofisticada. Además, los aviones ahora tienen sistemas que detectan el terreno, usan el GPS para saber dónde están y emplean una tecnología de aeronave a aeronave llamada Sistema de Prevención de Colisiones de Tráficos (TCAS) para ayudarlos a evitar otros aviones. Gracias, en gran medida a estas tecnologías, la aviación se ha vuelto mucho más segura. Sin embargo, en 2013, casi 100 años después de la manifestación de Sperry, el Vuelo 214 de Asiana, con más de 300 personas a bordo, se acercó al aeropuerto internacional de San Francisco demasiado lento y demasiado bajo, y se estrelló contra un rompeolas, muriendo tres pasajeros.
El accidente de Asiana demostró la confusión a la que puede llevar la automatización; El piloto pensó que el acelerador automático de potencia, mantenía la velocidad que seleccionó, pero inadvertida e inesperadamente hizo que el auto-acelerador de potencia se desactivara. También demostró que, debido a la excesiva dependencia durante mucho tiempo de la automatización, las habilidades de vuelo manual del piloto se habían degradado tanto que le “incomodaba” aterrizar el avión manualmente en una pista de aterrizaje de 2 millas (¡una pista larga!) en un hermoso día claro.

Hemos investigado los accidentes relacionados con la automatización en todos los modos de transporte. De hecho, nuestros investigadores ven accidentes y más accidentes que involucran problemas de interfaz entre la automatización y el operador humano; también vemos con demasiada frecuencia que los humanos no son confiables para monitorear pasivamente la automatización. Y en casos como el accidente de Asiana, vemos que los humanos se oxidan cuando no usan sus habilidades.

El accidente de Williston mostró tipos de error que no son sorprendentes con lo que se llama automatización de nivel 2. El conductor humano era responsable de monitorear el entorno, pero la automatización le permitió eludir esta responsabilidad. Este resultado era previsible, dado el desafortunado uso del apodado “Piloto automático”, que puede sugerir al conductor ordinario que el automóvil puede controlarse completamente (en comparación con los pilotos, que saben que todavía deben estar enganchados incluso cuando su avión está en funcionamiento). por el piloto automático. Por lo tanto, una de las lecciones aprendidas es que si la automatización solo se puede utilizar en determinadas circunstancias, debe estar “geo-controlada” para que funcione sólo en esas circunstancias en lugar de depender del “controlador” para decidir de forma adecuada.

¿Qué podemos esperar cuando nuestros autos se muevan más allá del nivel 2?

La experiencia de la aviación ha demostrado que a medida que aumenta la automatización, también lo hacen los desafíos. A medida que la automatización se vuelve más complicada, es menos probable que los conductores la entiendan, y a medida que la automatización se vuelve más confiable, los conductores se volverán más complacientes, menos hábiles y menos vigilantes ante posibles fallas.

Como resultado, si ocurre una falla en un sistema más complicado y confiable, la probabilidad aumenta para que la mayoría de los conductores no puedan recuperarse con éxito de la falla.

En la investigación de Asiana, descubrimos que la línea aérea usó la automatización disponible tan completa y tan a menudo como fuera posible.

Después del choque, la NTSB recomendó que la aerolínea requiera más vuelo manual, tanto en entrenamiento como en operaciones de línea, no porque estemos en contra de la tecnología, sino porque vemos lo que puede ocurrir cuando los pilotos pierden sus habilidades porque no las están usando. Luego está la cuestión de eliminar el controlador por completo. Los aviones tendrán pilotos en el futuro previsiblemente porque los expertos en aviación aún no han desarrollado una “salida elegante” con respecto a la falla de la automatización o qué hacer si se topan con circunstancias imprevistas.

Del mismo modo, los conductores estarán en el punto de mira hasta que la industria desarrolle una salida elegante para cuando su automatización falle o encuentre circunstancias imprevistas. . . y las circunstancias imprevistas son sin duda abundantes en nuestras calles y autopistas.

En cada una de nuestras investigaciones, estudiamos el ser humano, la máquina y el entorno. Incluso en todos los modos, los humanos y sus interacciones con la automatización son un denominador común en la causa probable de un accidente.

Durante 50 años, hemos encontrado respuestas para ayudar a la industria del transporte a salvar vidas, y cuando nuestras recomendaciones se ponen en práctica, la industria y el público generalmente obtienen beneficios de seguridad. Estamos entusiasmados con las oportunidades de utilizar las lecciones que hemos aprendido durante estos años para ayudar a la industria del transporte a avanzar hacia vehículos más seguros, independientemente de quién (o qué) los esté operando. Hemos recorrido un largo camino desde el estabilizador giroscópico de Lawrence Sperry, pero como muestran accidentes como el de Asiana o Williston, todavía tenemos un camino por recorrer antes de que la automatización pueda reducir significativamente las muertes en nuestras calles y carreteras. Esperamos continuar trabajando con los fabricantes de vehículos para ayudarlos a desarrollar un transporte automatizado más seguro y confiable.

Interesante es el libro de Tom DieuSaert sobre el que publicábamos un artículo denominado  “Computer Crashes” o cuando la tecnología “tira” los aviones

Deja un comentario