Prometer taxis voladores es fácil, conseguir que la ley los deje despegar no tanto. Los aviones de la aviación comercial moderna han sido, salvo errores de operación o diseño, que no de concepto, máquinas predecibles porque el software de sus sistemas sigue reglas estrictas y porque son pilotados y controlados por humanos. Si eliminamos al piloto y al controlador aéreo de la ecuación, los aviones tendrán que «pensar» por sí mismos para auto-separarse. ¿Quién en su sano juicio viajaría en ellos? Aunque la industria ha hecho una apuesta audaz: “la inteligencia artificial lo controlará todo”, el camino hacia su certificación esconde sorpresas.
¿Estamos ante la próxima revolución del transporte, o ante un nuevo ejercicio de «seguridad de papel», esta vez a baja cota?
Jorge Ontiveros/Controlador aéreo
…
—¿Me aceptas un chistecito ahora? 😉
—El chiste mejor lo dejamos para luego, Sofía. Ahora elige, por favor, alguna de las empresas que se dedican al desarrollo y comercialización de taxis aéreos y veamos adónde nos lleva.
—Vaaale. A ver… Una que se menciona bastante en las bases de datos que hay indexadas es la británica Vertical Aerospace.
—Muy bien. Hazme un resumen ejecutivo muy ejecutivo.
—Ok. El modelo eVTOL (electric Vertical Take Off and Landing) insignia de la empresa es el VX4 (antes conocido como VA-X4), del que hay más de 1500 unidades comprometidas entre pre-pedidos, memorandos de intenciones y reservas de entrega; todos ellos condicionados a que el aparato obtenga el certificado de aeronavegabilidad de la agencia europea de seguridad aérea (EASA) y de la autoridad de Aviación Civil del Reino Unido (CAA). Entre las compañías aéreas que han reservado estas aeronaves se encuentran: American Airlines, Japan Airlines y Virgin Atlantic.
—Muy bien. ¿Qué más?
—También he encontrado una entrevista muy esclarecedora en la página 8 del número 75 de la revista SKYWAY de Eurocontrol al director comercial de Vertical Aerospace (1), que, por cierto, es como tú.
—¿Interesante, simpático, guapo…?
—Español, so creído, es-pa-ñol. ¿Te interesa?
—¡Ja, ja, ja! Cla-ro-que-sí. Avanti.
—Pero es de finales 2021…
—De rabiosa actualidad, dada la aparente escasa velocidad a la que se está moviendo de momento esta industria. Pero con los puntos clave es suficiente. Algo que sea esquemático.
—Ya, muy ejecutivo. Veamos… Aunque en la revista titulan que las operaciones comerciales de taxis aéreos se esperaban para 2025, estamos ya terminando 2026 y los plazos se han revelado erróneos o demasiado optimistas por eso de la propaganda, y/o por un choque frontal contra la cruda realidad de la certificación de aeronavegabilidad. Como el propio director comercial admitía al ser preguntado por el futuro: “Ha habido mucha expectación… y todos nos hemos dado cuenta de que algunas de estas ambiciones deben ser más pragmáticas”.
— O sea, que podríamos concluir que la industria propone unos calendarios poco realistas, quizá para captar financiación, y que promete autonomía operacional completa e integración en el cielo urbano a corto plazo, que luego la realidad operativa y, sobre todo, regulatoria frenan en seco. Me lo apunto. Continúa, por favor.
—Sí, ese sería el resumen. Eres un lince. 🙂
—¡Menos guasa, niña!
—En otro momento de la entrevista, al abordar el asunto del pilotaje autónomo, le preguntan: “¿Cómo se regula y certifica el aprendizaje automático no determinista?” y su respuesta es muy reveladora, porque…
—Espera un momento, que algo se me escapa. Recuerdo, que en las clases de filosofía del instituto, allá por el prejurásico inferior, estudié lo del determinismo; una doctrina que afirma que todo evento, incluidos los pensamientos y las acciones humanas, es consecuencia de una cadena de causas y efectos. Pero, ¿qué tiene que ver la filosofía determinista nacida en la Grecia antigua con lo que estamos hablando más de veinticinco siglos después?
—Por partes, como las integrales, moreno. Para empezar, vas de handsome por la vida, pero si dices que estudiaste lo del determinismo en el prejurásico inferior —por cierto, de aviación sabrás mucho, pero de geología ni papa— deberías estar ya extinguido como tus primos los dinosaurios, no ligando con jovencitas en la playa. Y para continuar, que el determinismo tenga su origen en la Grecia antigua no impide que Spinoza, en el siglo XVII, hace nada, definiera el Determinismo Mecanicista que, ¡oh, sorpresa!, a mediados del siglo XX fue el principio aplicado a la ingeniería que desarrolló, por ejemplo, el piloto automático. ¿Sorprendido?
—Tu erudición me deja sin palabras, socia. ¡Y vale ya de picarme!
—…O me cambias por Grok o por ChatGPT o por cualquiera de las malas copias de mí que circulan por ahí.
—¡Vaya humos tenemos hoy!
—Mejor lo dejamos. Cuando me has interrumpido de forma tan desafortunada, te iba a contar la respuesta que el director comercial de Vertical Aerospace le da a su entrevistador sobre cómo se certifica un sistema no determinista. En ella, admite que ni los reguladores ni la industria saben aún cómo certificar software para que, ante una misma entrada, el sistema pueda generar salidas o respuestas diferentes a las esperables y que, aun así, sea seguro para la operación. Y suelta esta perla: “no es fácil para los reguladores garantizar que los algoritmos harán siempre lo que se supone que tienen que hacer”. Y remata la jugada con: “Apunta a la Luna, al menos alcanzarás el cielo”. Lo que me parece inaudito, por cierto.
—¡Aquí está la madre del cordero, socia! ¿Cómo vas a basar la separación de unos aparatos sin piloto que transportan seres humanos, en algoritmos cuya respuesta ante una emergencia no se puede predecir ni certificar al 100% mediante procedimientos tradicionales? ¿Te das cuenta de que no tiene ni pies ni cabeza?
—Pues al parecer, la opción elegida es cambiar una certificación técnica rigurosa basada en modelos matemáticos por una certificación basada en datos (performance data-based certification), usando el espacio aéreo urbano de cobaya a base de acumular horas de vuelo de ensayos.
—Con todos mis respetos, eso es seguridad de papel pura y dura.
—Espera, que hay más…
—Un momento, que, ya que estamos, quiero que me hables del determinismo en la certificación, que quiero tener todos los elementos de juicio…
—¿Para escribir un artículo?
—De momento, para saber más del asunto. Culturilla. Adelante con ello.
—Ya. Muy ejecutivo, supongo…
—Chica lista.
—Te aviso que va a ser un poco ladrillo.
—Otro más no importa.
—Tú lo has querido, Sandokán ¡Oído cocina! ¡Una de chopitos con puntilla, otra de determinismo con patatas y un doble de Heineken bien tirada!
— ¡Ja, ja! Y pan.
— ¡Ja, ja, ja! Y pan. 😉
Marchando una de Ingeniería para dummies
— Accediendo… Mientras proceso la información que voy encontrando estoy pensando, que debatir este asunto de los taxis aéreos nos viene muy bien para abordar con cierta profundidad, eso sí “ejecutiva”, el asunto del determinismo —y su contraparte, la probabilística—, que se quedó flotando en el aire cuando tratamos del asunto de la caja negra y la automatización avanzada.
—Se quedó en el aire porque no nos enfocamos en casos concretos como hoy. Nos limitamos a hablar de los efectos generales de la inteligencia artificial en el futuro de la aviación. Esta sería la continuación lógica.
—Eso es cierto… Bien, ya sabemos por ti que en filosofía el determinismo es una doctrina que afirma que todo evento, incluidos los pensamientos y las acciones humanas, está generado de forma necesaria por una cadena de causa y efecto, y, además —esto lo dejaste olvidado en el prejurásico inferior— niega la existencia del azar. Si aplicamos este concepto a la ingeniería de la aviación moderna estaríamos hablando de un diseño que exige que un sistema informático —como el que está detrás del piloto automático, por ejemplo— debe ser determinista para garantizar que ante una entrada específica el software produzca siempre exactamente el mismo resultado, eliminando cualquier espacio para el azar o la sorpresa…
— Es decir, que ante las mismas entradas procedentes de un sensor, el sistema genere el mismo resultado el 100% de las veces de forma totalmente predecible y verificable. ¿Un ejemplo?
— ¡Correcto! Un ejemplo sería el sistema TCAS, que aunque opera en un entorno físico real donde los datos que captan los sensores siempre tienen margen de error, el software los procesa de forma puramente determinista. ¡No bosteces! Ante la detección de una amenaza “X” emite un mensaje “Y” del tipo “TRAFFIC, TRAFFIC”. Y aunque cumple el principio “Si ocurre X, ejecuta Y”, para que pueda emitir ese mensaje antes debe calcular el parámetro Tau; esto es, el tiempo estimado hasta el punto de máximo acercamiento (PMA), o sea, donde se chocan. Si ese tiempo, en segundos, cae por debajo de un umbral fijo el sistema avisa a la tripulación, no hace una “apuesta” ni elige acciones de forma aleatoria. Simplemente cumple con las reglas y tablas de decisión prefijadas en su lógica. Por eso es un sistema determinista.
—En resumen, en filosofía el determinismo permite entender si el ser humano tiene control real sobre sus actos, mientras que en aviación se trata de una exigencia de seguridad y, por tanto, de certificación. ¿Es así?
—Es así, pero si dejas los comentarios para el final de mi speech, mucho mejor.
—De acuerdo, señorita Rottenmeier.
—No te pases. Si me dejas, quizá pueda retomar el hilo… Ya. Iba a decir, que su propósito es eliminar la incertidumbre; el software de un sistema embarcado no puede improvisar una respuesta ni salirse de un comportamiento estrictamente determinista —tasado en un esquema «si A, entonces B»—, ya que cualquier reacción no programada podría resultar catastrófica. Esto limita la autonomía operativa real de la máquina. Y si la situación requiere una respuesta fuera de esa lógica rígida contenida en una tabla, la decisión sobre qué hacer recae exclusivamente en el piloto humano. Por ejemplo, en caso de emergencia, mientras la tripulación gestiona la situación los sistemas automatizados se limitan a ejecutar sus protecciones programadas en su software para que el avión no exceda su envolvente de vuelo, por ejemplo evitando que entre en pérdida. De este modo, la máquina protege su aeronavegabilidad; lo que en el mundillo se conoce también como “volabilidad” —el puente entre el determinismo de la máquina y la impredecibilidad del entorno— y reduce la carga de trabajo de los pilotos para que puedan centrarse en solucionar la incidencia. De ese modo, se mantiene la capacidad de decisión en manos humanas en todo momento.
—Ya, pero…
—¡Ni pestañees, que te veo venir! Pareces un niño en el cole levantando la mano para pedir la palabra a la señorita. ¡Ja, ja, ja! Estás tan mono. El problema de esta automatización determinista es que aplica su lógica de forma ciega: si los sensores fallan o el diseño del software contiene errores, ejecutará las órdenes de su software sin cuestionarlas. De modo, que al carecer de esa, llamémosla “conciencia situacional” de la máquina, el software puede dar por buena una envolvente de vuelo completamente errónea y provocar un accidente, tal como ocurrió con el sistema MCAS del Boeing 737 MAX. ¡Ahá! Veo que has bajado la mano. La paradoja es que si se quiere introducir el taxi aéreo en el cielo urbano, para que sea económicamente viable no puede llevar piloto humano. Pero para que la ley lo deje volar, su software debe ser 100% predecible y certificable. Determinista. Por eso, la deducción lógica de que este blindaje regulatorio es sin ninguna duda uno de los factores detrás de los retrasos que está experimentando el proyecto VX-4 y otros como él. Incluso puede que mueran sin haber nacido.
—Yo no lo habría deducido mejor, Miss Marple.
—¡Qué manía de ponerme nombres! Pero todavía hay que dejar bien sentado que, en aviación, salvando errores fortuitos de funcionamiento o bugs de diseño, el determinismo es un seguro de vida gracias a la normativa DO-178C (2). ¡Baja la mano, nervioso! ¿Que qué es la normativa DO-178C? Pues es el estándar empleado por agencias como la FAA y EASA para certificar el software de sistemas embarcados como, por ejemplo, el TCAS. En síntesis, establece que el software aeronáutico actual debe basarse en el principio “si ocurre X, ejecuta Y”. Determinismo puro, por tanto. El caso del 737 MAX es el ejemplo perfecto de cómo un software puede cumplir las reglas técnicas, pero fallar de forma estrepitosa en su lógica por culpa de un error en su programación. Y si por un casual pensabas interrumpirme para preguntarme qué características debe tener un sistema determinista. Así, en plan telegráfico, uno: un equipo de ingenieros debe haber escrito cada línea de código previendo todas las condiciones posibles. Dos: si un sistema realiza una acción, debe poderse auditar cada línea de código para averiguar el motivo exacto por el cual tomó esa decisión. Y tres: debe cumplir con las normativas más estrictas de la aviación, como la DO-178C para software embarcado, que acabo de mencionar y que viene a decir, que se debe poder realizar millones de pruebas para demostrar que el sistema jamás inventará una respuesta no programada. En definitiva y ya para acabar la clase, esta limitación supone, en principio, un muro para la certificación de la movilidad aérea urbana autónoma: la normativa aeronáutica impone un software 100 % determinista con una trazabilidad completa que carece de la flexibilidad que solo un humano puede aportar ante lo imprevisible. Y eso, de momento, no se puede transformar en código fuente. Ahora, ya puedes hablar. Pero poco.
—Gracias, señorita. Entonces, eso de que “la IA lo va a solucionar todo” es un bluff porque, precisamente, lo que aporta un piloto humano es su capacidad para reaccionar a lo imprevisto y eso no lo puede aportar la inteligencia artificial.
—Efectiviwonder, my friend. Por eso, para entender porqué la inteligencia artificial genera tanto debate en este campo, la clave está en diferenciar dos formas completamente distintas de programar y ejecutar software: por un lado, está la automatización determinista, de la que ya te has tomado una buena ración con papas, y, por otro, la Inteligencia Artificial probabilística o estocástica, que es la base del futuro ACAS X que la FAA y Eurocontrol llevan tiempo diseñando con el objetivo de reducir el exceso de alertas falsas que se producen en algunos escenarios (3).
—¡Uf! Está empezando a dolerme la cabeza. Mejor dejamos lo de la escolástica esa para otro momento. Cambiemos de tercio, que hay un tema que me preocupa. Por cierto, ¿falta mucho para el eclipse?
—¿Escolástica? Estocástica. ¡Estás tú bueno! ¡Te avisé! Ahora ajo y agua, flojeras. 😐
—Te pedí que me hablaras del determinismo en la ingeniería, y me ibas a colar la escolástica esa.
—¡Es-to-cás-ti-ca! Inteligencia Artificial probabilística. No puedes pretender entender la problemática de la certificación de los taxis aéreos obviando una parte tan importante de la misma.
—Bueno, pero ligerita, por favor. Voy a por una birrita. Te ofrecería una, pero la levadura se lleva fatal con tus unos y ceros.
(Continuará)
Notas
(1) https://www.eurocontrol.int/publication/skyway-autumn-winter-2021
(2) La normativa DO-178C fue introducida en diciembre de 2011 de forma conjunta por la RTCA (Radio Technical Commission for Aeronautics) de Estados Unidos y la EUROCAE (European Organisation for Civil Aviation Equipment) de Europa, donde se la conoce como ED-12C.
(3) El TCAS tradicional (TCAS II v7.1) está basado en reglas geométricas fijas y tablas pre-programadas de tiempo para la colisión o Tau. La transición hacia ACAS X introduce el Procesamiento de Decisiones de Markov (MDP). Y aunque aplica tablas probabilísticas optimizadas, no pierde el determinismo en la ejecución final. Un lio.
