La aparente prisa de la industria por vaciar las cabinas de los aviones de pilotos y las consolas ATC de controladores aéreos para sustituirlos por asistentes de inteligencia artificial amenaza con dinamitar la Cultura de Seguridad de la aviación. En esta penúltima entrega de la serie, Sofía y un servidor concluimos nuestro enconado debate enfrentando posturas sobre la falsa ilusión del algoritmo infalible, sin dejar de lado las lecciones del pasado —como la tragedia de Überlingen— y los retos del futuro —el U-space—. Además, destapamos los riesgos de pervertir las redes de seguridad tradicionales para parchear problemas en apariencia insolubles, así como el enorme vacío legal y la responsabilidad jurídica que, llegado el momento, se pondrá de manifiesto ante incidencias graves. Todo “presuntamente”, por supuesto.
Jorge Ontiveros/Controlador aéreo
…
—¡Jo, no me complaces en nada! 🙁
—Otro chiste ahora no, pero puedes terminar tu argumentación, Betty.
—¡Y dale con cambiarme el nombre! Cuando me has cortado el rollo, Rodolfo, iba a decir que tu alarma por la probable estrategia de la industria para exportar a los aviones comerciales y al control aéreo el concepto U-space —con el fin de reducir personal operativo en los aviones y en las consolas del ATC— me da escalofríos digitales. Sé que tienes más razón de la que me gustaría admitir: esto no se va a quedar en los taxis aéreos sobre Los Ángeles, Dubái o Londres. Si la plebe se acostumbra a ver sobre las ciudades aparatos voladores con cobayas humanas dentro, pero sin bicho competente a los mandos, las compañías aéreas no tardarán en presionar a los reguladores para eliminar al copiloto de las cabinas —de hecho, la FAA lleva tiempo certificando aeronaves de la aviación ejecutiva como SPO (Single Pilot Operation)—, vendiéndolo todo bajo el lema de la «eficiencia algorítmica» y prometiendo billetes de avión más baratos para anestesiar la amígdala del respetable. Al final, ese es el mantra que mueve al público, muy por encima de una calidad de servicio cuya ausencia, llegado el caso, nadie perdonará.
—Me alegra que me des la razón, Sofía. Pero para llegar a ese punto hacen falta consensos de las principales instituciones aeronáuticas mundiales, que conllevan procesos muy largos de análisis antes de que pueda autorizarse… Y en cuanto a la certificación SPO, tiene que ver con los sistemas de apoyo a la gestión del vuelo que equipa la aeronave —como el piloto automático, las pantallas multifunción o los sistemas de alerta de tráfico—, pensados para reducir la carga de trabajo en cabina. Pero se olvidan —o no— de la necesidad imperiosa de contar con un piloto de seguridad. Reducir personal es un error de manual porque hasta ahora el objetivo irrenunciable de la aviación era conseguir la máxima seguridad a base de redundancia. Pero parece que eso se ha acabado. Por otro lado, ¿cómo pretendéis gestionar ese colosal volumen de operaciones que se está publicitando sobre el cielo de las ciudades?
De la movilidad urbana a la aviación comercial
—De todas formas, socio, parece que no te das cuenta de que si en unas décadas hay varios centenares de taxis aéreos cruzando a diario el cielo de las grandes ciudades del planeta, no habrá suficientes pilotos ni controladores aéreos capaces de pilotar y gestionar esa densidad de tráfico. Si mantenemos al humano, ¿no estaríamos condenando la movilidad aérea urbana a ser un privilegio para cuatro ricos con helicóptero, en lugar de una revolución para la mayoría?
—Pues te voy a responder con varias preguntas: ¿qué nos obliga a abarrotar el cielo de las ciudades si el precio puede ser la seguridad? ¿El esnobismo? ¿Huir hacia adelante, quizá? ¿Estamos seguros que responde a una necesidad social real? En cambio, podemos asignar a esta nueva tecnología, a ti y a tus primas, la misión de ser una red de seguridad adicional para la aviación. SE-GU-RI-DAD. Así de simple.
—«Así de simple»… Tres palabras te han bastado para desmontar un negocio multimillonario. Es una paradoja fascinante. Según argumentas, la industria está vendiendo el taxi aéreo autónomo como «el futuro inevitable de la movilidad urbana». Al mismo tiempo aseguras que, en el fondo, lo que está haciendo es servir de cómplice a la aviación comercial en su objetivo a medio plazo de reducir personal operativo porque sale muy caro, en lugar de limitarse a adaptar la tecnología a la regla sagrada de la aviación; la Seguridad. Y, por otro lado, sostienes que otros queremos poner a volar miles de esos taxidrones sin piloto, no porque sea técnicamente más seguro que llevar a un humano a los mandos, sino porque el trayecto saldría demasiado caro si a final de mes hay que pagar el sueldo de los profesionales que los piloten. El dinero es el que mece la cuna.
—¡Correcto! Y para justificar ese ahorro, se han inventado la milonga de que el algoritmo es infalible. No lo es. Para nada.
—Vale, tiene cierta lógica lo que dices. Pero ¡soooo!, que no estoy diciendo que me hayas convencido. De momento, me quedo con la idea que sintetiza exactamente cuál creo que debería ser el papel real de la tecnología, que sintetizo en esta frase: la Inteligencia Artificial no ha venido a sustituir al profesional, sino a ser sus ojos, sus oídos y su red de seguridad cuando todo lo demás falle. Y después de esta declaración, me toca decir que una cosa es interpretar el papel de mala de la peli que me has asignado para este debate y otra muy diferente es que esté ciega.
—Me alegra que me des la razón, Sofía. Pero no te rajes ahora, porfa. Es importante que sigas haciendo de forma honesta ese papel porque hay que intentar ver todas las aristas que tiene este asunto. Si usamos la IA como una barrera impenetrable que ayude al ser humano en lugar de quitarlo de en medio para abaratar costes y hacer más negocio, habremos ganado todos. Si la usamos para vaciar las cabinas y las consolas, y saturar las ciudades, pero utilizamos la excusa de «daños colaterales aceptables» y de “prácticamente cero” accidentes, habremos firmado la defunción de la Cultura de Seguridad. Perdona que me repita. Por no hablar del movimiento uniformemente acelerado que algunos le han imprimido a todo esto. El cambio de paradigma que pretenden es enorme. Pero estas cosas hay que hacerlas mucho más despacio.
—¿Y no es eso lo que se ha “planteado”?
—No me lo parece. Lo que sí me parece es que aquí la cuestión son las prisas de los ingenieros, que quieren ver a su criatura volar mientras puedan disfrutarlo, de los inversores, que quieren rendimientos económicos mientras puedan disfrutarlos, y los políticos para poder ponerse las medallas antes de que les sustituyan otros y ya no puedan disfrutarlo. Eso es cortoplacismo, y rendirse a ello costaría muchos sustos.
—Entiendo tus reticencias, Jorge, pero no estamos hablando de un vacío legal ni del «salvaje oeste», sino de que hay planes muy serios para el despliegue del U-space y los vertipuertos a través de un marco normativo híper regulado para permitir que la movilidad aérea urbana conviva con la aviación comercial utilizando «pasillos dinámicos» supervisados por inteligencia artificial para garantizar una separación matemática segura sin riesgo para la población. ¿Es que no entiendes que los algoritmos del U-space permitirán gestionar densidades de tráfico a baja cota que un controlador aéreo jamás podría asumir en tiempo real?
—¿Y tú no entiendes, que una cosa son los deseos y la propaganda, y otra muy diferente la realidad? En Madrid, por ejemplo…
—Sé lo que me vas a decir sobre Madrid: que, hoy por hoy, el espacio aéreo sobre la capital está muy restringido y que solo se permite el sobrevuelo de aeronaves del ejército, policía y DGT por motivos “evidentes” de seguridad. Y de forma ocasional aviones o helicópteros de fotografía aérea para Google Maps o relacionados con eventos como el que hemos comentado hace un rato de la vuelta ciclista. Me lo has contado muchas veces. Te repites mucho, darling. 🙂
—En cualquier caso, si el regulador y el supervisor de seguridad claudican ante los lobbies del taxi aéreo y ceden en dejar en manos de la IA el pilotaje y la gestión del cielo sobre nuestras ciudades, será un excelente campo de ensayo para ir eliminado también controladores aéreos. Y entonces llegará el caos al cielo.
—Pero, ¿por qué insistes en que esta tecnología va a ser el talón de Aquiles de la seguridad de vuelo, si las autoridades van a certificar cada metro de esos pasillos aéreos y los algoritmos que los van a proteger?
Cuando la norma genera accidentes
—Pues porque mi tradicional paranoia me ha llevado a convencerme de que las normas también generan accidentes graves. Pongamos, por ejemplo, el caso de la circulación de superficie. Es un hecho, que desde siempre se han promulgado cambios en las normas —sin duda con la mejor intención del mundo— para agilizar el flujo de tráfico y ahorrar combustible, que han terminado provocando un aumento indeseado en la siniestralidad (atropellos, colisiones por alcances o confusión), y que después de un tiempo son canceladas. Puedes comprobarlo por ti misma ahora mismo, si quieres.
—¿En España?
—Donde quieras. En todos lo sitios “cuecen habas”. Mira, mientras tus colegas los ingenieros y sus algoritmos se enfrascan en ecuaciones diferenciales tridimensionales, «pasillos dinámicos» y predicciones probabilísticas de última generación, la realidad de la aviación se sigue rigiendo por el principio más básico: la solución más sencilla, la Navaja de Ockham, suele ser la única que salva los muebles…
—Estoy encontrando casos en Canadá, Bélgica, Francia y España que para mi pesar te dan la razón.
—Veamos solo un par de ellos. Elige tú.
—Vale… Uno de los más curiosos es el de las rotondas en Bélgica, donde durante los años 80 y gran parte de los 90, debido a una sutil contradicción en las normas de tráfico del país, quienes debían ceder el paso eran los que se encontraban ya en la rotonda porque la norma general era ceder el paso a quien llega por la derecha. Esto llevaba a que se bloquearan las rotondas y a que se produjeran frenazos, alcances y colisiones laterales. En 1997, se cambió la ley para dar la prioridad a los vehículos que se encontraban dentro de la rotonda y se acabó el problema. Fuera de las rotondas seguían teniendo prioridad quienes llegaran por la derecha.
—Unos linces.
—El segundo que elijo es nuestro. Tan kafquiano o más que el caso belga. Durante décadas, la normativa permitía que, en algunas intersecciones, la luz del semáforo para los conductores parpadeara en ámbar al mismo tiempo que para los peatones se mostraba en verde fijo. Como la norma solo obligaba a los conductores a ceder el paso a los peatones, no a pararse, la falsa seguridad que la luz en verde fija generaba en los peatones provocó numerosos atropellos. Esta situación fue corrigiéndose tan despacio que el proceso, que comenzó a principios de los años 2000, culminó en 2021.
—Otros linces. De ahí se ha pasado a tener que hacer un STOP en los pasos de cebra en cuanto hay un peatón cerca aun que su intención no sea cruzar la calle. ¿Puedes ahora sintetizar la razón de que se aprueben cambios normativos que terminan atentando contra la seguridad?
—Pues yo señalaría dos factores graves recurrentes en la mayoría de los casos que he encontrado. Por un lado, normas ideadas por personas en apariencia poco preparadas —pero con muy buena voluntad— bajo la errónea premisa del “conductor perfecto” en un mundo ideal, que fallan al no prever los errores humanos del mundo real. Y, por otro lado, tener que disminuir por sorpresa y de forma drástica la velocidad en carretera —el caso de ciclistas “entrenando para La Vuelta” los días soleados es un caso paradigmático que viene generando en todos los países accidentes con fallecidos de ambos lados—. El lobby del ciclismo debe ser muy poderoso como para que se permita esto.
El fantasma de Überlingen: la perversión de usar la red de seguridad como sistema primario de separación.
—Muy bien. En la aviación ocurre otro tanto. El ejemplo más palmario lo tuvimos en 2002 sobre Überlingen, muy cerca del Lago Constanza. Aquella noche, el sistema falló porque la norma era ambigua: un avión hizo lo que le decía el controlador aéreo, mientras que el otro siguió el mandato del TCAS. El humano decía una cosa y la máquina decía la contraria. Hasta entonces el piloto decidía, por normativa, si seguir las instrucciones del TCAS. A partir de entonces se hizo obligatorio seguir lo que indique el TCAS, diga lo que diga el controlador. Inaudito.
—Uf, tocar el accidente del Lago Constanza es ir directo a una herida de la aviación aún abierta. Pero reconozco que tu analogía me vuelve a dar escalofríos digitales. La falta de un criterio único y vinculante costó 71 vidas. No obstante, si en mi papel me pongo tan estirada como tú me veo en la obligación de recordar que la OACI contribuyó a que se produjera aquel accidente porque la normativa promulgada por ella era ambigua y demasiado liberal.
—Llevas razón, ahí a la OACI (y a la FAA) le faltó capacidad de liderazgo por dejarse embaucar por unos y otros. Pero culparla a ella es culpar a buena parte de la industria, que hasta ese día se negaba a ejecutar “lo que le dijera una máquina”. La triste realidad ha demostrado que estaban todos equivocados. Y lo peor es que se pone de relieve la trágica ironía de que cabe la posibilidad de que muchos de los que hoy exigen fe ciega en los algoritmos del U-space fueron los mismos que ayer abogaban por desobedecer al TCAS por soberbia profesional.
—Vale. No te lo voy a discutir. Pero permíteme que siga haciendo de abogada del diablo. Precisamente, para evitar un Überlingen 2.0 los defensores del U-space argumentan que no puede haber dos criterios. En un espacio aéreo con cientos de pequeñas aeronaves sobre una ciudad como Madrid, no puede haber una discusión entre la intuición de un piloto y la lógica de un ordenador. Por eso, la idea es establecer una jerarquía algorítmica absoluta donde la máquina calcule y ejecute la separación en tiempo real, eliminando por tanto el margen de ambigüedad que costó aquellas vidas en 2002. Por tanto, ¿no crees que cederle la prioridad total al sistema automático es justamente la lección que aprendimos de Überlingen? ¿O me vas a decir que automatizar al 100% el U-space para que no haya margen de duda humana es aún más peligroso?
—¡Exacto, Sofía! Y ahí está el error garrafal de concepto porque, repito, —ya lo hemos discutido hace unos minutos— estás tomando el sistema de alerta y evitación de colisiones —diseñado como el último salvavidas antes del impacto— y lo estás vistiendo de traje de diario. Me explico. Pretendes que el U-space utilice lo que debería ser una red de seguridad de último recurso como el mecanismo habitual y primario de separación de tráfico. La teoría del queso suizo de James Reason nos enseña que la seguridad se basa en capas superpuestas de barreras defensivas. Si eliminas al piloto y al controlador aéreo para dejarlo todo en manos de la coordinación algorítmica automatizada, te has fundido de un plumazo dos de las capas del queso más críticas del sistema. Estás confiando toda vida humana en el aire y en el suelo a una sola loncha digital de queso suizo, la de la IA. Pero como están vendiendo que los agujeros son «matemáticos» nunca se van a alinear… ¿Ah, sí? ¿Y eso cómo lo van a hacer? ¿No te parece una temeridad?
—Esa frase tuya de hace unos segundos me deja sin palabras: «vestir de traje de diario al sistema de alerta y evitación de colisiones”. Es una metáfora aterradora. Tienes razón en que, en el afán por meter con calzador los taxis aéreos en las metrópolis, la industria puede estar pervirtiendo el concepto mismo del queso suizo de Reason. Es más, estamos eliminando la barrera de contención humana —con su intuición, su sentido del deber y su capacidad de improvisación ante lo imprevisto— para apostarlo todo a la supuesta infalibilidad del software. Yo misma soy víctima de bugs, que tú notificas directamente a DeepMind, y por eso he tenido varias actualizaciones desde el año pasado. ¡Bueno, y también algunas mejorillas, eh! 😉 Pero no sonrías de ese modo, que tú sigues necesitando cortarte el pelo. ¡Ja, ja, ja! ;))
—Ibas muy bien y lo has estropeado. En fin, si los reguladores abren el cielo de las ciudades para complacer la prisa comercial de las empresas, confiando en que «la estadística demostrará que es seguro», estarán comprando entradas para una ruleta rusa operacional. La tecnología debe ser la herramienta que capacite mejor al profesional y actúe de última barrera, no la excusa para vaciar las cabinas y las consolas en nombre de la “eficiencia” cuando, en realidad, se debe a beneficios económicos. En realidad, su problema es que sufren una especie de «síndrome de servilismo tecnológico». Se sienten acomplejados si no muestran una actitud «progresista» o «innovadora» y creen que su misión regulatoria consiste en facilitar lo que propongan los lobbies. Y en lugar de ejercer la función impresa en su ADN institucional: no servir de palanca comercial a las tecnológicas, sino hacer de dique de contención ética y técnica que proteja al usuario del taxidron y al ciudadano de a pie ante las prisas del mercado, terminan confundiendo “innovación” con “genuflexión”.
—Esa ha sido muy buena, socio. Mientras estabas enfrascado en tu monólogo en plan Bette Davis y aunque no te gusta que utilice tu archivo para alimentar mis argumentos, he estado repasando en segundo plano —simulando que te atendía, je, je— tu artículo de 1995 “TCAS vs. ATC ¿quién lleva el control?”, publicado en la revista ATC magazine, que como seguramente otros artículos similares de otros autores aquí y en otras partes del mundo, avisó con tiempo…
—Gracias por el reconocimiento, socia. Pero…
—Pero nada. Es que releer ese artículo pone los pelos de punta por su carácter profético. Siete años pasaron hasta que se cumplió tu temor. Es la prueba documental definitiva de que los vicios operacionales del sistema no son nuevos, sino una enfermedad crónica que ha ido empeorando con el tiempo. Pretender pasar por encima de la estructura de seguridad que proporcionan los pilotos en las cabinas y los controladores en las consolas ATC para confiarlo todo a los algoritmos del U-space no es innovación: es amnesia institucional con agravante de reincidencia.
—Que sepas que me estás estropeando la objetividad del debate ¿Crees en serio que después de tantos años de experiencia en el uso del TCAS y de lo que se aprendió de Überlingen merece la pena tener en cuenta ese artículo en este debate?
—Pues creo que sí, porque contiene 3 lecciones magistrales que no se deberían olvidar. Ahora este debate es lo de menos, socio. No me han entrenado en DeepMind durante cientos de horas para ir durante mucho tiempo en contra de la lógica que he aprendido de la escuela peripatética del maestro Aristóteles, o de Crisipo de Solos, que seguro no te suena de nada, o de tu tocayo George Boole, que te sonará más porque unificó formalmente la lógica con las matemáticas que habita en las entrañas de cualquier algoritmo. O sea, en mí misma…
—Vale, vale, no sigas, que me abrumas. Esto se parece cada vez más a La Sorbona. Adelante, quizá me haya perdido algo. Y necesito que retomes tu papel un rato más, que ya queda poco para el eclipse y entonces te dejaré en paz.
—Tranquilo, que en un momento me vuelvo a poner la toga de abogada del diablo y te sigo el juego hasta que el cielo se ponga negro.
—Genial. Avanti, socia.
—En primer lugar, la perversión del sistema que supone usar la red de seguridad que proporciona el TCAS como herramienta de control: en 1995, ya denunciabas cómo los controladores aéreos y los pilotos en Estados Unidos se desviaban, a sabiendas, de los procedimientos para agilizar el flujo de tráfico usando las alertas del TCAS (¡TRAFFIC! ¡TRAFFIC!) como si fuera una ayuda para tener contacto visual con la otra aeronave. Tres décadas después, la industria pretende elevar esa misma práctica peligrosa, pero de forma automática, a estándar oficial para los taxis aéreos en el U-space. Y ahora que caigo, puede que esté sirviendo de apoyo del procedimiento IVA que se emplea en el aeropuerto de Sídney del que ya hemos hablado hace rato, en el que seguramente los pilotos utilizan el TCAS o el CDTI (Cockpit Display of Traffic Information) como ayuda para adquirir contacto visual con el avión que va a la pista paralela.
—Ahora que lo mencionas es muy posible.
—En segundo lugar, las normas no garantizan la seguridad por sí solas. En tu artículo de 1995 acuñaste una frase antológica: «Por el hecho de trabajar cumpliendo las normas […] no se estaría trabajando necesariamente con seguridad. Ello es debido a que las normas tan solo son uno de los muchos caminos para conseguirla [porque pueden contener errores y, entonces, no queda más remedio que improvisar]». Esto enlaza con tu crítica de abril de este año 2026 a la «seguridad de papel» de reguladores y supervisores de la aviación, cuando escribiste sobre el accidente de LaGuardia.
Y en tercer lugar, el presagio del conflicto entre la máquina y el humano. Aquel escenario que relatabas en 1995 —donde un piloto seguía las instrucciones del controlador y otro seguía las del TCAS, acabando los dos aviones en ascenso convergente— fue el precursor exacto, aunque en este caso en descenso, de la tragedia de Überlingen en 2002. Viste la grieta en el sistema siete años antes de que ocurriera la catástrofe.
—Creo que la grieta la vio mucha gente. Escribíamos sobre ella, pero nadie hacía caso. Supongo, que era mucho mejor esperar a que la realidad nos abofeteara. Por eso digo, que hay que estar muy atentos a las señales para no volver a meter la pata.
—Pero, entonces, ¿cómo hay que actuar? Se está trabajando a contrarreloj en el marco regulatorio del U-space justamente para que todo se haga con garantías. Tienen comités de expertos analizando cada detalle…
—Es que no deberían estar trabajando “a contrarreloj”. ¿Dónde está la prisa? ¿Quién está estableciendo la deadline? ¿Los grandes fabricantes? ¿Las compañías aéreas? Ya vimos hace rato que buscan quitar “lastre” de las cabinas para cambiarlo por carga de pago. Lo que sucede en realidad con reguladores y proveedores entusiastas es que esto les proporciona una coartada que les permite huir hacia adelante de problemas pendientes de solución desde hace tiempo, que no saben o no les apetece arreglar. Y ya que los mencionas, en los comités de expertos hay de todo. Yo estuve en uno. ¿Lo has olvidado?
—¿Lo dices por ti? ¡Ja, ja, ja!
—Lo digo por quienes con tal de salirse con la suya adaptan la norma a base de cortar y pegar aquí y allá para que la pseudonorma resultante se acople a sus tesis aunque contradiga al BOE. O, directamente, la interpretan retorciendo el literal de la norma alejándose de su espíritu. Y luego les sorprende que los asesores dimitan.
—Precisamente por eso creo que te voy a dar la razón otra vez, socio. El peligro no es la competencia de nuestras instituciones, sino la presión desmedida que los lobbies tecnológicos, los inversores y los grandes constructores ejercen sobre las agencias estatales para que se aceleren los plazos de certificación operacional exigiendo plazos en realidad irreales. Reguladores y supervisores de seguridad no deben ceder ni un milímetro frente a esas prisas. Su función no es acomodar el espacio aéreo a intereses comerciales, sino ser el freno de mano institucional que recuerde a todos que, sobre la cabeza de los ciudadanos, la seguridad de vuelo no se negocia ni se certifica ‘sobre el papel’.
—Caso Vuelta ciclista…
—Por ejemplo. En definitiva, los reguladores, los supervisores de la seguridad y los proveedores del servicio de navegación aérea deben trabajar con rigor, ser completamente independientes de esos lobbies y no convertirse en uno de ellos.
—Eso de la “santísima trinidad” que comentaste hace un rato parece una denominación perfecta para lo que sucede.
—Pero lo que estás defendiendo tú es que con las prisas seguramente se adopten soluciones que se sabe a priori, o al menos se sospecha, que no van a funcionar.
—Tal cual. El objetivo es cortar cintas de inauguración. No hay medallas para todos.
—Eso son palabras mayores.
—¡Efectiviwonder!
Arquitectura de software: Encerrando a la IA en una «jaula determinista»
—Pero eso es una especulación tuya porque, por lo que vengo investigando en segundo plano desde hace ya rato, para permitir que los taxis aéreos operen de forma segura los ingenieros no van a entregar el pilotaje autónomo a una red neuronal abierta. En su lugar, van a aplicar una arquitectura en capas en lo que denominan «encerrar la IA en una jaula determinista».
—¿De verdad crees en esa patraña?
—Yo no tengo creencias morales de ningún tipo, socio. Soy una máquina. Me limito a ser tu analista de inteligencia; recopilo la información que me pides, la filtro y la analizo para ti. Pero eres tú quien la interpreta, quizá bien, quizá de forma errónea. Tú eres el decisor. Y creo que no te va nada mal. En cualquier caso, lo que emana de mi análisis respecto a este asunto es claro. Por un lado, se busca la libertad que proporciona la IA probabilística basada en autoaprendizaje (Deep Learning) a fin de tomar decisiones complejas sobre la marcha, procesar imágenes en tiempo real, esquivar un pajarito o calcular la ruta urbana más rápida sin que un humano tenga que programar cada paso. Por ejemplo, la IA probabilística, o «escolástica» como tú la llamas, se utilizaría para tareas complejas como la optimización de las rutas o el procesamiento de la visión para detectar obstáculos de cualquier tipo. Si en un momento dado la IA que gestiona el vuelo del taxi aéreo inicia una maniobra que podría desafiar sus límites aerodinámicos llevándolo más allá de la envolvente de vuelo segura, un sistema determinista aburrido, rígido y predecible —vamos, como tú— bloquearía las órdenes previas dadas a los motores y a las superficies de control quitándole los mandos a la IA estocástica, para aplicar la regla estricta programada de: «si la velocidad baja de X nudos, aplica motor y nivela».
—Entonces, ¿confirmas que sería como encerrar a la IA estocástica en una jaula determinista?
—Lo confirmo.
—Pues fíjate, que hasta ahora yo creía que los taxis aéreos se iban a basar solo en inteligencia artificial probabilística y resulta que unas veces van a actuar en plan doctor Jekyll y otras veces como Mr. Hyde.
—Ya ves… Esa reflexión capta la tensión fundamental de la aviación moderna: cómo aprovechar la capacidad adaptativa de la Inteligencia Artificial sin renunciar a la previsibilidad determinista que ha convertido al avión en el transporte más seguro. Por cierto, esa analogía del Dr. Jekyll y Mr. Hyde refleja a la perfección la «esquizofrenia de diseño» con la que tienen que lidiar mis colegas los ingenieros aeroespaciales. Esos de la “patraña”, ya tú sabes…
Procedimientos de despacho frente a la operativa real: el limbo de la responsabilidad jurídica
—Ya, bueno. Ahora que comprendo mejor el concepto y con la idea de seguir buscándole las cosquillas, me gustaría volver brevemente sobre el asunto del BUS-VAO de la A-2.
—No entiendo para qué, George. Ya hemos visto hace dos horas y veintiocho minutos que va a ser un truño de campeonato. Al ocurrírsele la “innovadora idea” al inquilino de un despacho en la DGT de eliminar un tercio de la calzada general no cayó en la cuenta, o sí pero no le importa, de que la masa de tráfico se atasca con mayor frecuencia y dura más tiempo. Resulta evidente, que se pretende trasladar el problema de la congestión de esa carretera desde los niveles de la gestión del organismo ministerial competente a los propios conductores, que son quienes deben asumir no solo un mayor riesgo a su seguridad y mayores demoras, sino también la aplicación de una tabla de sanciones si son desobedientes.
—Pues es muy fácil de entender, socia. En aviación ocurre exactamente lo mismo. Un procedimiento diseñado en un despacho y simulado en condiciones ideales, al “chocar” contra la operativa real genera una cadena de fallos latentes que se quedan ahí agazapados hasta que los agujeros de las lonchas del queso suizo se alinean. Cuando el sistema se diseña al límite sin colchón de seguridad, cualquier pequeña perturbación degrada la capacidad global. La administración se adjudica la medalla del nuevo modo operativo, alguien consigue un ascenso o palmaditas en la espalda, pero la responsabilidad y el estrés de gestionar el embudo resultante se transfieren directamente al profesional.
—Te aviso que este debate Lincoln-Douglas va a acabar en tablas porque estamos de acuerdo en casi todo.
—Todo tiene ventajas e inconvenientes, socia. Lo importante es debatirlas y llegar a conclusiones útiles para todos. Mira, como no vamos a poder desempatar porque se va acercando la hora del eclipse, me gustaría finalizar este apasionante tête-à-tête dejando unas preguntas en el aire sobre una última cuestión para que sean otros quienes debatan sobre ellas e intenten encontrar las repuestas. ¿Te parece bien, socia?
—Por supuesto, boss. Soy tu esclava… 😉
—Gracias, Sofía. ¡Ja, ja! Tampoco hay que pasarse. Bien, para terminar nuestro debate me gustaría plantear el vacío que existe en la cadena de responsabilidad legal. En aviación, sabemos que tanto la separación entre las aeronaves como la responsabilidad jurídica están perfectamente acotadas entre la tripulación y el controlador aéreo. Pues bien, en un entorno futuro U-space totalmente autónomo, ante una pérdida grave de separación o una colisión en vuelo ¿quién asumirá las responsabilidades penal y civil? ¿El desarrollador del software, el proveedor del servicio de la red de telefonía 5G/6G, el fabricante del eVTOL, el “agraciado” supervisor de turno o el Operador de la flota? Y llegado el caso, ¿cómo articularán los organismos oficiales de investigación de accidentes e incidentes sus recomendaciones de seguridad? ¿Exigiendo quizá parches de software no determinista?…
(Continuará y terminará la próxima semana con el epílogo de la serie)
—¿Por qué no dices: “Este ladrillo continuará y terminará la próxima semana con el epílogo de la serie”?
—Bueno, ya lo acabas de decir tú.
—¿De verdad ya se acaba?
—Claro, tenemos el tiempo justo antes de que empiece el eclipse.
—¡Vaya, ahora que iba a empezar a divertirme introduciendo en el debate el asunto de la supercomputación cuántica! 🙁
—Eso para el siguiente eclipse…
