Aviación Digital, Sp.- La European Cockpit Association (ECA) y la Federación Internacional de Asociaciones de Pilotos de Línea Aérea (IFALPA) han publicado un documento de posición conjunto en el que articulan las condiciones que debe reunir la inteligencia artificial (IA) para integrarse de forma segura y ética en la aviación civil.
El texto, titulado AI in Civil Aviation*, identifica tres áreas de acción urgente: derechos sobre los datos generados por profesionales de la aviación, límites de autoridad y responsabilidad de los sistemas de IA, y certificación equivalente a los estándares de seguridad ya exigidos al resto de sistemas aeronáuticos.*
Tres prioridades que no admiten demora
ECA e IFALPA estructuran su posición en torno a tres desafíos que, según el documento, deben abordarse políticamente o mediante regulación antes de que la IA se consolide como elemento operacional en la aviación civil.
El primero atañe a los datos generados por profesionales. Pilotos, controladores de tráfico aéreo (ATCOs) y personal de mantenimiento producen volúmenes considerables de información a través de programas como el Flight Data Monitoring (FDM, Monitorización de Datos de Vuelo). Esos datos se ceden bajo la premisa de que se destinarán exclusivamente a la seguridad operacional. El documento exige que cualquier uso para entrenar o validar sistemas de IA requiera el consentimiento colectivo y específico de los profesionales implicados, que se rijan por garantías regulatorias claras y que el valor comercial que generen revierta en quienes los produjeron.
El segundo eje delimita la autoridad de la IA. El sistema debe limitarse a presentar opciones al piloto, nunca resultados fijos e inapelables. El piloto debe conocer el razonamiento que subyace a cada opción y el grado de confianza asociado, y ha de poder anular cualquier automatización alimentada por IA cuando lo estime necesario. El documento advierte que delegar decisiones ejecutivas en un sistema de IA diluiría la cadena de responsabilidad y podría incentivar conductas orientadas a eludir la responsabilidad, en detrimento de la toma de decisiones óptimas.
El tercer pilar exige que los sistemas de IA se certifiquen con los mismos estándares que cualquier otro componente de la aviación civil. Esto implica que su funcionamiento debe ser transparente, rastreable y auditable. El documento descarta explícitamente los modelos de «caja negra» (black box) cuya lógica de decisión no pueda entenderse ni reproducirse.
La confianza calibrada, alternativa a la fe ciega
Uno de los conceptos centrales del documento es el de confianza calibrada: un nivel de confianza proporcional a las capacidades reales y los límites concretos de cada sistema. ECA e IFALPA rechazan los esfuerzos regulatorios orientados a «fomentar la confianza» en la IA como ejercicio de imagen corporativa. A su juicio, la confianza debe ser consecuencia de la transparencia y de una certificación rigurosa, no un objetivo en sí mismo ni un prerrequisito para el despliegue. Una confianza acrítica en sistemas de IA, advierten, introduce sus propios riesgos de seguridad.
El documento recuerda también que la creatividad y la intuición humanas son insustituibles ante situaciones imprevistas que exceden el dominio operacional de diseño (ODD, Operational Design Domain) de un sistema. Cuando un sistema de IA alcanza sus límites, puede cesar de ofrecer respuestas o, peor aún, generar soluciones fabricadas, las denominadas alucinaciones, sin advertir al operador de ello.
Biomonitorización: datos sensibles con riesgos jurídicos
El documento aborda con cautela el uso creciente de tecnologías de biomonitorización, como el seguimiento ocular, la monitorización cardiaca o el electroencefalograma (EEG), para evaluar la carga de trabajo, la atención o la fatiga de pilotos en tiempo real. ECA e IFALPA reconocen el potencial de estas herramientas para la seguridad operacional, pero establecen condiciones estrictas: participación voluntaria, transparencia absoluta, protocolos de protección de datos y prohibición expresa de su uso con fines punitivos, de vigilancia o comerciales.
Ciberseguridad: vectores de ataque específicos para sistemas de IA
El texto identifica categorías de riesgo cibernético propias de los sistemas de IA aeronáuticos que no existían con las arquitecturas aviónicas tradicionales. Entre ellas destacan:
- Ataques adversariales y envenenamiento de datos (data poisoning): manipulación de los conjuntos de datos de entrenamiento para inducir decisiones erróneas.
- Ataques de inversión de modelo: extracción de datos operacionales o personales sensibles a partir del modelo entrenado.
- Ataques a la cadena de suministro: introducción de puertas traseras (backdoors) en el software o hardware de IA durante su desarrollo.
- Denegación de servicio e IA maliciosa: sobrecarga deliberada de los sistemas o uso de IA para automatizar amenazas de phishing y malware.
Como contramedidas, el documento reclama autenticación robusta, cifrado, detección de anomalías en tiempo real, controles de acceso estrictos, explainability (explicabilidad) de la IA y capacidad de anulación por parte del piloto.
Formación y monitorización de vuelo: la IA como herramienta, no como árbitro
ECA e IFALPA subrayan que la formación de pilotos deberá incorporar la interacción con sistemas de IA sin sacrificar el pensamiento crítico ni las habilidades intuitivas. En materia de evaluación del rendimiento, el documento es taxativo: la valoración del desempeño de un piloto debe recaer siempre en pilotos con formación específica, no en sistemas automatizados de calificación.
Respecto al FDM, reconocen el potencial de la IA para detectar patrones complejos y anomalías en grandes volúmenes de datos de vuelo con mayor rapidez que los analistas humanos. Sin embargo, advierten de que la identificación de correlaciones no equivale a la comprensión de causas: la interpretación final debe permanecer en manos de personal experimentado para evitar atribuciones erróneas con consecuencias operacionales.
La EASA y el marco regulatorio europeo, en el punto de mira
Aunque el documento no cita nominalmente a la Agencia Europea de Seguridad Aérea (EASA) ni a la Organización de Aviación Civil Internacional (OACI), su llamada a la acción regulatoria encaja directamente en los procesos normativos en curso en la Unión Europea, especialmente en el desarrollo del marco de certificación de IA para aviación que EASA está elaborando en paralelo al AI Act de la Comisión Europea. La exigencia de que los sistemas de IA sean sometidos a los mismos procedimientos de certificación que cualquier otro sistema aeronáutico implica, en la práctica, su integración plena en los procesos regulados por los estándares DO-178C, DO-254 y las guías de EASA para software y hardware en sistemas de seguridad crítica.
){kind=link}