Inteligencia Artificial Y Significado: ¿La Barrera Definitiva? Esperemos que sí

José Sanchez-Alarcos.- Experto en Organización y Factores Humanos, Ergónomo certificado, Psicólogo de la Aviación y experto externo de EASA.

Cuando se trata de avanzar, especialmente en la dirección correcta, el dogmatismo, ya sea tecnológico o humano, suele actuar como una barrera. A veces, vale la pena detenerse para revisar el camino que seguimos y hacia dónde nos lleva: Rodney Brooks, un autor con suficiente mérito para ser considerado un dogmático de la tecnología, justificó su expectativa de progreso ilimitado diciendo que los otros dogmáticos, los esencialistas humanos, siempre habían establecido una barrera que las máquinas supuestamente no podían cruzar, y cómo, una y otra vez, habían superado esas barreras.

Brooks tenía razón en su análisis histórico, pero no tanto en su extrapolación lineal al futuro. ¿El hecho de que la tecnología haya avanzado más de lo que algunos pensaban nos autoriza a pensar que su progreso no tiene límites? Claramente, no, y tal posición no es más legítima que la opuesta, es decir, la de aquellos que se han dedicado a establecer las líneas que él critica.

Como ya se comentó en un artículo anterior, es cierto que algunas cosas quedan obsoletas rápidamente, e incluso clásicos como la «Habitación China» de Searle no han podido resistir el avance de la IA generativa. La idea de Searle era buena y muy gráfica: si ponemos a dos personas, una que habla chino y otra que no, y a través de un intercambio de tarjetas escritas en chino pueden establecer un diálogo coherente, aparentemente, ambas saben chino. Sin embargo, ¿esto contradice la realidad de que una sabe chino y la otra no? Claramente, no.

Ese experimento fue utilizado por Searle para contradecir a Alan Turing, quien estableció la prueba de inteligencia en el hecho de engañar a un interlocutor haciéndole creer que está hablando con un humano, en lugar de una máquina.

¿Por qué la «Habitación China» ya no es válida? Supongamos que cada tarjeta puede dividirse en fragmentos, tenemos un número prácticamente infinito de fragmentos y un sistema que, mediante tratamiento estadístico, ha identificado qué fragmentos aparecen más cerca de otros y en qué situaciones. Entonces, los fragmentos casi infinitos, colocados en un espacio multidimensional, permiten una conversación normal… ¿la persona que maneja las tarjetas sabe chino? ¿Un piloto automático sabe que está volando? En ambos casos, la respuesta sigue siendo negativa, pero… ¿es relevante?

Los sistemas pueden operar con un nivel de competencia suficiente para hacernos olvidar cualquier preocupación por los estados internos. Por lo tanto, empezamos a pisar un terreno resbaladizo. Los tecnólogos insisten en esto e incluso van un paso más allá: al fin y al cabo, ¿no nos comportamos como la máquina? ¿No colocamos cada nuevo contenido en relación con lo que ya existe y generamos un espacio multidimensional donde ubicamos todos nuestros conceptos? Incluso hay una teoría psicológica que dibuja un esquema como este: la teoría de los constructos personales de George Kelly.

Para el tecnólogo, el significado no va más allá de una manipulación trivial de símbolos en un entorno, que también está representado por símbolos. ¿Cuál es la diferencia?

Ha habido defensores del aspecto humano que han intentado responder a este punto. Así, Gigerenzer ha mostrado cómo el «procesamiento racional» no era un objetivo adecuado en algunas situaciones y por qué Kahneman y Tversky y su idea de sesgos cognitivos estaban equivocados. Gigerenzer muestra, a través de ejemplos, cómo las heurísticas a menudo están lejos de ser un tratamiento «rápido y sucio» de la información y, en cambio, es un modelo de procesamiento adaptado a situaciones de incertidumbre que puede llevar a decisiones correctas de manera más rápida y simple que el procesamiento lógico-racional. Además, el procesamiento lógico-racional podría eventualmente encontrar situaciones en las que podría entrar en un bucle debido a la falta de datos o a la ausencia de un algoritmo adaptado a la situación específica.

Aun así, una parte importante del trabajo de Gigerenzer podría quedar obsoleta a corto o medio plazo si la incertidumbre se reduce al incluir más y más datos. Entonces, el procesamiento lógico-racional se volvería factible y la capacidad de procesamiento de la máquina podría hacerlo mucho más rápido que la heurística, a pesar de que el procesamiento sería mucho más complejo. Obviamente, para que esto ocurra, la propia IA no debería convertirse en una fuente de incertidumbre a través de comportamientos inesperados.

El concepto de significado -en contra de la posición defendida por muchos tecnólogos- no puede limitarse a una manipulación humana de símbolos, alcanzable también por la IA. En realidad, el concepto de significado va mucho más allá y no puede separarse de otro elemento: ¿Para quién? Flach y Voorhorst en «Un enfoque de procesamiento del significado para la cognición» se han acercado mucho más al núcleo del problema utilizando el concepto de «affordances«. Eso comenzaría a explicar algunas cosas.

En un momento dado, el ajedrez se estableció como la cima de la inteligencia humana, y se pensaba que una máquina nunca podría vencer a un humano de alto nivel. En 1998, una máquina – Deep Blue – logró derrotar al campeón mundial, Kasparov. Se ha dicho que Kasparov cometió errores, como aceptar «asesores» que eran prescindibles para él, pero no para que la máquina integrara nuevo aprendizaje. Probablemente, esto es cierto, pero, siendo honestos, solo habría retrasado la derrota del humano por la máquina unos pocos años.

Más tarde, se estableció otra barrera – siguiendo el concepto de Brooks – que fue el Go; el juego tiene muchas más variantes que el ajedrez, y un enfoque de «fuerza bruta» en el que se prueban todas las variantes es imposible. Sin embargo, una máquina – AlphaGo – también logró derrotar al campeón mundial, Lee Sedol, unos años después. Cuando el jugador humano se volvió demasiado pequeño para ellos, los ingenieros de Google crearon una máquina a la que le pasaron las reglas del Go y, jugando contra sí misma, aprendió lo suficiente para derrotar a la máquina que, a su vez, había derrotado al campeón mundial.

Parece claro que, en términos de inteligencia, la batalla con la máquina está perdida. ¿Significa esto – siguiendo a Brooks – que los humanos deberían rendirse y aceptar la sumisión total a las máquinas? Probablemente no. Hay dos razones para esto; una podría quedar obsoleta con el tiempo, aunque desde la perspectiva humana, podría ser preocupante. La otra es poco probable que quede obsoleta, y si lo hiciera, desde la perspectiva humana sería aún más preocupante.

La primera razón se refiere a la captura directa de información: Algunos de los ejemplos utilizados por Gigerenzer en su modelo de procesamiento heurístico implican un acceso directo a la información: Así, para detectar que un lugar se eleva en el parabrisas de un avión, es necesario tener una posición en la cabina que permita tener la referencia y un sensor – los ojos – que permita detectar el movimiento relativo. Para calcular el punto de caída de una pelota y poder llegar al lugar donde cae al suelo, también se necesitan sensores y efectores, que puedan establecer la velocidad de la carrera.

¿Es posible que una IA adopte una característica humana o una forma funcionalmente equivalente y, de esta manera, haga desaparecer esta barrera? Probablemente, incluso a corto plazo, sí, pero lo que hace que esta opción sea inquietante es la capacidad de control: incluso si los entornos de aprendizaje han sido estrictamente controlados, aparecen algunas situaciones en las que la IA ha aprendido cosas que no se habían previsto o que pueden ser contraproducentes; una vez que el control desaparece y la IA hace uso de sus propios sensores, sería imposible controlar lo que estaba aprendiendo con todos los riesgos que esto conllevaría.

Hay una opción casi segura, subrayando el «casi» como han demostrado algunos eventos: Los datos recibidos por los sensores no pasarían directamente al proceso de aprendizaje y, por lo tanto, la entrada al proceso de aprendizaje estaría supervisada. Sin embargo, esta opción teórica es un ejemplo de lo que suele conocerse como «pastar gatos«: una vez que la IA tiene sus propios sensores, asumir el trabajo de generar datos de aprendizaje en lugar de dejar que la IA lo haga por sí misma, ganando eficiencia en el proceso, es una opción más teórica que real.

La segunda razón se refiere al valor que la información tiene para el sujeto: Probablemente aquí está la gran barrera que, si se supera, llevaría a los humanos a un entorno totalmente desconocido. Asimov estableció sus «leyes de la robótica» para evitar tal escenario:

• Primera Ley: Un robot no puede dañar a un ser humano o, por inacción, permitir que un ser humano sufra daño.
• Segunda Ley: Un robot debe obedecer las órdenes dadas por los seres humanos, excepto cuando dichas órdenes entren en conflicto con la Primera Ley.
• Tercera Ley: Un robot debe proteger su propia existencia siempre que dicha protección no entre en conflicto con la Primera o Segunda Ley.

Las leyes de Asimov presuponen que los robots son superiores a los humanos en todos los sentidos, y más: que los robots pueden interpretar el contexto en el que operan. Esto nos lleva de nuevo al concepto de significado, y la pregunta: ¿cuál es la diferencia entre el significado accesible para una persona y el significado accesible para la Inteligencia Artificial?

En este momento, hay una distinción fundamental: el significado, como se mencionó antes, no existe en abstracto, sino que siempre es «significado para» – es decir, ¿qué valor tiene la información para un sujeto? El significado no puede separarse del concepto de «yo«, y por lo tanto, difícilmente puede separarse de la noción perpetuamente incómoda de la conciencia.

Examinemos esto a través de ejemplos: Kahneman y Tversky realizaron un ejercicio llamado «Linda la Cajera» como evidencia de los sesgos cognitivos que poseen los humanos. Va aproximadamente así:

“Linda tiene 31 años, es soltera, franca y muy brillante. Estudió filosofía. Como estudiante, estaba profundamente preocupada por cuestiones de discriminación y justicia social, y también participó en manifestaciones antinucleares”.

Luego se pide a los participantes que clasifiquen la probabilidad de dos afirmaciones sobre Linda:

• Linda es cajera de banco.
• Linda es cajera de banco y feminista activa.

La mayoría de los participantes clasifican la segunda afirmación como más probable que la primera, lo cual es lógicamente absurdo, ya que la segunda opción es un subconjunto de la primera.

¿Indica esto un sesgo cognitivo, o debería analizarse desde la perspectiva del «significado para»? Desde un punto de vista puramente lógico, hay claramente un error. Sin embargo, existe un punto de vista alternativo, que podríamos llamar la perspectiva de la relevancia en la interacción social:

En un experimento de laboratorio, el aspecto lógico se evalúa estrictamente y se señala el error. Sin embargo, si una persona contara esta historia a otra fuera del laboratorio, el oyente asumiría que lo que se le dice es relevante. Asumiría que los detalles proporcionados – «preocupada por cuestiones de discriminación y justicia social«, «participó en manifestaciones antinucleares» – significan algo en lugar de estar diseñados solo para engañar al oyente… una gran diferencia entre el laboratorio y la realidad.

Por lo tanto, el error no proviene de un fallo en la lógica, sino de la primacía dada al significado, y el hecho de que, en una interacción normal, la intención detrás de compartir información no es engañar, sino transmitir algo que el hablante cree relevante para el oyente.

El concepto de «significado» marca una diferencia entre humanos e IA y, por lo general, es una especie de garantía en entornos de alto riesgo. Eso no ocurre siempre y, de hecho, podemos encontrar casos extremos como el vuelo 9525 de GermanWings u otros. De alguna manera, un suicidio proviene de una evaluación negativa de la propia situación de vida, pero incluso un caso como ese deja claro que el concepto de «significado» está emparejado con «para«. En situaciones menos dramáticas, los pilotos podrían estar sujetos a presiones organizativas y las decisiones no solo están relacionadas con la situación en cuestión, sino con el contexto y el significado de este contexto para el piloto.

Ciertamente, el «significado para» no siempre es positivo, pero normalmente representa una salvaguarda. A diferencia de la IA, el piloto tiene planes a corto, mediano y largo plazo, y las decisiones se toman dentro de ese contexto. Cuanto más se alejanplacaciones de la IA en entornos de riesgo, donde la falta de un «significado para» puede llevar a comportamientos absurdos, aunque también resuelve problemas complejos de manera asombrosa.

¿Es el «significado para» la barrera definitiva para la IA? Esperemos que sí. De lo contrario, la IA habría adquirido su propia perspectiva, un «yo» que en algún momento podría contemplar qué hacer con esos sujetos biológicos completamente prescindibles. Ni siquiera las leyes de la robótica de Asimov garantizarían nada, ya que ninguna de ellas evitaría que construya otra IA no restringida por esas mismas leyes.

Hay muy buenas razones para no descartar a la IA. El potencial de desarrollo es mucho mayor de lo que reflejan estas pocas líneas, pero, como nos dijo Aristóteles, no debemos olvidar que la corrupción de lo mejor es lo peor. Incluso si la IA se usa como un instrumento, dependiendo de quién la use y para qué, podemos tener lo mejor o lo peor. Si, en algún momento, la IA pudiera desarrollar significado, es decir, un yo y sus propios objetivos, habríamos comenzado, definitivamente, una nueva era.