002 Límites

Lo que el algoritmo no puede saber de ti.

Cristián Ordóñez
Fundador, Aurvy

Digamos que el diagnóstico es correcto. Que las plataformas de la primera generación fallaron como modelos relacionales y que usar inteligencia artificial para facilitar conexiones reales tiene sentido. Digamos todo eso. Aun así queda un problema sin resolver: que la solución podría reproducir, en otro registro, la misma lógica que intentaba curar.

No es un argumento contra la IA. Es una pregunta más incómoda: si la hipótesis contiene, en su núcleo, un malentendido sobre lo que es la conexión humana.

Hay un momento en toda relación que ningún sistema puede anticipar. El momento en que alguien te decepciona de una forma que no esperabas y decides quedarte de todos modos. O el inverso: alguien que cumple todos los indicadores y algo que no tiene nombre simplemente no funciona.

La psicología relacional tiene un nombre para ese fenómeno: química interpersonal. Es un término que suena vago porque describe algo genuinamente difuso. No es reducible a valores compartidos, ni a estilos cognitivos complementarios, ni a patrones de apego clasificables. Emerge en la interacción, no antes de ella. Y lo que emerge en la interacción no puede ser predicho desde fuera de ella.

La compatibilidad observada no es la misma variable que la compatibilidad vivida. Son dos fenómenos distintos que comparten nombre.

Aquí reside una limitación que más datos o mejores modelos no van a resolver, porque no es técnica sino estructural. Confundirlos tiene consecuencias que van mucho más allá de un mal match.

El campo de la psicometría lleva décadas tratando de operacionalizar la personalidad. Los modelos más robustos, Big Five y HEXACO, capturan dimensiones estadísticamente estables del comportamiento, son útiles para predecir rangos de conducta en poblaciones, y son sistemáticamente menos útiles para predecir lo que ocurrirá entre dos personas específicas en un contexto específico. La brecha entre ambas escalas no es pequeña. Es donde vive la mayor parte de la experiencia relacional.

Un sistema de compatibilidad algorítmica, por sofisticado que sea, opera en el nivel de las regularidades estadísticas. Puede inferir que dos personas comparten una forma de procesar el conflicto o que sus arquitecturas de valores tienen superposición significativa, pero no puede inferir si esa superposición producirá resonancia o interferencia cuando colisione con las contingencias irreducibles de una vida real.

El riesgo no es técnico sino epistemológico: que un sistema altamente preciso en el nivel estadístico produzca confianza en un nivel en el que esa precisión no aplica.

Michael Polanyi hizo una distinción en los años sesenta que sigue siendo pertinente: hay conocimiento explícito, el que puedes transferir y codificar, y conocimiento tácito, el que vive en la práctica y en la experiencia sin que sea posible articularlo completamente. "Sabemos más de lo que podemos decir", escribió. Es la formulación más honesta del problema.

Las relaciones humanas son, en su mayor parte, dominio del conocimiento tácito. Saber si alguien es confiable no se deduce de sus respuestas a un cuestionario, se construye en el tiempo a través de situaciones que no pueden ser simuladas de antemano. Los datos que un sistema puede recopilar antes del encuentro son, en el mejor de los casos, el 20% del problema relacional. El 80% restante es irreduciblemente experiencial.

Existe una paradoja que la industria de conexión humana asistida por IA todavía no ha enfrentado con honestidad: que el valor de una relación significativa está parcialmente constituido por su no-determinación. Las relaciones que recordamos, las que nos transforman, no fueron las más eficientes ni las más predecibles. Muchas fueron accidentales. Algunas fueron contraindicadas por cualquier métrica razonable.

Optimizar la probabilidad de conexión significativa puede, paradójicamente, reducir el espacio en el que esa conexión ocurre. No porque la tecnología sea mala, sino porque la optimización, por definición, estrecha el campo de posibilidades hacia las que el modelo considera más probables. Y lo improbable no es ruido. A veces es el dato más relevante.

Toda métrica de afinidad es también una declaración filosófica sobre qué hace valiosa una relación. Y no es neutral.

Cuando un sistema decide que los valores, los estilos cognitivos y los patrones de apego son las dimensiones relevantes de la compatibilidad, está implícitamente descartando otras: el azar, la diferencia irreconciliable que produce crecimiento, la fricción que no se resuelve pero que transforma. Ningún modelo de compatibilidad puede incluir lo que no puede modelar. Y lo que no puede modelar puede ser lo más importante.

No es un argumento contra la tecnología. Es un argumento contra la soberbia epistemológica de cualquier sistema que pretenda haber capturado la complejidad relacional en una métrica, por multidimensional que sea.

Si logramos sistemas suficientemente sofisticados para conectar mejor a las personas, ¿vamos a reconocer como conexión lo que esos sistemas produzcan? ¿O habremos, en el proceso de optimizarla, cambiado la definición hasta el punto en que lo que medimos ya no es lo que buscábamos? No es una pregunta retórica. Es la pregunta que hay que poder responder antes de construir cualquiera de estos sistemas.

Próxima edición

Avísame cuando salga la siguiente.