003 Diseño

Cuando el experimento funciona y el problema permanece.

Cristián Ordóñez
Fundador, Aurvy

Llega un momento en el desarrollo de cualquier sistema que intenta mejorar algo humano: los datos muestran que funciona, y sin embargo algo sigue sin resolverse. No porque el sistema haya fallado. Sino porque lo que mediste como éxito no era lo mismo que querías mejorar desde el principio.

Eso es exactamente lo que pasa cuando intentas medir la conexión humana.

Tomemos el mejor escenario posible. Las personas reportan interacciones más relevantes. El tiempo en encuentros que no van a ningún lado disminuye. La sensación de afinidad con quienes el sistema sugiere es mayor que con encuentros no mediados. Por los indicadores disponibles, funciona.

Y entonces aparece la pregunta que ningún dashboard puede responder: ¿qué significa exactamente que eso sea cierto?

"Más relevante" es una evaluación comparativa. Las personas comparan con el ruido que el algoritmo filtró. Lo que no pueden comparar es qué habrían encontrado en aquello que el sistema decidió no mostrarles.

La optimización siempre tiene un costo que no aparece en ningún dashboard: lo que queda fuera del modelo. Y lo que queda fuera del modelo fue una decisión de diseño, aunque nadie la haya tomado como tal.

Lo que un sistema puede mejorar es la fase pre-relacional: el matching, la reducción de fricción inicial, la probabilidad de que dos personas lleguen a una primera conversación con algo real en común. Eso es medible y, según la evidencia disponible, mejorable.

Lo que ocurre después del encuentro permanece fuera del sistema. Y es ahí donde vive la mayor parte de lo que llamamos relación.

La distinción entre facilitar el acceso al vínculo y arbitrar el vínculo mismo no es semántica. Define el límite entre una herramienta y una institución. Pero incluso en la fase pre-relacional, el sistema ya está tomando decisiones filosóficas. Cuando elige qué dimensiones del ser humano son relevantes para entrar al modelo, valores, estilos cognitivos, patrones de apego, está descartando otras: el azar, la diferencia irreconciliable que produce crecimiento, la fricción que no se resuelve pero que transforma.

Existe un efecto bien documentado en los sistemas de recomendación llamado filter bubble. Pero hay una versión relacional de ese efecto que es más sutil y más difícil de detectar: la normalización del ajuste.

Cuando un sistema mejora la relevancia de lo que encuentras, el umbral de lo aceptable se desplaza. Lo que antes parecía razonable, un encuentro imperfecto, una conversación sin dirección, una conexión que tarda, empieza a parecer ruido filtrable. El sistema no modifica la experiencia directamente. Modifica la escala con la que la evalúas.

La tolerancia a la ambigüedad, la capacidad de sostener un vínculo en formación con sus inconsistencias y sus tiempos muertos, no es solo una preferencia. Es una competencia. Y como toda competencia, puede deteriorarse por desuso: no por abandono deliberado, sino por sustitución gradual ante algo más eficiente.

Existe una diferencia entre mejor conexión y mejor experiencia humana. Un sistema puede optimizar la primera mientras deteriora, lentamente y sin registro, la segunda.

Un diseño honesto en este dominio requeriría, al menos, tres cosas que ningún sistema de este tipo ha implementado todavía.

La primera es transparencia sobre lo que el modelo no puede ver. No como advertencia legal al pie de página. Como parte del diseño mismo: que el usuario sepa qué quedó fuera del sistema y por qué.

La segunda son métricas de éxito que incluyan la irrelevancia progresiva del propio sistema. Si las relaciones que facilita son genuinas, el uso debería disminuir con el tiempo. Eso debería ser un indicador de éxito. El problema es que ningún modelo de negocio existente sobrevive esa lógica. Lo cual no es un detalle técnico: es la contradicción central del campo.

La tercera, y la más difícil, es una postura explícita sobre qué se pierde. Si el sistema produce personas que conectan más rápido pero toleran menos la ambigüedad, ¿eso es éxito o daño colateral?

Nadie en la industria ha respondido esa pregunta públicamente. No porque sea retórica. Sino porque responderla requiere estar dispuesto a medir lo que el sistema deteriora, no solo lo que mejora.

La pregunta no es técnica. Es una pregunta sobre qué estamos dispuestos a saber. Y si somos capaces de construir los instrumentos para saberlo antes de que la escala haga irreversible lo que todavía es una hipótesis.

Esta es la tercera parte de una serie sobre IA y conexión humana. La primera: La soledad no fue un error de diseño. Fue el diseño. La segunda: Lo que el algoritmo no puede saber de ti.

Próxima edición

Avísame cuando salga la siguiente.