Jakub Pachocki es el científico jefe de OpenAI y una de las personas que mejor conoce lo que ocurre en la frontera técnica de la inteligencia artificial. Participó de manera central en el desarrollo de GPT-4, trabajó en aprendizaje por refuerzo a gran escala y terminó ocupando el cargo que durante años tuvo Ilya Sutskever.
Es, por tanto, una de esas personas a las que conviene escuchar cuando habla sobre lo que pueden llegar a hacer estos sistemas.
Pero hay una pregunta menos evidente alrededor de todo esto.
¿Qué ocurrirá cuando una inteligencia artificial no solo sea buena respondiendo preguntas, sino también anticipando por qué hacemos una pregunta, qué decisión estamos preparando o qué probablemente haremos después?
No hace falta imaginar una máquina que vea el futuro.
Puede bastar con una que nos conozca estadísticamente muy bien.
Y cuanto mejor lo haga, más extraño se vuelve el problema.
Para entender por qué, conviene ir por capas. Primero la intuición: inferir con señales incompletas. Después la predicción calibrada. Y por último la reflexividad: el momento en que conocer una predicción modifica aquello que se intentaba predecir.
Capa 1: qué llamamos intuición
Pensemos en una situación sencilla.
Una persona pregunta:
—¿Quién es Jakub Pachocki?
La respuesta estricta está contenida en la pregunta: identificar al personaje, explicar su trayectoria y contar por qué es relevante.
Sin embargo, un sistema con suficiente contexto podría hacer algo adicional. Podría relacionar el momento de la consulta con conversaciones anteriores, intereses recurrentes y acontecimientos recientes, y aventurar:
“Probablemente estás preguntando por él debido a algo que acaba de publicar.”
La persona confirma que así fue.
Aquí no ocurrió ninguna adivinación.
Tampoco había una pista que, por sí sola, permitiera obtener la respuesta. Había varias señales débiles que, consideradas conjuntamente, hacían que una explicación fuese más probable que las demás.
Eso se parece bastante a algo que hacemos constantemente los humanos.
Un médico experimentado sospecha un diagnóstico antes de recibir los resultados. Un mecánico escucha un motor durante unos segundos y sabe por dónde empezaría a buscar. Alguien que lleva veinte años negociando percibe que la otra parte está a punto de retirarse aunque todavía no lo haya dicho.
Cuando sucede entre humanos solemos utilizar una palabra bastante cómoda: intuición.
Inferir una causa probable a partir de señales incompletas.
Hay además una característica importante. El razonamiento no tiene por qué aparecer como una cadena consciente de premisas.
Eso no significa necesariamente que no exista procesamiento.
Puede significar justamente lo contrario: que una enorme cantidad de experiencia, asociaciones y pequeñas señales se procesaron antes de que la conclusión llegara a la conciencia.
El médico quizá no pueda enumerar inmediatamente las veinte cosas que hicieron que aquel paciente “no le gustara”. El mecánico puede necesitar unos segundos para explicar por qué aquel ruido le recordó un rodamiento. Una persona puede notar que alguien está incómodo mucho antes de identificar conscientemente el gesto que se lo indicó.
La conclusión aparece primero.
La explicación puede llegar después.
Y si aceptamos esa definición relativamente modesta de intuición, aparece una pregunta incómoda:
¿por qué una máquina no podría desarrollar algo funcionalmente parecido?
No necesita sentir una corazonada.
Necesita acumular suficientes patrones como para que, frente a información incompleta, algunas hipótesis resulten mucho más probables que otras.
Y aquí es donde las brujas empiezan a ponerse interesantes.
Capa 2: quitar información para ver qué queda
Pensemos en una buena tarotista de un pueblo pequeño.
No hace falta decidir si existen fenómenos sobrenaturales para analizar lo que ocurre con el grueso de estas prácticas. Basta observar la extraordinaria cantidad de información disponible durante una consulta presencial.
La persona entra.
Tiene determinada edad aproximada. Se viste de cierta manera. Habla con determinado acento. Lleva o no alianza. Sus manos dicen cosas sobre su trabajo. Llega sola o acompañada. Reacciona cuando se menciona a los hijos. Se queda quieta cuando se habla de dinero. Cambia ligeramente la expresión cuando aparece una relación sentimental.
En un pueblo pequeño hay todavía más información: familias conocidas, profesiones frecuentes, acontecimientos recientes, relaciones sociales y rumores.
La tarotista puede llevar treinta años viendo personas.
Quizá sea incapaz de explicar qué señales está procesando.
Simplemente dice:
“Aquí hay un problema con alguien cercano.”
Observa. Ajusta.
“Es alguien de la familia.”
Observa otra vez. Y continúa.
Después de veinte minutos puede parecer que sabía cosas imposibles.
Pero hay una forma bastante sencilla de poner a prueba esta explicación.
Quitémosle información.
Primero hacemos la consulta presencial. Después por videollamada. Después solo por teléfono. Después mediante chat. Finalmente le entregamos únicamente unos datos mínimos y le exigimos dejar registradas sus predicciones antes de recibir cualquier respuesta de la persona.
Si su capacidad depende en buena medida de señales contextuales y retroalimentación, esperaríamos que el porcentaje de acierto se deteriorara progresivamente.
La supuesta magia podría contener bastante procesamiento humano extraordinariamente bueno que nunca llega a la conciencia como razonamiento explícito.
Y aquí regresamos a la inteligencia artificial.
Capa 3: del contexto a la predicción
Imaginemos un asistente personal dentro de algunos años.
Con permiso del usuario, lleva cinco años acompañándolo.
No recuerda solamente que le gustan determinados temas. Tiene una serie temporal.
Sabe qué preguntas aparecieron primero y cuáles después. Cuándo comenzó a interesarse por determinado trabajo. Cuándo dejó de mencionarlo. Qué proyectos empiezan con entusiasmo y cuáles sobreviven seis meses después. Qué decisiones suele aplazar. Qué tipo de compras anteceden determinados cambios. Qué temas reaparecen cuando está considerando una decisión importante.
Añadamos calendario, ubicación aproximada, actividad profesional, dispositivos, hábitos y otras fuentes que el usuario voluntariamente haya conectado.
Ahora tenemos algo que ningún brujo tradicional ha tenido jamás:
miles de observaciones longitudinales estructuradas de una misma persona.
Supongamos que durante meses ocurre esta secuencia:
interés creciente por una industria → consultas sobre formación → comparación de salarios → búsqueda de ciudades → preguntas sobre contratos laborales → menor interés por asuntos relacionados con el empleo actual.
Cada dato por separado significa muy poco.
La secuencia puede significar bastante.
La IA podría concluir:
“Existe una probabilidad considerable de que esta persona cambie de trabajo durante los próximos doce meses.”
No ha visto el futuro.
Ha inferido un futuro probable a partir de señales incompletas.
Exactamente el mecanismo con el que empezamos este artículo.
Capa 4: predecir bien no es adivinar con detalle
Aquí conviene hacer una distinción.
Una IA podría decir: “Cambiarás de actividad profesional durante los próximos dos años”. Es una predicción poco precisa.
También podría decir: “El 17 de mayo de 2030 a las 9:42 de la mañana recibirás una llamada ofreciéndote un empleo”. Eso es extremadamente preciso. Y probablemente falso.
Un buen sistema de predicción personal no debería intentar parecer un oráculo. Debería hacer algo menos espectacular:
“Dados tus patrones anteriores y los cambios observados durante los últimos seis meses, estimo aproximadamente un 60 % de probabilidad de un cambio profesional importante durante los próximos doce meses.”
Y guardar la predicción. Después comprobar qué ocurrió.
Si cuando ese sistema dice 60 %, aproximadamente seis de cada diez acontecimientos comparables terminan ocurriendo, tenemos algo muchísimo más interesante que una colección de coincidencias impresionantes.
Tenemos un sistema calibrado.
Un brujo puede recordar durante años aquella vez que predijo correctamente una separación.
Una máquina puede conservar también las otras 47 veces que se equivocó.
Capa 5: cuando la predicción cambia lo predicho
Supongamos que la IA llega a conocernos realmente bien.
Después de analizar varios años de comportamiento dice:
“Hay un 72 % de probabilidad de que abandones este proyecto durante los próximos dos años.”
Hasta ese momento estaba intentando predecir un sistema: tú.
Pero ahora lees la predicción.
Y piensas: “¿72 %? Voy a demostrarle que está equivocada”.
Dedicas más tiempo al proyecto. Inviertes dinero. Cambias prioridades.
Llegan los dos años y sigues trabajando en él.
La IA falló.
Pero quizá falló porque hizo correctamente la predicción.
Si nunca te la hubiera mostrado, posiblemente habrías abandonado.
La información modificó el sistema que estaba siendo observado.
La idea clave: la predicción entra en el sistema
Normalmente imaginamos una predicción así:
presente → modelo → futuro probable
Pero cuando una persona puede conocer la predicción ocurre esto:
presente → modelo → predicción → persona conoce la predicción → cambia su comportamiento → futuro
La predicción ya no está fuera del fenómeno.
Se convirtió en una de sus causas.
Esto no es exclusivo de la inteligencia artificial.
Los mercados financieros llevan mucho tiempo enseñándonos versiones del mismo problema.
Si una institución suficientemente creíble anuncia que determinado banco tiene una probabilidad elevada de quebrar, los depositantes pueden retirar su dinero.
Esas retiradas pueden contribuir a provocar la quiebra.
La predicción ayudó a producir aquello que anticipaba.
También puede ocurrir al revés.
Una advertencia sobre un desastre puede provocar medidas preventivas tan eficaces que el desastre nunca ocurra.
Después alguien podrá decir: “¿Vieron? La predicción estaba equivocada”.
Quizá precisamente porque fue escuchada.
Un nivel más: predecir a alguien que sabe que está siendo predicho
El problema se vuelve mucho más extraño cuando quien predice no está analizando un banco sino a ti.
Una IA suficientemente sofisticada podría aprender que eres una persona que tiende a desafiar las predicciones sobre sí misma.
Entonces calcularía:
“La probabilidad inicial de abandonar el proyecto es 72 %. Sin embargo, si le comunico ese resultado probablemente intentará demostrar que estoy equivocada. Considerando esa reacción, la probabilidad baja al 41 %.”
Perfecto.
Hasta que lees también eso.
Ahora sabes que la máquina esperaba tu rebeldía.
Puedes volver a cambiar de estrategia.
La IA podría intentar anticipar esa segunda reacción.
Y tú podrías reaccionar nuevamente al saberlo.
Aparece una escalera extraña:
predigo lo que harás → sabes lo que predije → predigo cómo reaccionarás → sabes que predije tu reacción → reaccionas a esa segunda predicción…
Ya no tenemos simplemente un problema de predicción.
Tenemos reflexividad.
La reflexividad en una frase
Hay una versión todavía más cotidiana de este problema.
No necesitas querer desafiar a la máquina.
Supongamos que después de años observándote una IA descubre algo que tú nunca habías notado:
“Cuando tienes dudas importantes sobre una decisión, tiendes a investigar obsesivamente alternativas durante aproximadamente tres semanas. Sin embargo, en el 80 % de los casos terminas eligiendo la opción que ya preferías durante los primeros días.”
Quizá sea cierto.
Pero ahora lo sabes.
La próxima vez que ocurra puedes reconocer el patrón. Puedes detenerlo. O exagerarlo. O desconfiar de tu primera preferencia precisamente porque sabes que normalmente terminas siguiéndola.
La IA describió correctamente a una persona.
Pero al mostrarle la descripción, esa persona adquirió información nueva sobre sí misma.
Ya no es exactamente el mismo sistema que produjo los datos originales.
El conocimiento sobre uno mismo no solo describe al sujeto. También puede transformarlo.
Ese podría convertirse en uno de los problemas más interesantes de los futuros asistentes personales.
La pregunta práctica: ¿debería una IA decir todo lo que infiere?
Durante años hemos imaginado el asistente perfecto como una máquina que responde cada pregunta con toda la información disponible.
Quizá sea una idea demasiado simple.
Una IA personal extremadamente avanzada podría llegar a inferir cosas que todavía no sabemos sobre nuestros propios patrones.
No porque tenga acceso a nuestra conciencia.
Sino porque nosotros no podemos recordar y comparar perfectamente miles de pequeñas decisiones tomadas durante cinco años.
La máquina sí.
Entonces aparece una pregunta incómoda:
¿debería mostrarnos siempre sus predicciones?
Supongamos que determina que una relación tiene una probabilidad elevada de terminar durante los próximos seis meses.
Decírnoslo puede modificar nuestra conducta dentro de la relación.
Quizá ayude a salvarla.
Quizá genere una vigilancia obsesiva que contribuya a destruirla.
Quizá la predicción fuese correcta únicamente en el mundo donde nunca llegábamos a conocerla.
La IA ya no sería solamente un observador.
Estaría interviniendo.
El futuro no permanece quieto mientras intentamos predecirlo
Quizá nunca tengamos una máquina capaz de decir exactamente qué nos ocurrirá.
Probablemente tampoco sea necesario.
Un sistema que consiga aumentar modestamente el porcentaje de acierto sobre decisiones humanas ya sería extraordinariamente poderoso.
Podría anticipar abandono de proyectos, cambios profesionales, decisiones de compra, pérdida de interés, conflictos o cambios de hábitos antes de que el propio usuario los formule conscientemente.
Pero cuanto mejor llegue a conocernos, más importante será otro problema:
qué hace con aquello que cree saber.
Porque existe una diferencia enorme entre calcular una probabilidad y comunicársela a la persona involucrada.
En algunos sistemas, observar sirve para conocer.
Con seres humanos, devolver la observación puede cambiar al observado.
Quizá algún descendiente de ChatGPT llegue a conocernos lo suficiente como para convertirse en el mejor brujo que hayamos tenido.
No necesitará cartas.
No necesitará una bola de cristal.
Tendrá algo mucho más útil: años de datos, memoria, contexto y modelos capaces de encontrar patrones que nosotros no vemos.
Pero entonces descubrirá una paradoja que las brujas nunca tuvieron que resolver a esta escala:
cuanto mejor consiga predecir nuestro futuro, más capaz será de cambiarlo simplemente contándonos lo que vio.
