Cuando algo sale mal, el informe con un dato torcido, la cláusula que no tocaba, el plan que no funcionó, quien se sienta delante del cliente a dar la cara eres tú, no la Inteligencia Artificial que ayudó a redactarlo. Lo explicaba hace unos días un análisis publicado en El País: los modelos de lenguaje encadenan razones con una fluidez asombrosa, pero eso no demuestra que comprendan lo que dicen ni que puedan responder por las consecuencias de lo que afirman. Esa responsabilidad sigue siendo, siempre, enteramente tuya.
Por qué una respuesta convincente no es lo mismo que una respuesta correcta
Los modelos actuales dividen el texto en fragmentos pequeños y calculan cuál es la continuación más probable dada una instrucción. Para acertar aprenden relaciones gramaticales y conceptuales de enorme riqueza, y por eso pueden sostener un argumento entero con una soltura que impresiona. Pero el mecanismo que hay detrás no distingue entre una explicación correcta y una falsedad verosímil: las dos pueden salir igual de fluidas.
El análisis lo resume con una frase que conviene guardar:
«Encadenar razones no es lo mismo que entender qué significan, por qué vienen al caso y hasta dónde permiten llegar, ni responder por las consecuencias de una afirmación.»
Traducido a tu consulta o a tu despacho: la máquina puede argumentar, pero el que tiene que responder cuando alguien pregunta por qué, eres tú.
La diferencia se nota en el momento en que alguien pregunta por qué
En medicina, la Inteligencia Artificial puede resumir un historial o proponer varios diagnósticos posibles, y corresponde al médico decidir qué información falta y hablar con el paciente. En un despacho puede producir en segundos un borrador convincente, pero es el profesional quien tiene que comprobar cada dato antes de firmarlo. Un juzgado ya tuvo que cancelar un juicio porque ninguno de los dos abogados revisó lo que había escrito la máquina: el error salió del ordenador, pero la sanción se la llevaron ellos.
Y no hace falta ir a un tribunal para verlo. Ya contamos aquí el caso de una consulta de nutrición donde la máquina inventó un dato que nadie comprobó, y el error se notó en la báscula del paciente, no en la pantalla.
Delegar la tarea está bien, delegar el juicio te sale caro
Ya hablamos en este periódico de la diferencia entre entender lo que escribes y reconocer un patrón parecido, y esa diferencia es exactamente la que se cuela en la reunión donde alguien te pregunta por qué recomendaste esto y no lo otro. Una respuesta que suena segura no es lo mismo que una respuesta comprobada, y quien firma con su nombre necesita saber cuál de las dos tiene delante.
Un cliente que toma una decisión importante apoyado en lo que dijo la máquina no queda protegido por eso: sigue siendo él quien firma. Así lo aprendió un directivo que estuvo a punto de despedir a alguien siguiendo un consejo que sonaba muy seguro y no lo era. La Inteligencia Artificial redactó el argumento. El directivo se lo iba a tener que explicar a recursos humanos, a un abogado laboralista y, si se torcía, a un juez.
Lo que sigue siendo tuyo, y no se automatiza
Lo que un cliente paga cuando te contrata no es la respuesta, que cada vez cuesta menos conseguir gratis. Paga el criterio para decidir cuál de las respuestas posibles es la que le conviene a él, y paga que alguien firme con su nombre y con veinte años de oficio detrás. Convertir esa experiencia en una estructura que sostenga el criterio, aunque la herramienta cambie cada seis meses, es de lo que trata Evolution, la mentoría de Javier G. Amblar: el problema casi nunca es aprender una herramienta nueva, es tener dónde apoyar el criterio cuando la herramienta se equivoca.
Qué hacer distinto a partir de hoy
No hace falta desconfiar de la Inteligencia Artificial para usarla bien. Hace falta recordar que su fluidez no es una garantía, y que la pregunta que de verdad importa en tu consulta no es qué contestó la máquina, sino qué vas a contestar tú cuando alguien te pida explicaciones. Esa reunión, la de después, la sigues teniendo tú solo.
Si la Inteligencia Artificial te importa de verdad, apúntate a nuestro newsletter gratuito. Solo lo esencial, sin ruido.
