La Inteligencia Artificial no entiende lo que escribes de la misma manera que tú entiendes lo que lees. Reconoce patrones con una precisión asombrosa, y esa precisión puede parecerse tanto a la comprensión humana que resulta fácil confundir una cosa con la otra.
¿Qué diferencia hay entre entender y reconocer un patrón?
Cuando tú entiendes algo, lo conectas con lo que has vivido, con lo que sientes al respecto, con lo que te importa de ese tema más allá de las palabras usadas para describirlo. Entender incluye un componente de experiencia que no está solo en el texto.
Cuando un modelo de lenguaje procesa tu texto, identifica qué palabras suelen aparecer juntas, en qué orden, con qué matices según el contexto que las rodea. No hay una experiencia detrás de eso, hay estadística aplicada al lenguaje a una escala que ningún ser humano podría procesar a mano.
¿Por qué entonces parece que te entiende tan bien?
Porque el lenguaje humano, precisamente porque lo usamos para comunicar comprensión real, está lleno de patrones reconocibles. Cuando alguien entiende un problema de verdad, suele escribir sobre él de una forma concreta: con ejemplos, con matices, con conexiones entre ideas que antes parecían separadas.
Un modelo de lenguaje ha visto tantos ejemplos de comprensión humana expresada en texto que ha aprendido a imitar esa forma con una fidelidad muy alta. El resultado se lee como comprensión aunque, por dentro, siga siendo una operación de predicción de la siguiente palabra más probable.
¿Importa esta diferencia si el resultado es útil de todos modos?
Depende de para qué lo uses. Si necesitas un resumen, una primera versión de un texto o ayuda para ordenar ideas, la diferencia entre entender y predecir patrones no cambia mucho el resultado práctico que obtienes.
Sí importa, y mucho, cuando el asunto exige un juicio real sobre una situación nueva, sin precedente claro en lo que el modelo ha visto antes. Ahí es donde la ausencia de comprensión real se nota, porque el modelo puede sonar seguro de sí mismo mientras describe algo que, en el fondo, no ha entendido en absoluto.
¿Cómo se nota en la práctica esa falta de comprensión real?
Se nota cuando le pides que aplique un criterio a un caso muy específico, con matices que no encajan del todo con los ejemplos que ha visto antes. Ahí tiende a responder con la solución más genérica y probable, no con la que de verdad encaja con tu situación concreta.
También se nota cuando le pides que sostenga una postura bajo presión, con preguntas de seguimiento incómodas. Una persona que entiende de verdad un tema mantiene su criterio y lo defiende con matices nuevos. Un modelo que solo reconoce patrones tiende a ceder terreno con facilidad ante cualquier pregunta que suene a objeción, aunque la objeción no tenga fundamento real.
¿Debería preocuparte esta diferencia o solo conviene tenerla presente?
No hace falta alarmarse, hace falta usarla con criterio. Un patrón bien reconocido sigue siendo útil para muchas tareas, y sería un error rechazar la herramienta por no ser lo que no pretende ser. El problema aparece cuando delegas en ella decisiones que exigen comprensión real de un contexto único, y confías en la respuesta solo porque suena segura.
¿Cambia algo saber esto cuando lees un texto escrito por Inteligencia Artificial?
Cambia la forma en que lo evalúas. En vez de preguntarte si suena bien, conviene preguntarte si lo que dice resistiría que alguien con experiencia real en ese tema lo revisara línea por línea. Un texto que reconoce patrones puede sonar convincente y estar vacío de criterio al mismo tiempo, y esa combinación es la que conviene aprender a detectar.
Esto no es un defecto que vaya a desaparecer con la siguiente versión del modelo. Es una consecuencia directa de cómo funciona la tecnología, y conviene asumirlo como un dato permanente de la herramienta, no como un fallo temporal que se corregirá solo con el tiempo.
Ya escribí sobre si usar esta tecnología para escribir es hacer trampa o ser más inteligente, y la respuesta pasa por lo mismo: importa para qué la usas y qué parte del criterio sigues poniendo tú.
Sobre el autor
Javier G. Amblar lleva 27 años estudiando de cerca cómo funciona la Inteligencia Artificial aplicada a negocio. Es exprofesor asociado del IE Business School, ha formado a más de 33.000 profesionales en 55 países y dirige una comunidad en línea de más de 500.000 personas, con un canal de YouTube de más de 368.000 suscriptores. Más en consultoria.uno.
