Porque fue entrenada con lo que fue publicado, y lo que decide en una operación real raramente está publicado. El modelo del año que viene será mejor en todo lo público y seguirá sin saber nada de su operación.
¿Alimentar el modelo con nuestros documentos lo resuelve?
Resuelve la parte escrita, que es la menor. Lo que decide la operación — por qué se abrió la excepción, qué proveedor responde de verdad — no está en ningún documento para ser alimentado.
¿Por qué el modelo parece seguro incluso cuando se equivoca?
Porque una respuesta plausible y una correcta tienen la misma apariencia en un modelo generativo. Por eso toda afirmación de la capa lleva su origen: para ser verificada, no creída.
¿Qué cambia cuando existe una capa?
La respuesta pasa a citar de dónde vino. El error deja de ser invisible y pasa a ser rastreable — lo que es distinto de no existir.
Con cada generación, el modelo mejora en aquello a lo que cualquier competidor también accede. Lo que nunca tendrá, sin que alguien pregunte, es su martes.