Porque foi treinada no que foi publicado, e o que decide numa operação real raramente está publicado. O modelo do ano que vem será melhor em tudo que é público e continuará sabendo nada sobre a sua operação.
Alimentar o modelo com os nossos documentos resolve?
Resolve a parte escrita, que é a menor. O que decide a operação — por que a exceção foi aberta, qual fornecedor responde de fato — não está em documento nenhum para ser alimentado.
Por que o modelo parece confiante mesmo errando?
Porque resposta plausível e resposta correta têm a mesma aparência num modelo generativo. É por isso que toda afirmação da camada carrega origem: para ser conferida, não acreditada.
O que muda quando existe camada?
A resposta passa a citar de onde veio. Erro deixa de ser invisível e passa a ser rastreável — o que é diferente de não existir.
A cada geração, o modelo fica melhor no que qualquer concorrente também tem acesso. O que ele nunca terá, sem alguém perguntar, é a sua terça-feira.