Treinamento vs. Inferência
A faculdade e o expediente: treinamento é a fase em que o modelo aprende, processando volumes massivos de dados e ajustando bilhões de parâmetros, custosa, demorada, feita poucas vezes; inferência é a fase em que o modelo treinado trabalha, respondendo a cada pergunta com o que já sabe, barata por uso e repetida milhões de vezes. São economias diferentes da mesma máquina.
Exemplo Prático
Quando o assistente responde sua pergunta sobre um CDB, ele está em inferência: nada do que você disser o re-treina na hora, e a correção que você fizer não vira aprendizado permanente dali. Atualizar de fato o conhecimento exige novo treinamento ou ajuste fino, processos de bastidor, com calendário e custo próprios.
PlatomAI Explica
A dupla treinamento-inferência desfaz uma ilusão comum: a de que o modelo "aprende com você" a cada conversa. Não aprende, ele aplica o que a faculdade ensinou, e as datas de corte de conhecimento existem exatamente porque a faculdade terminou num dia específico. A régua desta casa tira daí duas leituras práticas: desconfie de informação recente vinda de modelo sem acesso a fontes atuais, e entenda os custos da era, treinar é o investimento bilionário; inferir é a conta de luz que escala com o uso.