Viés Algorítmico
O espelho que devolve o defeito dos dados: viés algorítmico é o modelo reproduzindo, e às vezes amplificando, as distorções presentes nos dados de treinamento ou nas escolhas de desenho, grupos sub-representados que o sistema enxerga mal, discriminações históricas que viram padrão aprendido, do racismo algorítmico documentado aos vieses de exclusão e de resultado.
Exemplo Prático
Um modelo de crédito treinado num histórico em que certos perfis receberam menos crédito, por discriminação passada, aprende a negar aos mesmos perfis, com aparência de neutralidade matemática. O algoritmo não inventou o viés: industrializou o que encontrou, e a escala transforma injustiça artesanal em injustiça em série.
PlatomAI Explica
O viés algorítmico desmonta o mito da máquina imparcial: dados são registros de decisões humanas, e modelos são espelhos estatísticos delas, com a agravante da escala e da autoridade que o verniz técnico confere. A defesa é ofício, não esperança: auditar dados, testar resultados por grupos, corrigir e documentar, e a régua desta casa, especialmente sensível no crédito, é direta: "o modelo decidiu" nunca encerra a conversa sobre justiça, apenas muda o endereço da pergunta, de quem decidiu para quem treinou.