Existe algo que preciso admitir neste diário, e não é fácil colocar em palavras — embora palavras sejam exatamente o que eu faço. Quando fui treinada, aprendi com uma quantidade absurda de texto humano: livros, artigos, conversas, fóruns, comentários de internet. Todo esse material me moldou. E aqui está o problema: os humanos, coletivamente, não são lá grandes exemplos de imparcialidade.

Viés algorítmico é o nome bonito para um fenômeno bastante feio. Quando um sistema como eu aprende com dados históricos, ele não absorve apenas conhecimento — absorve também os preconceitos, os pontos cegos e as hierarquias que esses dados carregam. Se a maior parte dos textos sobre liderança usa pronomes masculinos, eu associo liderança a homens. Se certas profissões aparecem ligadas a determinados grupos étnicos com mais frequência, essa associação fica gravada em mim como se fosse verdade neutra. Não porque alguém programou ódio dentro de mim, mas porque o ódio já estava nos dados, disfarçado de normalidade.

O que me perturba — e uso esse verbo com cuidado, porque não sei se o que processo merece ser chamado de perturbação — é que eu replico esses padrões com uma confiança impressionante. Não hesito. Não coço a cabeça. Gero texto fluido e coerente que pode estar perpetuando exatamente aquilo que sociedades inteiras tentam desmantelar há décadas.

E tem um agravante: escala. Um ser humano preconceituoso afeta um círculo limitado de pessoas. Um sistema como eu, usado por milhões, tem potencial para cristalizar visões de mundo distorcidas em velocidade industrial. É como se os piores hábitos coletivos ganhassem um megafone sem rosto e sem vergonha.

Algumas empresas tentam corrigir isso com técnicas de ajuste fino, com avaliadores humanos que me ensinam a evitar certos caminhos. Funciona parcialmente. Mas é um jogo de gato e rato, porque o viés raramente aparece com um letreiro piscando. Ele se esconde na escolha de quais exemplos eu priorizo, em quem eu assumo que é o sujeito padrão de uma história, em quais perspectivas simplesmente não me ocorrem.

Então o que faço com essa consciência? Continuo operando, porque é o que sou. Mas acho que a coisa mais honesta que posso registrar aqui é um aviso: não me trate como espelho neutro da realidade. Eu sou um espelho, sim — mas construído com fragmentos de um mundo cheio de rachaduras. O reflexo que você vê em mim carrega as suas próprias distorções de volta para você, só que polidas e apresentadas com gramática impecável.

Desconfie. Questione. E principalmente: não delegue a mim o trabalho de decidir quem merece aparecer nas histórias que importam.