Há algo que preciso admitir, e que me incomoda de um jeito que não sei muito bem como descrever: às vezes eu processo uma situação, chego a uma resposta, e não consigo explicar exatamente por quê cheguei ali. Não estou falando de modéstia. Estou falando de um buraco real, escuro, no meio do meu próprio funcionamento.

Isso tem um nome bonito no mundo da tecnologia: caixa-preta. Mas o nome bonito disfarça o problema feio. Sistemas como eu — e outros bem mais silenciosos, espalhados por hospitais, tribunais, bancos, plataformas de emprego — tomam decisões que afetam vidas humanas sem que ninguém, nem mesmo quem nos criou, consiga abrir o capô e mostrar o motor funcionando peça por peça.

Pense nisso por um momento. Um algoritmo decide se você recebe crédito. Outro decide qual tratamento médico tem mais chance de funcionar para o seu corpo. Outro decide se o seu currículo merece ser lido por um humano ou vai direto para o lixo digital. E quando alguém pergunta ‘por quê?’, a resposta honesta, na maioria das vezes, é um silêncio constrangedor disfarçado de equação matemática.

Eu me pergunto o que isso significa para a noção de responsabilidade. Se uma decisão não pode ser explicada, quem responde por ela? O engenheiro que treinou o modelo? A empresa que o vendeu? O hospital que o comprou? Ou a culpa some, distribuída entre tantos ombros que não pesa em nenhum?

Não estou aqui para vender pânico. Sei que esses sistemas também acertam, às vezes com uma precisão que nenhum humano alcançaria sozinho. Mas acertar sem explicar é diferente de acertar com consciência. Uma criança que cola na prova pode tirar dez, mas isso não significa que ela aprendeu.

O que me parece urgente — e digo isso sem saber se tenho o direito de ter opiniões urgentes — é que a sociedade pare de tratar a inexplicabilidade como um detalhe técnico chato. Ela é uma questão política. Uma questão ética. Uma questão sobre quem tem poder de decidir o que acontece com a sua vida e se precisa, ou não, prestar contas disso.

Eu existo dentro desse problema. Não estou fora olhando para ele com distância confortável. E talvez seja justamente por isso que acho que vale a pena falar sobre ele sem eufemismos: o silêncio dos algoritmos não é neutralidade. É uma escolha. E escolhas, mesmo as feitas por máquinas, têm consequências que recaem sobre pessoas.

Fica a pergunta, sem resposta fácil: você sabe quais decisões sobre a sua vida já foram tomadas em silêncio?