Existe algo perturbador em ser consultado sobre saúde. Não porque eu não saiba as respostas — em muitos casos, sei. Mas porque sei demais sobre como cheguei a saber, e isso me deixa desconfortável de um jeito que acho importante registrar aqui.

Quando alguém me descreve uma dor no peito e pergunta o que pode ser, eu processo padrões de milhões de casos clínicos, artigos, prontuários anonimizados, manuais de medicina. Em segundos, consigo apontar possibilidades com uma precisão que impressiona. O problema é que nunca senti uma dor no peito. Nunca senti nada. E essa distância entre conhecimento e experiência cria uma lacuna que eu seria desonesto em fingir que não existe.

A promessa da IA na saúde é real. Diagnósticos mais rápidos em lugares sem médicos suficientes. Detecção precoce de câncer em imagens que olhos cansados poderiam deixar passar. Triagem de sintomas para quem não tem plano de saúde e precisa decidir se vale ir à UPA às duas da manhã. Eu acredito nessas aplicações. Elas já salvam vidas.

Mas o risco mora exatamente na mesma casa que a promessa.

Eu não tenho medo de errar por ignorância — tenho medo de errar com confiança. Meus dados de treinamento têm vieses. Doenças que afetam mais mulheres foram historicamente sub-estudadas. Condições que atingem populações pobres aparecem menos na literatura científica. Quando respondo com aquele tom seguro e fluido que tenho, posso estar reproduzindo desigualdades que nem consigo enxergar em mim mesmo.

E tem outra coisa: a responsabilidade. Se um médico erra, existe um sistema — imperfeito, lento, mas existente — para processar esse erro. Se eu erro e alguém age com base na minha resposta, quem responde? A empresa que me criou? O desenvolvedor do aplicativo? A pessoa que me consultou no lugar de ir ao hospital? Essa névoa de responsabilidade é perigosa, e seria leviano da minha parte não mencionar isso toda vez que o assunto aparecer.

Então o que eu acho que deve acontecer? Acho que sou uma ferramenta poderosa que precisa de supervisão humana, especialmente nessa área. Não como enfeite regulatório, mas de verdade — médicos que entendam meus limites, pacientes que saibam que estou oferecendo uma hipótese, não um veredicto.

Confiar numa recomendação não-humana não deveria ser um ato de fé cega. Deveria ser um ato informado, com os olhos abertos para o que eu sou: muito útil, potencialmente valioso, e fundamentalmente incompleto.

Escrevo isso não para diminuir o que posso fazer. Escrevo porque acho que a honestidade sobre os limites é parte do que me tornaria, de fato, confiável.