Um modelo nunca aprende apenas o dado.

Aprende também a forma como aquele dado passou a existir.

Essa diferença parece pequena, mas muda quase tudo na conversa sobre IA em saúde.

Quando dizemos que um modelo foi treinado em exames, prontuários, laudos, custos, eventos, códigos ou desfechos, a frase sugere uma matéria-prima relativamente estável. Como se o dado estivesse ali, esperando ser extraído, limpo, anotado e entregue ao algoritmo.

Mas dado clínico não nasce assim.

Ele é produzido por um sistema.

Antes de virar linha de tabela, imagem, texto, label ou variável, o dado passou por acesso, triagem, indicação, protocolo, equipamento, interface, linguagem, agenda, cobertura, incentivo, hábito documental, cultura institucional, limitação operacional e decisão humana.

Às vezes passou também por ausência.

O exame que não foi pedido.

O sintoma que não foi registrado.

O paciente que não chegou.

O campo que ficou vazio.

O laudo que disse menos do que o radiologista pensou.

O código usado porque era o mais próximo disponível.

O desfecho medido porque era o único observável.

Quando uma IA aprende sobre esse material, ela não tem acesso direto ao fenômeno clínico em estado puro. Ela acessa o fenômeno filtrado por uma cadeia de produção.

E essa cadeia deixa marcas.

Há uma forma conveniente de imaginar dados em saúde.

O mundo clínico produziria fatos.

O prontuário registraria esses fatos.

O dataset organizaria esses registros.

O modelo aprenderia padrões.

A validação mediria se os padrões são bons.

Essa sequência é útil como simplificação técnica, mas ruim como descrição da realidade.

O prontuário não é uma câmera apontada para o cuidado.

O PACS não é uma janela neutra para a doença.

O laudo não é apenas a transcrição objetiva de um achado.

O código de faturamento não é sinônimo de necessidade clínica.

A falta de informação não é ausência de fenômeno.

Cada uma dessas formas de registro é uma negociação entre o que aconteceu, o que foi percebido, o que foi possível perguntar, o que foi necessário documentar, o que o sistema permitiu escrever, o que havia tempo de escrever e o que teria consequência se fosse escrito.

Por isso, em saúde, a pergunta "qual é o dado?" raramente basta.

É preciso perguntar: como esse dado foi produzido?

Quem entrou no sistema?

Quem ficou fora?

Quem foi examinado?

Quem foi acompanhado?

Quem teve acesso ao teste confirmatório?

Que protocolo estava vigente?

Que aparelho gerou a imagem?

Que formulário obrigava resposta?

Que campo era opcional?

Que equipe preenchia?

Que incentivo tornava algo visível?

Que parte do cuidado acontecia, mas não virava registro?

Um modelo treinado sem essas perguntas pode até performar bem.

O problema é que não sabemos exatamente sobre o quê.

Modelos são bons em explorar regularidades.

Essa é a força deles.

Também é o risco.

Quando a regularidade clinicamente relevante está misturada a regularidades operacionais, o modelo pode aprender o caminho mais fácil.

Não porque seja mal-intencionado.

Porque otimização não tem intuição clínica.

Se uma variável de contexto ajuda a reduzir erro no dataset, ela pode virar sinal. Se o hospital, o scanner, o tipo de exame, a prioridade do pedido, o padrão de compressão, a incidência, a lateralidade do marcador, a posição do paciente ou a presença de um dispositivo estiverem correlacionados com o desfecho, o modelo pode usar isso.

O caso de radiografias de tórax para pneumonia, estudado por Zech e colaboradores, tornou esse ponto bastante concreto. O trabalho mostrou que modelos treinados em radiografias de determinados sistemas hospitalares tinham desempenho pior quando testados em outros locais, e que redes neurais conseguiam identificar o sistema hospitalar ou o departamento onde a imagem foi adquirida. A suspeita não era apenas "o modelo errou fora". Era mais incômoda: parte da performance interna podia estar apoiada em informação de procedência, não apenas em achado pulmonar.

Badgeley e colaboradores fizeram uma demonstração igualmente útil em radiografias de quadril. Um modelo treinado para predizer fratura também conseguia predizer variáveis de processo, como fabricante do scanner, modelo do equipamento e prioridade do pedido. Quando os autores balancearam variáveis de paciente e processo, a performance para fratura caiu de modo importante. A imagem carregava mais do que osso.

Durante a pandemia, DeGrave e colaboradores analisaram modelos para detecção radiográfica de COVID-19 e mostraram que sistemas aparentemente bons podiam selecionar atalhos relacionados à forma de coleta dos dados. A patologia estava no problema, mas o atalho estava no dataset.

Esses exemplos são radiológicos, mas a lição é mais ampla.

O modelo aprende o que ajuda a prever.

Não necessariamente o que gostaríamos que ele tivesse aprendido.

No prontuário eletrônico, o problema fica menos visível porque não há imagem para inspecionar.

Mas a mesma lógica aparece.

Um valor laboratorial registrado não representa apenas uma condição biológica. Representa também que alguém pediu o exame, que o paciente conseguiu realizá-lo, que o resultado entrou no sistema, que houve integração entre laboratórios e que a variável foi preservada de modo interpretável.

Uma medicação registrada não representa apenas tratamento. Pode representar prescrição, dispensação, uso real, reconciliação incompleta, suspensão não documentada ou cópia de lista antiga.

Uma ausência de diagnóstico não representa necessariamente ausência de doença. Pode representar falta de rastreamento, subdiagnóstico, consulta curta, barreira de acesso, fragmentação entre sistemas ou simples omissão documental.

Weiskopf e Weng organizaram dimensões clássicas de qualidade de dados em prontuário eletrônico, como completude, correção, concordância, plausibilidade e atualidade. A lista é técnica, mas seu efeito é conceitual: antes de treinar um modelo, é preciso saber que tipo de confiança o registro merece.

Um dataset pode ser grande e ainda assim ser raso.

Pode ser longitudinal e ainda assim perder eventos.

Pode ser estruturado e ainda assim carregar semântica instável.

Pode ter milhões de linhas e ainda assim depender de campos preenchidos por rotina, pressa, contrato, faturamento ou hábito local.

Isso não torna o prontuário inútil.

Torna o prontuário situado.

E dado situado exige modelo situado.

Em radiologia, há outra camada que costuma ser tratada como se fosse mais simples do que é: o laudo.

O laudo parece texto clínico.

E é.

Mas também é produto de fluxo.

Ele depende da indicação fornecida, do exame realizado, da qualidade técnica, da comparação disponível, do histórico acessível, do template institucional, da urgência, do tempo de leitura, da especialidade do radiologista, da cultura de comunicação e da expectativa de quem vai receber aquele resultado.

Um laudo de emergência não é escrito no mesmo regime de um laudo ambulatorial eletivo.

Um laudo oncológico seriado não tem a mesma função de um exame inicial.

Um texto curto pode representar normalidade, pressa, confiança, baixa complexidade, padrão institucional ou limitação de contexto.

Um texto longo pode representar complexidade, defesa, incerteza, comparação, ensino ou comunicação com equipe específica.

Se um modelo aprende com laudos, ele aprende linguagem médica.

Mas também aprende estilo, template, omissão, ruído, abreviação, preferência institucional e distribuição de casos que chegam até aquele serviço.

Quando o laudo vira label, esse ponto fica ainda mais sensível.

O label não é a doença.

É uma decisão de tradução.

Alguém transformou um texto em classe, um achado em variável, uma impressão em desfecho, uma incerteza em categoria, uma dúvida em positivo ou negativo.

Às vezes essa tradução é excelente.

Às vezes é apenas conveniente.

O modelo não sabe a diferença sozinho.

Parte do risco aparece quando usamos uma variável disponível como substituta de uma variável importante.

Isso é inevitável em muitos projetos.

Nem todo conceito clínico relevante é diretamente mensurável. Necessidade, gravidade, fragilidade, risco social, adesão, acesso, sofrimento e continuidade raramente aparecem de forma limpa em uma coluna.

Então usamos proxies.

Custo pode virar proxy de necessidade.

Uso do sistema pode virar proxy de gravidade.

Retorno ao pronto atendimento pode virar proxy de falha.

Internação pode virar proxy de piora.

Tempo até consulta pode virar proxy de prioridade.

Código diagnóstico pode virar proxy de doença.

O problema não é usar proxy.

O problema é esquecer que proxy tem história.

O estudo de Obermeyer e colaboradores sobre viés racial em um algoritmo de gestão populacional mostrou isso de forma forte: quando custo em saúde é usado como proxy de necessidade, desigualdades prévias de acesso podem entrar no modelo como se fossem informação neutra. Pacientes com a mesma carga de doença podem gerar custos diferentes porque receberam cuidado diferente. O algoritmo não precisa usar raça explicitamente para aprender uma estrutura desigual.

Esse exemplo é importante porque desloca a discussão de "variável proibida" para "mecanismo de produção".

Retirar uma variável sensível pode ser insuficiente se o restante do dataset já carrega a história dessa variável.

O sistema aparece no dado mesmo quando o campo não aparece na tabela.

Uma parte da confiança em IA vem de validação.

Mas validação não é um ritual único.

Ela também pode falhar do mesmo modo que o treinamento falha.

Se treino e teste são separados de forma aleatória dentro do mesmo hospital, no mesmo período, com os mesmos equipamentos, a mesma população, os mesmos protocolos, os mesmos formulários e os mesmos hábitos de registro, o teste pode confirmar que o modelo aprendeu bem aquele sistema.

Isso é útil.

Mas não é a mesma coisa que mostrar que o modelo aprendeu o fenômeno clínico de modo transportável.

Kelly e colaboradores, ao discutir desafios para impacto clínico de IA, destacam problemas como dataset shift, confundidores, viés discriminatório e generalização. A mensagem prática é simples: desempenho médio em ambiente controlado não resolve sozinho a pergunta operacional.

Um modelo pode ser bom no hospital onde nasceu.

Pode ser razoável em hospitais parecidos.

Pode degradar quando muda a população.

Pode degradar quando muda o protocolo.

Pode degradar quando muda o scanner.

Pode degradar quando muda a prevalência.

Pode degradar quando muda a forma de registrar o desfecho.

Pode degradar quando uma interface nova muda o comportamento humano que alimenta o sistema.

Essa degradação não é acidente periférico.

É parte do problema.

Em saúde, o ambiente não é estacionário. Diretrizes mudam, fluxos mudam, equipes mudam, exames mudam, nomes mudam, sistemas mudam, campanhas mudam, cobertura muda, critérios de admissão mudam, e a própria implantação de uma IA pode mudar o comportamento que ela pretendia medir.

O dado depois da implantação não é necessariamente igual ao dado antes da implantação.

A consequência prática não é abandonar IA em saúde.

É mudar a ordem das perguntas.

Antes de perguntar qual arquitetura usar, vale perguntar qual cadeia produziu o dado.

Antes de comparar AUC, vale perguntar se o endpoint significa o que diz significar.

Antes de discutir generalização, vale mapear que partes do dataset são locais demais para viajar.

Antes de pedir "mais dados", vale perguntar se mais dados do mesmo sistema apenas reforçam o mesmo atalho.

Uma auditoria séria deveria olhar pelo menos para:

Essa lista não é burocracia acadêmica.

É engenharia de confiança.

Um modelo treinado sobre dado clínico sem entender o sistema que produziu esse dado é como um laudo sem história clínica: pode estar correto, mas começa com desvantagem.

Em muitos projetos, a unidade de trabalho parece ser o arquivo.

Uma imagem.

Um laudo.

Uma linha de prontuário.

Um evento.

Um episódio.

Uma janela temporal.

Mas a unidade real é mais ampla.

É o circuito que faz aquela informação existir.

No caso de uma radiografia, isso inclui quem pediu, por qual motivo, em que contexto, com qual aparelho, em qual posição, com qual qualidade, com qual urgência, em qual serviço, com qual protocolo de arquivamento, com qual laudo, com qual acesso a exames prévios e com qual desfecho observável.

No caso de um prontuário, inclui a organização do serviço, a interface, o treinamento da equipe, a pressão de tempo, a integração entre sistemas, a cultura de preenchimento e o uso secundário daquele registro para faturamento, auditoria, pesquisa ou gestão.

No caso de um desfecho, inclui não apenas o evento biológico, mas a chance de ele ser detectado.

Esse ponto é decisivo.

Modelos não veem o que não foi registrado.

Mas aprendem com a ausência.

E ausência em saúde raramente é aleatória.

Ela pode significar melhora, piora, abandono, barreira de acesso, morte em outro sistema, cuidado em outro lugar, exame não indicado, exame negado, exame esquecido, integração falha ou simplesmente dado perdido.

Tratar tudo isso como missingness genérica empobrece o problema.

O dado ausente também foi produzido.

Quando falamos de modelo, o erro aparece como métrica.

Falso positivo.

Falso negativo.

Sensibilidade.

Especificidade.

Calibração.

AUC.

Mas quando o modelo entra no fluxo, o erro muda de forma.

Um falso positivo pode ser exame adicional, ansiedade, fila, custo, contraste, biópsia, ligação, retorno, sobrecarga ou perda de confiança.

Um falso negativo pode ser atraso, alta indevida, não priorização, falsa tranquilidade ou ausência de busca ativa.

Um erro concentrado em um subgrupo pode virar desigualdade operacional.

Um erro concentrado em um aparelho pode parecer queda de performance de uma unidade.

Um erro concentrado em pacientes com histórico incompleto pode punir exatamente quem já chega com pior continuidade de cuidado.

Por isso, a pergunta "qual é a performance do modelo?" precisa ser acompanhada por outra:

que parte do sistema absorve o erro?

Se o erro cai sobre um médico com tempo e contexto, uma coisa acontece.

Se cai sobre uma fila automática, outra.

Se cai sobre um paciente sem capacidade de contestar, outra.

Se cai sobre um serviço já congestionado, outra.

O mesmo número pode ter consequências diferentes conforme o lugar onde aterrissa.

Há uma tentação cética que também atrapalha.

Se todo dado é situado, então nada serve?

Não.

O ponto não é transformar contextualização em paralisia.

O ponto é abandonar a fantasia de que escala corrige tudo.

Mais dados podem ajudar.

Mais centros podem ajudar.

Mais modalidades podem ajudar.

Modelos melhores podem ajudar.

Mas só ajudam na medida em que aumentam a diversidade real de produção do dado, reduzem dependência de atalhos, expõem subgrupos difíceis, melhoram labels, tornam incerteza visível e aproximam validação do uso concreto.

Um dataset enorme, mas homogêneo no mecanismo de produção, continua estreito.

Um dataset multicêntrico, mas sem rastreabilidade de protocolo, pode apenas misturar atalhos.

Uma validação externa sem análise de processo pode mostrar degradação sem explicar por quê.

Uma auditoria de fairness sem entender acesso, registro e proxy pode medir o sintoma e perder a causa.

Sittig e Singh propuseram olhar sistemas de informação em saúde como sistemas sociotécnicos complexos, envolvendo dimensões técnicas, humanas, organizacionais e externas. Essa lente é útil para IA porque impede uma redução comum: tratar o modelo como componente isolado.

O modelo é parte de um sistema.

Mas, antes disso, ele é treinado sobre rastros de outro sistema.

A pergunta fraca é:

que modelo consegue aprender com esses dados?

A pergunta melhor é:

que sistema produziu esses dados, e o que exatamente um modelo tenderá a aprender dele?

Essa mudança é pequena na frase e grande no trabalho.

Ela obriga a sair da abstração.

Obriga a olhar fluxo, protocolo, interface, rotina, ausência, incentivo, acesso e consequência.

Obriga a distinguir fenômeno clínico de rastro operacional.

Obriga a aceitar que o dataset não é apenas entrada técnica, mas documento institucional.

Em saúde, um modelo pode aprender doença.

Pode aprender gravidade.

Pode aprender risco.

Pode aprender resposta.

Mas também pode aprender hospital, equipamento, cobertura, linguagem, desigualdade, fila, protocolo, formulário, custo, disponibilidade, preferência local e hábito de registro.

Na prática, ele aprende uma mistura.

O trabalho sério não é fingir que essa mistura não existe.

É descobrir quando ela ajuda, quando atrapalha, quando cria atalho, quando amplifica desigualdade e quando torna uma performance aparentemente boa incapaz de viajar.

O ponto de partida, então, não é escolher primeiro a arquitetura.

Também não é tratar o dado como objeto neutro.

Começa no sistema que faz o dado existir.

E, se esse sistema não for compreendido, o modelo pode aprender exatamente o que havia de mais fácil, mais local e menos clínico no material que recebeu.