Atividades — Agentes de Inteligência Artificial na Medicina
Este conjunto de atividades foi elaborado para que você consolide, aprofunde e aplique os conceitos estudados no material deste módulo. Leia cada enunciado com atenção antes de iniciar a resolução. As atividades devem ser respondidas de forma dissertativa e fundamentada, com base exclusivamente no conteúdo do material didático. Não há espaço para respostas superficiais: o que se espera é que você demonstre compreensão dos mecanismos, das evidências e das implicações práticas dos sistemas discutidos — e que seja capaz de raciocinar sobre situações que não foram apresentadas textualmente no material, mas que exigem a aplicação dos conceitos estudados.
Atividade 1 — Dissecando a arquitetura de um agente clínico
Contexto
O trecho a seguir descreve o funcionamento de um agente de IA usado em uma unidade de terapia intensiva pediátrica de um hospital universitário. O sistema foi desenvolvido por uma equipe de pesquisa em colaboração com a equipe clínica e está em fase de uso assistido — ou seja, ainda é monitorado de perto pela equipe desenvolvedora e por um comitê clínico interno.
O agente, chamado internamente de PediGuard, opera de forma contínua desde a admissão de cada paciente na UTI pediátrica. A cada 15 minutos, ele acessa a interface de integração do monitor multiparamétrico de cada leito e coleta frequência cardíaca, frequência respiratória, pressão arterial invasiva ou não invasiva, saturação de oxigênio e temperatura. Simultaneamente, acessa o sistema de resultados laboratoriais do hospital e verifica se há novos exames disponíveis desde a última consulta — hemograma, gasometria arterial, lactato, culturas e função renal. Além disso, consulta o módulo de enfermagem do prontuário eletrônico para verificar os registros de balanço hídrico, administração de medicamentos e evolução clínica das últimas duas horas.
Com base em todas essas informações, o agente mantém um modelo interno contínuo do estado de cada paciente — um conjunto de variáveis que representa sua estimativa do estado fisiológico atual e a tendência de evolução nas próximas horas. Esse modelo é atualizado a cada ciclo de coleta. Quando o modelo interno indica que a probabilidade de deterioração clínica significativa nas próximas quatro horas ultrapassa um limiar pré-definido, o agente realiza duas ações: primeiro, busca automaticamente no repositório interno de diretrizes pediátricas da UTI quais são as condutas recomendadas para o padrão de deterioração identificado; segundo, envia ao tablet do médico plantonista uma notificação estruturada contendo o resumo das alterações identificadas, a tendência do modelo interno, as condutas sugeridas pelas diretrizes e uma classificação de urgência em três níveis — atenção, alerta e emergência. O agente não realiza nenhuma ação direta sobre o paciente, não altera prescrições e não aciona outros sistemas além da notificação. Toda ação clínica depende do médico responsável.
O que você deve fazer
Utilizando o modelo de arquitetura funcional de um agente apresentado no material deste módulo, disseque o funcionamento do PediGuard componente por componente. Identifique e descreva com precisão o que corresponde ao componente de percepção — quais são os sensores do agente e o que cada um captura. Identifique e descreva o componente de representação do conhecimento — onde e como o agente armazena o que sabe sobre o estado do paciente, e qual é a diferença entre os dados brutos coletados e o modelo interno mencionado na descrição. Identifique o componente de raciocínio e planejamento — o que o agente faz com os dados coletados antes de decidir se deve ou não enviar a notificação, e qual é o critério de decisão descrito. Identifique o componente de execução — quais são as ações concretas que o agente realiza no mundo. Por fim, identifique se há, na descrição do PediGuard, algum mecanismo de feedback — ou seja, se o agente aprende com os resultados de suas ações. Se não houver, explique qual seria a implicação dessa ausência e o que precisaria ser adicionado ao sistema para que ele pudesse incorporar um ciclo de feedback real. Responda de forma dissertativa, articulando cada componente com a descrição concreta do sistema.
Atividade 2 — Projetando um sistema multiagente para um problema clínico complexo
Contexto
Você foi convidado a integrar um grupo de trabalho multidisciplinar de um hospital de ensino que está avaliando a viabilidade de implantar um sistema de suporte à decisão baseado em agentes de IA para o programa de stewardship de antimicrobianos — um programa hospitalar cujo objetivo é otimizar o uso de antibióticos, reduzindo o consumo desnecessário de antibióticos de amplo espectro, diminuindo a pressão seletiva sobre bactérias resistentes e melhorando os desfechos clínicos dos pacientes com infecções.
O desafio é complexo: a decisão sobre qual antibiótico prescrever, em que dose e por quanto tempo é influenciada pelo microorganismo identificado, pelo perfil de resistência local do hospital (que muda ao longo do tempo), pelas características individuais do paciente (função renal, alergias, histórico de infecções anteriores, imunossupressão), pelas interações com os demais medicamentos em uso, pelas diretrizes clínicas nacionais e internacionais e pelos protocolos internos do próprio hospital. Nenhum único médico ou único sistema consegue integrar todas essas dimensões de forma simultânea e em tempo real.
O grupo de trabalho já decidiu que a abordagem de agente único não é adequada para esse problema. A discussão agora é sobre como estruturar um sistema multiagente que distribua o trabalho de forma inteligente entre agentes especializados.
O que você deve fazer
Com base nos conceitos de sistemas multiagente apresentados no material, elabore uma proposta fundamentada para a arquitetura do sistema de stewardship de antimicrobianos. Sua proposta deve ser desenvolvida de forma dissertativa e integrada, percorrendo os seguintes aspectos.
Primeiro, identifique e justifique quais domínios de especialização deveriam ter agentes dedicados nesse sistema. Para cada agente especialista proposto, explique qual informação ele acessaria, que tipo de raciocínio ele realizaria e que tipo de resultado ele entregaria ao sistema — não como uma lista, mas como uma descrição do funcionamento de cada agente inserido no fluxo clínico. Segundo, descreva o papel do agente orquestrador: como ele decomporia a tarefa de avaliação antimicrobiana em subtarefas, como distribuiria essas subtarefas aos especialistas, e como integraria os resultados parciais em uma recomendação final coerente para o médico responsável. Terceiro, discuta a questão da propagação de erros nos sistemas multiagente, conforme discutida no material: identifique pelo menos dois cenários em que um erro de um agente especialista poderia comprometer a recomendação final do orquestrador, e proponha como o sistema deveria ser projetado para detectar e mitigar esse risco. Por fim, discuta brevemente a questão da atribuição de responsabilidade: quando o sistema multiagente gera uma recomendação que o médico segue e o resultado é adverso, qual é a diferença entre essa situação e a situação de um único agente que gera a mesma recomendação?
Atividade 3 — Avaliação crítica de um agente de IA para um comitê hospitalar
Contexto
Você integra o comitê de tecnologia em saúde de um hospital de referência em oncologia. O comitê está avaliando a aquisição de um sistema comercial de IA para suporte à decisão em quimioterapia. O fornecedor apresentou o seguinte dossiê técnico resumido:
Nome do produto: OncoPlan AI — Assistente de Suporte à Decisão em Oncologia Clínica
Descrição funcional: O OncoPlan AI é um agente autônomo integrado ao prontuário eletrônico que, ao identificar um paciente com diagnóstico confirmado de neoplasia maligna e indicação de quimioterapia, realiza automaticamente as seguintes ações: (1) acessa os dados clínicos e laboratoriais do paciente; (2) consulta o CID-10 da patologia e o estadiamento documentado; (3) busca em uma base de protocolos oncológicos atualizada semestralmente os esquemas de quimioterapia recomendados para aquela combinação de diagnóstico e estadiamento; (4) verifica interações medicamentosas entre os agentes do protocolo sugerido e a medicação em uso pelo paciente; (5) calcula escores de performance status (ECOG ou Karnofsky) com base nos registros de enfermagem disponíveis; e (6) gera, para o oncologista responsável, um relatório estruturado com o protocolo sugerido, a fundamentação baseada nas diretrizes e os alertas de interação ou contraindicação identificados.
Dados de desempenho declarados pelo fabricante: Em um estudo retrospectivo conduzido nos Estados Unidos com 1.240 pacientes com diagnóstico de câncer de pulmão de células não pequenas (CPNPC) em estadio IIIb ou IV, o OncoPlan AI concordou com a decisão do oncologista em 87,3% dos casos. Em 8,1% dos casos, o oncologista optou por uma abordagem diferente da sugerida pelo sistema; em 4,6% dos casos, o oncologista adotou a sugestão do sistema em vez de sua intenção inicial após ler o relatório gerado. A base de protocolos foi atualizada pela última vez há quatro meses. O sistema foi treinado com dados de três centros oncológicos norte-americanos de excelência.
Afirmação do fabricante: “O OncoPlan AI não substitui o julgamento do oncologista. Ele funciona como um segundo par de olhos especializado, garantindo que nenhum protocolo relevante seja esquecido e que interações medicamentosas críticas sejam sempre identificadas.”
Sua análise deve ir além da leitura superficial dos números apresentados. O comitê espera um parecer crítico que identifique tanto os méritos quanto as limitações e os riscos do sistema, com base nos critérios discutidos no material deste módulo.
O que você deve fazer
Elabore um parecer técnico para o comitê, estruturado de forma dissertativa, aplicando o framework de avaliação crítica de agentes de IA em saúde apresentado no material deste módulo. Percorra cada uma das cinco dimensões do framework de forma detalhada e aplicada ao OncoPlan AI.
Na dimensão de validade, avalie se o estudo de desempenho apresentado pelo fabricante é suficiente para estabelecer que o sistema funcionará adequadamente no seu hospital. Identifique pelo menos três diferenças relevantes entre o contexto de validação descrito e o contexto de uso do seu hospital, e explique por que cada uma delas pode comprometer a generalização dos resultados. Discuta especificamente o que a métrica de “concordância de 87,3% com o oncologista” mede e o que ela não mede.
Na dimensão de impacto em desfechos, avalie se os dados apresentados demonstram que o uso do sistema melhora os resultados clínicos dos pacientes. Qual seria o estudo ideal para demonstrar isso, e por que a taxa de concordância não é um substituto adequado para essa evidência?
Na dimensão de explicabilidade, avalie se o sistema como descrito oferece o nível de transparência adequado para o contexto de uso. Considere tanto as necessidades do oncologista que usa o sistema quanto os direitos do paciente à informação sobre como seu tratamento é planejado.
Na dimensão de gestão de falhas, identifique pelo menos dois cenários em que o sistema provavelmente produziria uma recomendação incorreta ou inadequada, com base nas limitações descritas no dossiê. Para cada cenário, avalie se o sistema como descrito tem algum mecanismo de reconhecimento de incerteza ou degradação segura.
Na dimensão de equidade, avalie o risco de viés no OncoPlan AI considerando as características do conjunto de dados de treinamento e a população do seu hospital. Se o hospital atende uma população predominantemente afrodescendente e de baixa renda, com alta prevalência de diagnósticos tardios e comorbidades não controladas, qual é o risco de que o sistema tenha desempenho inferior nessa população?
Ao final do parecer, formule uma recomendação objetiva ao comitê: você recomendaria a aquisição imediata, a aquisição condicionada a estudos locais adicionais, ou a não aquisição? Justifique a posição com base nos achados das cinco dimensões.