Podcast
Clínica Experts
Existe uma pergunta que Juliano Madalena gosta de fazer em sala de aula, especialmente quando os alunos são médicos: você usa regulação 24 horas por dia na sua profissão e ainda assim escolheu fazer direito depois? A provocação tem um fundo de verdade. O profissional da saúde convive com responsabilidade, protocolos e ética desde o primeiro dia de exercício. O que mudou é que agora há um elemento novo na equação e ele não tem nome no contrato, não assina laudos e não pode ser responsabilizado perante o direito.
Advogado, professor universitário e um dos juristas que participou da construção da resolução do Cremers sobre inteligência artificial, Madalena foi o convidado do CliniTalks para falar sobre o que a chegada da IA muda na rotina das clínicas.
Antes da ferramenta, a pergunta que ninguém está fazendo
A maioria das clínicas que começa a usar inteligência artificial faz isso pelo mesmo caminho: entra no site, coloca o cartão de crédito e começa a mandar dados. Exames, transcrições de consulta, informações de pacientes. O problema, explica Madalena, está em quem vai tratar esses dados e sob qual lei.
"Não há no mercado uma inteligência artificial, um modelo de inteligência artificial brasileira."
As ferramentas disponíveis são, em sua maioria, norte-americanas. E os Estados Unidos não possuem uma estrutura regulatória alinhada com a LGPD brasileira. Isso significa que, ao usar modelos de prateleira para transitar dados de pacientes, o profissional pode estar operando numa zona de ilicitude sem saber.
A saída é escolher a tecnologia com mais cuidado, buscando fornecedores que operem via APIs intermediárias que não retêm dados pessoais, ou ferramentas com garantias contratuais explícitas sobre o tratamento das informações.
O dever de informar: mais simples do que parece
Se há um ponto central na resolução do Cremers, Madalena não hesita em identificar qual é: o dever de informar. O paciente tem o direito de saber quando seus dados estão interagindo com inteligência artificial e o médico tem a obrigação de comunicar isso.
Para traduzir o conceito, ele usou uma imagem do cotidiano: a embalagem de chocolate no supermercado, com todas as informações sobre gordura saturada, açúcar e aditivos estampadas no rótulo. O consumidor pode comprar ou não, mas foi informado.
"Como profissionais de saúde, nós devemos estampar a questão da inteligência artificial. É o mesmo aviso."
Isso significa incluir um disclaimer claro nos documentos e fluxos de atendimento onde a IA esteja envolvida: transcrição de consulta, análise de prontuário e sugestão de conduta. É o mesmo princípio que já rege o consentimento informado na medicina.
A responsabilidade não vai para o modelo
Uma das confusões mais comuns que Madalena encontra é a ideia de que, ao usar IA, o profissional divide sua responsabilidade com ela. Não divide.
"Software não é pessoa perante o direito," afirmou com clareza.
Tal como o robô cirúrgico que realiza centenas de procedimentos por dia nos grandes hospitais, a responsabilidade sempre recai sobre quem opera o instrumento: o responsável técnico, quem assina o documento e quem tomou a decisão clínica.
O paralelo com o direito é que o judiciário já registra casos de advogados sendo multados por uso fraudulento de IA em petições, com alucinações de modelos sendo apresentadas como jurisprudência real. A medicina caminha para o mesmo tipo de escrutínio.
"Quem assina pela IA? Se aquele laudo vier a uma conclusão médica equivocada, quem responde?"
A resposta, segundo Madalena, é sempre o humano que estava do outro lado. E é exatamente por isso que a assinatura importa. Não como formalidade, mas como afirmação de que alguém parou, revisou e assumiu a responsabilidade pelo que foi produzido.
O que esperar dos próximos movimentos regulatórios
O Brasil tem três frentes principais de regulação de IA em andamento: o PL 2338, o marco regulatório federal ainda pendente no Congresso; a resolução do TSE, que tratou do uso de IA em propaganda eleitoral; e a resolução do Cremers, pioneira entre os conselhos de medicina do país. É nessa última que Madalena teve participação direta.
A tendência, segundo ele, é uma aproximação crescente entre direito e mercado, com a possibilidade de que, no futuro, modelos e fornecedores precisem passar por algum tipo de homologação antes de entrar nas clínicas. A analogia que usou no episódio é reveladora:
"Eu não posso simplesmente construir uma engenhoca e colocar dentro de uma clínica médica para fazer procedimento de saúde. Posso fazer o mesmo com IA?"
A resposta implícita é não. Um laser tem processo regulatório enquanto um software que influencia diagnósticos e condutas clínicas deveria ter também.
Por ora, o que existe é uma base de princípios e a convicção de que a regulação, mais do que engessar, serve para dar ao profissional aquilo que ele mais precisa: segurança para avançar.
Confira a entrevista completa no Spotify ou YouTube:
Clínica Experts
Em uma única plataforma, reúne todas as ferramentas necessárias para uma gestão automatizada, eficiente e segura de clínicas ou consultórios.
1