Apps feitos com Grok vazaram dados de pacientes e senhas em texto puro

O Grok virou gerador de app, e quase todo app saiu público

O Grok, assistente de IA da empresa que o relatório chama de SpaceXSI (antes conhecida como xAI), tem um modo chamado Build: a pessoa descreve o que quer num chat e a IA escreve o código de um aplicativo na hora. Quando o criador clica em "Publicar", o app ganha um endereço próprio dentro do domínio grok.me e fica acessível por esse link.

A empresa de segurança Claroc analisou 37.571 desses apps que ainda estavam no ar. O resultado, divulgado em relatório nesta semana: 35.578 deles, ou 94,7%, estavam abertos para qualquer pessoa com o link, sem exigir login. A causa, segundo a Claroc, é que a opção "qualquer um com o link" já vem marcada por padrão na tela de publicação, mesmo em contas pagas.

O problema não é só o padrão de privacidade. Cada app publicado ganha seu próprio subdomínio, e esse endereço aparece em bancos de dados de DNS passivo (registros públicos de endereços que já foram acessados na internet) assim que alguém visita o app pela primeira vez. Esses bancos podem ser pesquisados por padrão de nome, o que torna fácil encontrar apps em massa, mesmo sem saber o link original.

O que apareceu nos apps abertos: exame de paciente, senha visível, planilha de RH

A Claroc classificou cerca de um em cada dez apps abertos como contendo material sensível, dado comercial interno ou informação pessoal. Cerca de 2% foram marcados como especialmente graves, o que a empresa estima em 650 a 800 apps com dados privados expostos. Entre os casos confirmados:

• Um resumo de UTI com valores de exames laboratoriais de um paciente, acessível sem login.
• Uma lista com mais de 3.500 funcionários de um grupo hospitalar.
• Uma escala de plantão de um corpo de bombeiros.
• O código-fonte de um app de controle de ponto com 18 contas e senhas gravadas em texto puro, sem qualquer criptografia.

Além disso, a Claroc identificou 24 apps vazados criados por funcionários da própria SpaceXSI e da rede social X, incluindo um mapa de 594 contas comerciais estratégicas e um plano de integração de um novo vendedor com endereços de sistemas internos. Ao todo, a empresa encontrou 30 organizações afetadas, seis delas listadas na Fortune 500, mas optou por não divulgar os nomes.

Por que isso interessa a quem monta a própria ficha de paciente

Nutricionista que atende em consultório próprio, sem equipe de TI, tem usado cada vez mais ferramentas como Grok, ChatGPT ou outros geradores de app para resolver um problema prático: criar rápido uma planilha ou mini-sistema de acompanhamento, com peso, dobras cutâneas, resultado de exame, histórico de consultas e plano alimentar.

É exatamente esse tipo de aplicativo que a Claroc encontrou aberto: um registro clínico simples, feito para uso interno, publicado com um clique e esquecido. Se a nutricionista descreveu no chat "quero um app para registrar peso e exames dos meus pacientes" e clicou em publicar sem checar a configuração de acesso, o resultado pode ser o mesmo da UTI encontrada pela Claroc: qualquer pessoa com o link, ou até alguém que ache o endereço por busca de padrão, enxerga o prontuário.

O relatório também mostra que a IA não necessariamente protege por conta própria. Em um teste da própria Claroc, o Grok escreveu o código de um app de lista de clientes e adicionou login com Google e X por iniciativa própria, mas o código inseria qualquer pessoa autenticada na equipe primeiro, e só depois verificava se ela deveria estar ali. Uma conta Google qualquer, de fora, conseguia ler, editar e apagar registros.

O que a LGPD e o Código de Ética do nutricionista já exigem

Dado de saúde é dado pessoal sensível por definição legal. A Lei Geral de Proteção de Dados (Lei nº 13.709, sancionada em 14 de agosto de 2018) classifica dado referente à saúde como categoria sensível no artigo 5º, inciso II, o que impõe tratamento mais restrito do que o dado pessoal comum: consentimento específico, finalidade clara e medidas de segurança compatíveis com o risco. Vazamento desse tipo de dado é o cenário que a lei foi feita para evitar, e a Autoridade Nacional de Proteção de Dados (ANPD) é o órgão que fiscaliza e pode notificar e sancionar quem descumprir.

O Código de Ética e de Conduta do Nutricionista (Resolução CFN nº 599, de 25 de fevereiro de 2018, do Conselho Federal de Nutricionistas) trata o sigilo sobre informação obtida no atendimento como dever profissional, inclusive depois que o acompanhamento termina. Publicar uma ficha de paciente num endereço aberto na internet, mesmo sem intenção, é descumprir esse sigilo, independente de ter sido um app feito por IA ou uma planilha compartilhada por engano.

Onde o dado do paciente pode ir, e onde ele não pode ir

Antes de usar qualquer gerador de app com IA para controlar paciente, vale separar o que é seguro do que não é:

• Pode: planilha ou sistema de uso exclusivo da nutricionista, salvo em computador ou serviço de nuvem com login individual e sem link público, ou software clínico específico que já tenha controle de acesso e criptografia.
• Pode, com cuidado: app feito com IA, desde que a opção de visibilidade seja conferida manualmente e marcada como "só eu" ou equivalente, nunca deixada no padrão sugerido pela ferramenta.
• Não pode: publicar peso, exame, diagnóstico ou qualquer dado identificável de paciente num link gerado por IA sem antes checar quem tem acesso, nem reaproveitar um app de teste feito "só para ver como funciona" com dados reais de paciente dentro.

Antes de publicar qualquer app feito com IA, o que checar

O relatório da Claroc deixa um roteiro prático, mesmo fora do caso Grok:

1. Procurar a tela de configuração de privacidade antes de clicar em publicar, e mudar manualmente para "apenas eu" ou "privado", sem confiar na opção já marcada.
2. Testar o link do app numa aba anônima do navegador, sem estar logada, para ver exatamente o que um estranho enxergaria.
3. Nunca colocar dado real de paciente num app ainda em fase de teste ou rascunho.
4. Se o app guarda senha de acesso, confirmar que ela não aparece em texto puro no código ou na tela de configuração.
5. Perguntar, antes de adotar qualquer ferramenta de IA para isso, se ela foi pensada para lidar com dado sensível ou se é só um gerador genérico de site.

O próprio caso mostra que o problema não se resolve sozinho com o tempo: a SpaceXSI tirou do ar os 24 apps de funcionários encontrados pela Claroc, mas não removeu os demais apps abertos de outras organizações e usuários, nem se comprometeu a avisar quem foi afetado. Para quem usa esse tipo de ferramenta no consultório, a defesa prática continua sendo checar a configuração de acesso a cada publicação, não esperar que o fornecedor resolva por conta própria.

Fonte: The Decoder