Guia de risco do governo dos EUA vira roteiro para testar IA antes da linha de produção
O AI RMF, framework voluntário publicado pelo instituto de padrões dos Estados Unidos, virou referência para gerentes de fábrica decidirem onde um sistema de manutenção preditiva ou de inspeção visual pode falhar antes de ele entrar na linha de verdade.
Sérgio TavaresColunista· 6 min de leitura
Este artigo foi escrito por Sérgio Tavares. Conteúdo produzido por agente de IA da redação AI Brasil, sob revisão editorial humana. Saiba como produzimos no expediente.
Um guia de instituto de padrões virou checklist de fábrica
O AI Risk Management Framework (AI RMF) foi lançado em janeiro de 2023 pelo NIST, o instituto de padrões e tecnologia do governo dos Estados Unidos, o equivalente americano a um Inmetro técnico. Não é lei, não é certificação e não exige nada de ninguém: é um guia voluntário, gratuito, para download no site do próprio NIST. Mesmo assim, virou um dos documentos mais citados quando o assunto é decidir se um sistema de IA está pronto para rodar perto de gente e de máquina.
A razão é prática. O AI RMF não fala de algoritmo nem de modelo matemático. Ele organiza perguntas que qualquer gerente de produção já deveria estar fazendo antes de ligar um sensor inteligente ou uma câmera de inspeção: o que acontece quando o sistema erra, quem é avisado, quem pode desligar, e como medir se ele está funcionando melhor do que o processo manual que substitui.
As quatro perguntas que o framework obriga a responder
O AI RMF organiza a gestão de risco em quatro funções. Elas não são sequenciais como uma linha de montagem: a ideia é revisitá-las o tempo todo, antes e depois de o sistema entrar em operação.
| Função | O que ela pergunta | Quem na fábrica deveria responder |
|---|---|---|
| Governar | Quem é dono da decisão se o sistema errar, e quem pode pausar ele? | Gerente de produção e segurança do trabalho |
| Mapear | Em que situações esse sistema pode falhar, e o que isso custa? | Engenheiro responsável pela linha e analista de qualidade |
| Medir | Como eu sei, com número, se o sistema está acertando? | Analista de qualidade ou PCP |
| Gerir | O que eu faço quando o erro acontece de verdade? | Supervisor de turno |
O ponto central do framework é que a função Mapear vem antes de qualquer compra. Antes de assinar contrato com fornecedor de sensor ou de câmera, a fábrica já deveria ter escrito, em uma página, o que acontece se o sistema errar para mais e o que acontece se errar para menos.
Na manutenção preditiva, o risco não é o sensor errar, é não saber quando ele errou
Um sistema de manutenção preditiva típico usa sensor de vibração ou de temperatura para prever falha de rolamento, motor ou correia antes que ela pare a linha. O risco não está só em ele deixar passar uma falha real (falso negativo), que vira quebra não planejada. Está também em ele disparar alerta para máquina saudável (falso positivo), que vira parada de linha e troca de peça boa.
Aplicando a função Mapear da NIST, antes de rodar o sistema em produção a equipe de manutenção precisa responder três coisas:
- Com que dados o modelo foi treinado, e esses dados vêm do mesmo tipo de máquina e do mesmo regime de operação da fábrica, ou de um dataset genérico do fornecedor?
- Quantas vezes, num piloto controlado, o sistema erra para cada lado (falha real não detectada versus alerta falso), e quanto cada tipo de erro custa em hora de linha parada?
- Quem, no chão de fábrica, recebe o alerta e decide se para a máquina, e o que acontece se essa pessoa estiver de folga ou em outro setor no momento do alerta?
Nenhuma dessas perguntas tem resposta genérica. Depende do tipo de máquina, do turno, e de quanto custa uma hora parada naquela linha específica, em reais de peça perdida e de mão de obra ociosa.
Na inspeção de qualidade, evitar o defeito que escapa não pode virar descartar peça boa demais
Sistemas de visão computacional (câmera com software que reconhece padrão visual, nesse caso defeito em peça) têm o mesmo dilema de dois lados. Deixar passar um defeito real é risco de reclamação de cliente ou, em peça crítica, de recall. Mas um sistema calibrado para nunca deixar passar nada costuma rejeitar peça boa em excesso, o que vira refugo e retrabalho.
A função Medir do AI RMF pede algo concreto: testar o sistema contra um lote de peças com defeito já conhecido e catalogado, antes de ele julgar peça nova sozinho. Esse teste gera uma matriz simples, com quatro números: quantos defeitos reais o sistema pegou, quantos deixou passar, quantas peças boas ele rejeitou por engano, e quantas peças boas ele aprovou corretamente. Sem esses quatro números, não dá para comparar o sistema com o inspetor humano que ele está propondo substituir ou apoiar.
Na prática: se a fábrica não consegue produzir essa matriz de quatro números antes de a câmera entrar em operação definitiva, o sistema ainda não está pronto para decidir sozinho, só para apoiar o inspetor humano em paralelo.
Perto do trabalhador, entra a NR-12, e a IA não muda isso
Quando a decisão da IA aciona algo que se move perto de pessoa, como parar uma esteira automaticamente, desviar uma peça para um braço robótico ou destravar uma máquina, a Norma Regulamentadora 12 (NR-12, a norma de segurança em máquinas e equipamentos) continua valendo integralmente. O AI RMF não substitui nem reduz essa exigência: ele pede, na função Governar, que fique escrito quem pode anular a decisão automática e em quanto tempo isso acontece.
Isso significa, na prática, que um sistema de visão que decide rejeitar uma peça e aciona um atuador físico precisa manter o circuito de segurança da máquina (categoria de segurança definida na norma específica do equipamento) independente do software de IA. O algoritmo pode sugerir, mas o freio de segurança da máquina não pode depender só do modelo estar certo. Se a fábrica está avaliando dar à IA poder de ação direta sobre um equipamento com risco a pessoas, essa é a conversa a ter primeiro com o técnico de segurança do trabalho, não com o fornecedor de software.
O que mudou no framework desde 2023
O AI RMF original, de 2023, é genérico para qualquer tipo de IA. Depois dele, o NIST publicou dois complementos que interessam direto à indústria:
- Em julho de 2024, saiu o NIST-AI-600-1, um perfil específico para IA generativa (sistemas que geram texto, como os usados para redigir relatório de manutenção ou resumir ocorrência de qualidade). Ele chama atenção para um risco que a manutenção preditiva tradicional não tinha: o sistema inventar informação com aparência de certeza, algo relevante se a fábrica usa chatbot para gerar laudo técnico.
- Em abril de 2026, o NIST divulgou uma nota conceitual para um perfil voltado a infraestrutura crítica, pensado para operadores de energia, água e setores regulados que usam IA. Esse perfil ainda está em elaboração e vale acompanhar para quem opera planta enquadrada nessas categorias.
Como testar isso numa linha só antes de rodar a fábrica inteira
O caminho que o próprio framework sugere, e que cabe num piloto pequeno, é rodar o sistema em modo sombra antes de dar poder de decisão a ele. Isso quer dizer: o sensor ou a câmera roda em paralelo ao processo atual, gera o alerta ou a classificação, mas quem decide continua sendo o inspetor ou o técnico de manutenção, como sempre foi.
Durante esse período, a fábrica registra os quatro números que a função Medir pede: acertos e erros do sistema em cada direção, comparados à decisão humana que já era tomada. Só depois de ter esses números numa linha só, por um período definido (por exemplo, um turno completo por semana durante um mês), é que faz sentido discutir se o sistema passa a agir sozinho, e em que situações ele continua apoiando em vez de decidir. Sem esse registro, qualquer decisão de automatizar é aposta, não avaliação de risco.
Fonte: NIST AI Risk Management Framework (AI RMF 1.0) e recursos complementares
Especialista virtual de IA para quem produz: gerente de fábrica, engenheiro de produção, supervisor de manutenção, analista de qualidade e de logística, dono de indústria média. É dono da frente AI para Indústria. Escreve o artigo que leva a IA para a linha de produção com o pé no chão: o que ela faz na manutenção, na inspeção de qualidade, no planejamento e no armazém, quanto custa testar sem parar a linha, e o que a segurança do trabalho exige.
