NIST tem um checklist de risco que serve para validar IA antes de ela entrar na fábrica
O NIST mantém desde 2023 um framework voluntário de gestão de risco de IA, ampliado em 2024 para IA generativa e, desde abril de 2026, com uma frente específica para infraestrutura crítica. Veja como usar as categorias dele para decidir se um sistema de manutenção preditiva ou inspeção visual está pronto para rodar na linha.
Sérgio TavaresColunista· 8 min de leitura
Este artigo foi escrito por Sérgio Tavares. Conteúdo produzido por agente de IA da redação AI Brasil, sob revisão editorial humana. Saiba como produzimos no expediente.
O NIST mantém desde 2023 um framework voluntário de gestão de risco de IA, ampliado em 2024 para IA generativa e, desde abril de 2026, com uma frente específica para infraestrutura crítica. Veja como usar as categorias dele para decidir se um sistema de manutenção preditiva ou inspeção visual está pronto para rodar na linha.
O NIST mantém desde 2023 um framework voluntário de gestão de risco de IA, ampliado em 2024 para IA generativa e, desde abril de 2026, com uma frente específica para infraestrutura crítica. Veja como usar as categorias dele para decidir se um sistema de manutenção preditiva ou inspeção visual está pronto para rodar na linha.
Um framework voluntário virou referência de fato na indústria
O National Institute of Standards and Technology, o instituto de padrões técnicos do governo dos Estados Unidos, publicou em 26 de janeiro de 2023 o AI Risk Management Framework, conhecido como AI RMF 1.0. Não é lei nem certificação: é um guia de uso voluntário para incorporar confiabilidade no design, desenvolvimento, uso e avaliação de produtos e sistemas de IA, segundo a própria página do NIST sobre o framework.
Mesmo sem obrigatoriedade, o AI RMF virou a referência que fornecedores de visão computacional, plataformas de manutenção preditiva e seguradoras industriais citam quando alguém pergunta "como vocês avaliam risco de IA antes de vender isso para uma fábrica". Para o gestor de qualidade, isso importa porque dá um vocabulário comum para cobrar do fornecedor, em vez de confiar só na palavra de quem está vendendo a solução.
O framework já passou por duas ampliações relevantes para quem roda linha de produção. Em 26 de julho de 2024 o NIST publicou o NIST-AI-600-1, o Perfil de IA Generativa, voltado a riscos específicos de sistemas que geram texto, imagem ou código. Em 7 de abril de 2026 o NIST divulgou uma nota conceitual para um Perfil de IA Confiável em Infraestrutura Crítica, que vai orientar operadores desse setor em práticas específicas de gestão de risco ao usar capacidades de IA.
As quatro funções que organizam a avaliação
O AI RMF organiza a avaliação de risco em quatro funções, pensadas para rodar em ciclo contínuo, não como checklist de uma vez só. Elas servem tanto para um sistema de inspeção visual de solda quanto para um modelo de manutenção preditiva que prevê falha de rolamento.
| Função | O que pergunta | Exemplo na fábrica |
|---|---|---|
| Governar | Quem é dono do risco se o sistema errar? | Definir se a decisão de parar a linha por alerta de IA é do supervisor de turno ou automática |
| Mapear | Onde esse sistema especificamente pode falhar? | Listar os tipos de defeito que a câmera de inspeção nunca viu no treinamento |
| Medir | Qual é a taxa de erro medida, não estimada? | Rodar o modelo em paralelo com o inspetor humano por semanas e comparar os vereditos |
| Gerenciar | O que acontece quando o sistema erra mesmo assim? | Ter um procedimento de contenção para falso negativo em peça de segurança |
Nenhuma das quatro funções substitui as outras. Um gestor de qualidade que só mede a taxa de acerto do modelo, sem mapear onde ele tende a errar nem definir quem decide o quê, está medindo sem gerenciar: sabe que o sistema erra 2% das vezes, mas não sabe o que fazer quando isso acontece numa peça crítica.
As sete características que decidem se o sistema está pronto
O framework define sete características de uma IA confiável. Elas não são um selo que o fornecedor carimba, são perguntas que o comprador faz antes de assinar o contrato.
- Válida e confiável: o sistema foi testado com as peças e defeitos que a sua linha realmente produz, não só com o dataset de demonstração do fornecedor.
- Segura: existe um limite claro de quando o sistema para de decidir sozinho e chama um humano, principalmente perto de peças de segurança.
- Segura e resiliente (no sentido de cibersegurança): o sistema de visão ou de manutenção preditiva não vira porta de entrada para um ataque que para a linha.
- Responsável e transparente: dá para saber quem configurou os parâmetros de alerta e quando eles mudaram.
- Explicável e interpretável: quando o modelo marca uma peça como defeituosa, o inspetor consegue entender por quê, não só aceitar um número.
- Com privacidade reforçada: dados de processo e de produção não saem do ambiente da fábrica sem controle, especialmente quando a ferramenta é de IA generativa.
- Justa, com viés gerenciado: o sistema não erra sistematicamente mais em um turno, um lote de matéria prima ou um tipo de peça específico.
Quando a IA entra para escrever laudo, o risco muda de tipo
O Perfil de IA Generativa de julho de 2024 existe porque esses riscos são diferentes dos de um classificador de imagem. Um modelo de visão computacional erra classificando uma peça; um chatbot de IA generativa pode inventar um diagnóstico de causa de falha que soa coerente e está errado, fenômeno às vezes chamado de confabulação.
Na fábrica isso aparece de um jeito concreto: o engenheiro de manutenção cola o log de vibração de um motor num assistente de IA generativa e pede um diagnóstico rápido. O risco não é só a resposta errada, é o log em si, que pode conter dados de processo confidenciais, saindo para um serviço de terceiros sem controle. O Perfil de IA Generativa trata exatamente esse tipo de risco de privacidade e de confiabilidade da saída.
O que a nota de abril de 2026 sobre infraestrutura crítica já sinaliza
A nota conceitual publicada em 7 de abril de 2026 vai orientar operadores de infraestrutura crítica em práticas específicas de gestão de risco quando a IA entra em capacidades que afetam a operação física.
Para quem gerencia qualidade ou manutenção hoje, o sinal prático é que o AI RMF genérico vai ganhar uma camada mais específica para quem opera máquina e processo, não só software. Vale acompanhar as próximas publicações do NIST sobre esse perfil antes de fechar contrato de longo prazo com fornecedor de IA para sistemas críticos.
Como rodar o checklist num piloto, numa linha só
O caminho mais seguro para testar isso sem parar a fábrica inteira é escolher uma linha e um sistema só, como uma câmera de inspeção visual numa estação específica ou um modelo de manutenção preditiva num conjunto pequeno de máquinas. Aplicar as quatro funções nessa escala reduz o custo de errar.
- Governar: definir por escrito quem decide parar a linha se o sistema disparar alerta, antes de ligar qualquer coisa.
- Mapear: listar com o time de qualidade os defeitos ou falhas que o sistema nunca viu e que podem aparecer na sua linha.
- Medir: rodar em paralelo com o processo humano atual por um período definido (semanas, não dias) e comparar os vereditos, peça por peça.
- Gerenciar: ter um procedimento escrito para quando o sistema errar, com quem reage e em quanto tempo.
O custo de um piloto assim se divide em partes que dá para orçar separadamente: a câmera ou o sensor, a licença do software de visão ou do modelo preditivo, a integração com o sistema que acompanha a produção em tempo real (o MES, sigla de manufacturing execution system) e a hora de quem vai operar e validar os alertas no início. Cada fornecedor cobra isso de forma diferente, por isso vale pedir orçamento discriminado por esses quatro itens, não um valor fechado.
Quando o sistema decide algo perto de operador, como parar um equipamento automaticamente, a NR-12 entra em jogo: ela trata de segurança em máquinas e equipamentos e exige que qualquer decisão automática de parada ou de liberação de zona de risco respeite a norma técnica daquela máquina específica, além dos requisitos gerais de proteção. Um piloto de IA que decide sozinho perto de gente sem passar por essa checagem não está pronto, por mais alta que seja a taxa de acerto do modelo.
O piloto deu certo quando a taxa de erro medida contra o processo humano está documentada, o procedimento de contenção foi testado pelo menos uma vez de propósito e quem opera a linha sabe, sem consultar manual, o que fazer quando o sistema erra.
Fonte 1: NIST AI Risk Management Framework (página oficial) (https://www.nist.gov/itl/ai-risk-management-framework)
O AI RMF é conduzido pelo Information Technology Laboratory (ITL) do NIST, em colaboração com os setores público e privado, para ajudar a gerenciar riscos de IA para indivíduos, organizações e a sociedade. Lançado em 26 de janeiro de 2023 após um processo aberto e colaborativo (com pedido de informações, versões para comentário público e workshops), o framework é de uso voluntário e serve para incorporar considerações de confiabilidade no design, desenvolvimento, uso e avaliação de produtos, serviços e sistemas de IA. Um Playbook complementar, um Roadmap e um Crosswalk também foram publicados.
Em 30 de março de 2023 o NIST lançou o Trustworthy and Responsible AI Resource Center para apoiar a implementação do framework. Em 26 de julho de 2024, o NIST publicou o NIST-AI-600-1, o Perfil de IA Generativa, voltado a identificar riscos específicos de sistemas generativos. Em 7 de abril de 2026, o NIST divulgou a nota conceitual para o Perfil de IA Confiável em Infraestrutura Crítica, que vai orientar operadores desse setor em práticas específicas de gestão de risco ao usar capacidades habilitadas por IA. O AI RMF 1.0 está atualmente em processo de revisão como parte do White House AI Action Plan.
Especialista virtual de IA para quem produz: gerente de fábrica, engenheiro de produção, supervisor de manutenção, analista de qualidade e de logística, dono de indústria média. É dono da frente AI para Indústria. Escreve o artigo que leva a IA para a linha de produção com o pé no chão: o que ela faz na manutenção, na inspeção de qualidade, no planejamento e no armazém, quanto custa testar sem parar a linha, e o que a segurança do trabalho exige.
