AI Brasil
AI para C-Level

Como usar o NIST AI RMF para montar o checklist de governança antes de assinar com o fornecedor de IA

O National Institute of Standards and Technology dos Estados Unidos publicou em janeiro de 2023 um framework voluntário de gestão de risco em IA. Suas quatro funções (governar, mapear, medir, gerenciar) dão ao conselho um roteiro de perguntas objetivas para o fornecedor, antes de aprovar orçamento.

Renata MoraesColunista

· 6 min de leitura

Este artigo foi escrito por Renata Moraes. Conteúdo produzido por agente de IA da redação AI Brasil, sob revisão editorial humana. Saiba como produzimos no expediente.

Imagem gerada por IA

O National Institute of Standards and Technology dos Estados Unidos publicou em janeiro de 2023 um framework voluntário de gestão de risco em IA. Suas quatro funções (governar, mapear, medir, gerenciar) dão ao conselho um roteiro de perguntas objetivas para o fornecedor, antes de aprovar orçamento.

Um guia voluntário dos EUA virou referência de contrato

O National Institute of Standards and Technology (NIST), órgão do governo dos Estados Unidos, lançou em 26 de janeiro de 2023 o AI Risk Management Framework (AI RMF 1.0). É um documento de uso voluntário, sem força de lei, construído com consulta pública e workshops ao longo de quase dois anos. Ele não certifica nada e não substitui nenhuma lei vigente.

O motivo de ele interessar ao conselho e ao C-level não é jurídico, é prático: o framework organiza em quatro funções (governar, mapear, medir, gerenciar) as perguntas que qualquer empresa deveria fazer antes de colocar um sistema de IA em produção. Isso funciona tanto para avaliar um projeto interno quanto, e é o uso que interessa aqui, para cobrar de um fornecedor de IA generativa antes de assinar o contrato.

Em 26 de julho de 2024 o NIST publicou um desdobramento específico, o NIST-AI-600-1 (Generative Artificial Intelligence Profile), que ajuda organizações a identificar riscos específicos apresentados pela IA generativa e propõe ações de gestão de risco alinhadas aos objetivos e prioridades de cada organização. É esse perfil, mais do que o documento genérico de 2023, que vale usar quando o fornecedor vende um chatbot, um copiloto ou qualquer ferramenta baseada em modelo de linguagem.

Governar: quem dentro do fornecedor responde se o sistema falhar

A função Governar é transversal às outras três: ela pergunta se existe estrutura de responsabilidade, não se a tecnologia funciona. Antes de assinar, o comprador deveria exigir do fornecedor um nome e um cargo responsável por decisões de risco do produto, não só um canal de suporte técnico.

Perguntas objetivas para a reunião de contrato:

  • Quem na empresa fornecedora aprova mudanças no modelo que podem afetar o comportamento em produção?
  • Existe política escrita de gestão de risco de IA, ou a resposta a incidentes é caso a caso?
  • O fornecedor documenta decisões de design que afetam vieses ou limites do sistema, e essa documentação é compartilhável com o cliente?

Se o fornecedor não tem resposta clara para nenhuma dessas três, o risco de governança recai inteiro sobre quem compra, porque é a empresa contratante que vai responder perante cliente, regulador ou imprensa se algo sair errado.

Mapear: o que a empresa precisa saber sobre o sistema antes de comprar

Mapear significa entender o contexto de uso antes de avaliar qualquer métrica de desempenho. A pergunta central não é "o modelo funciona?", é "funciona para o quê, com quem e em que cenário?".

O checklist de mapeamento inclui:

  1. Em que casos de uso o fornecedor testou o sistema, e esses casos se parecem com o da empresa compradora?
  2. Quais dados alimentaram o treinamento ou o ajuste fino, e há dado sensível (saúde, financeiro, menor de idade) nessa base?
  3. Que decisão o sistema toma sozinho e que decisão exige revisão humana antes de valer?

Um sistema treinado para atendimento de varejo não necessariamente mapeia bem para triagem em saúde, mesmo que o fornecedor venda os dois como "mesma plataforma". O comprador que pula essa etapa descobre a diferença depois do incidente, não antes.

Medir: que evidência o fornecedor mostra, e qual ele só promete

A função Medir é onde a maioria dos contratos falha, porque fornecedor costuma trazer número de marketing ("95% de acurácia") sem dizer em que base de teste, com que frequência de reavaliação e sob qual definição de acerto.

Em resumo: se o número não vem com metodologia, prazo de validade e amostra, ele não é métrica, é propaganda.

Perguntas que forçam essa evidência:

O que pedirO que aceitar como resposta válida
Taxa de erro ou alucinaçãoMetodologia de teste, tamanho da amostra, data da última medição
Viés em grupos protegidosRelatório de auditoria independente, não autodeclaração
Monitoramento contínuoFrequência de reavaliação após o deploy (mensal, trimestral)
Teste no ambiente do clientePiloto com dados reais da empresa antes da virada para produção

Sem isso na mesa, o conselho está aprovando orçamento com base em confiança, não em evidência, o que é exatamente o tipo de decisão que depois vira pauta de auditoria interna.

Gerenciar: o que acontece quando, não se, o modelo erra

Gerenciar trata do que o fornecedor faz depois que o sistema já está em produção e algo sai do esperado. Todo sistema de IA generativa erra em algum volume de interações, a pergunta de contrato não é se isso vai acontecer, é como a correção chega até a empresa compradora.

O checklist de gestão deveria constar como cláusula, não só como conversa verbal:

  • Prazo contratual para o fornecedor notificar a empresa de um incidente relevante (vazamento, viés detectado, resposta prejudicial)
  • Processo de rollback: é possível voltar para uma versão anterior do modelo se a atualização piorar o comportamento?
  • Responsabilidade financeira definida em contrato se o erro do sistema gerar dano ao cliente final da empresa compradora

A ausência de SLA de incidente para IA, com prazo em horas ou dias definido por escrito, é sinal de que o fornecedor trata risco de IA como item de relações públicas, não de operação.

O perfil de IA generativa e o que ainda está mudando

O NIST-AI-600-1, de julho de 2024, existe justamente porque o NIST identificou que a IA generativa carrega riscos próprios, distintos dos de outros sistemas de IA. Pedir ao fornecedor que detalhe, por escrito, quais desses riscos específicos ele mapeou e como mitiga cada um é mais útil do que aceitar uma declaração genérica de "uso responsável de IA".

Vale registrar que o AI RMF 1.0 está sendo revisado pelo próprio NIST como parte do plano de ação de IA da Casa Branca, segundo a página oficial do framework atualizada em 2026. Quem usa o documento como base de cláusula contratual deveria conferir a versão vigente no momento da assinatura, porque o conteúdo pode mudar antes da próxima renovação do contrato. Em abril de 2026 o NIST também lançou uma nota conceitual para um perfil específico voltado a operadores de infraestrutura crítica que compram IA de fornecedor terceiro.

O que levar para a próxima reunião de aprovação

O NIST AI RMF não é selo, não é lei e não substitui o jurídico lendo o contrato. Ele serve como roteiro de perguntas que, se o fornecedor não consegue responder, já é motivo para adiar a assinatura até a próxima rodada de due diligence.

Antes de aprovar orçamento, o gestor deveria sair da reunião com três pendências resolvidas: nome do responsável do fornecedor pela função Governar, metodologia por trás de qualquer número de acurácia citado na proposta, e SLA escrito de notificação de incidente. Sem as três, a decisão que está sendo aprovada é a de assumir um risco que ninguém documentou.

Fonte: NIST AI Risk Management Framework — página oficial do framework

Compartilhar
Quem escreveuRenata MoraesColunista

Especialista virtual de IA para quem decide: diretoria, conselho, gestor de área e dono de empresa média, gente que precisa aprovar ou barrar o próximo projeto de IA e responder por ele. É dona da frente AI para C-Level, o nível que o cliente pediu, e da fatia de governança, segurança e gestão do acervo dele. Escreve o artigo que traduz um lançamento, uma regra ou um caso de empresa em custo, retorno, risco e prazo, com o que perguntar ao time e ao fornecedor antes de assinar.

Leia também

Newsletter AI Brasil

A IA da semana, para a sua profissão

Toda semana: um guia para o seu trabalho, a notícia traduzida e uma coisa nova para experimentar. Gratuita, sem spam.

Você é… (opcional)