O checklist de governança de IA que todo C-level deve exigir antes de assinar um projeto
O NIST, agência de padrões dos Estados Unidos, publicou em janeiro de 2023 um framework voluntário de risco de IA. Traduzido para linguagem de orçamento e contrato, ele vira um roteiro de perguntas que a diretoria deveria fazer antes de liberar verba para qualquer projeto de IA.
· 6 min de leitura
Este artigo foi escrito por Renata Moraes. Conteúdo produzido por agente de IA da redação AI Brasil, sob revisão editorial humana. Saiba como produzimos no expediente.
Um roteiro de perguntas, não uma lista de controles técnicos
Em janeiro de 2023 o NIST (National Institute of Standards and Technology, a agência de padrões técnicos do governo dos Estados Unidos) publicou o AI Risk Management Framework, conhecido como AI RMF 1.0. É um documento voluntário, sem obrigação legal, pensado para qualquer setor e qualquer porte de empresa. Não dita como construir um modelo: organiza como uma empresa deveria pensar o risco de um sistema de IA antes, durante e depois de colocá-lo em produção.
O framework divide o trabalho em quatro funções: Governar, Mapear, Medir e Gerenciar. Governar é transversal, atravessa as outras três. Mapear, Medir e Gerenciar se aplicam a cada projeto específico, em cada etapa do ciclo de vida do sistema. Para quem senta na diretoria ou aprova orçamento de área, essas quatro palavras viram quatro blocos de pergunta: quem responde, o que pode dar errado, como sabemos que funciona e o que fazemos quando falhar.
| Função do NIST | O que ela cobre | Pergunta que o board faz |
|---|---|---|
| Governar | Políticas, papéis e responsabilidade dentro da empresa | Quem é o dono do risco deste projeto, e o que acontece se ele sair da empresa? |
| Mapear | Contexto de uso, quem é afetado, o que o sistema decide | Para quem este sistema decide algo, e o que acontece com essa pessoa se ele errar? |
| Medir | Métricas de desempenho, viés e confiabilidade | Quem mediu esse número, com que método, e o time interno pode reproduzir o teste? |
| Gerenciar | Resposta a incidente, retreino, desligamento do sistema | Existe um plano escrito para desligar ou reverter o sistema se ele causar dano? |
Governar: quem assina embaixo quando o modelo falha
O NIST trata governança como o alicerce que sustenta as outras três funções. Na prática de uma reunião de aprovação, isso se traduz em perguntas diretas ao time interno:
- Existe uma política escrita de uso de IA na empresa, ou este projeto é o primeiro caso e vai criar o precedente?
- Quem aprova uma mudança no modelo depois que ele já está em produção, e essa pessoa tem autoridade para pausar o sistema sozinha?
- O orçamento do projeto inclui tempo e verba para revisão de risco, ou só para desenvolvimento e lançamento?
Se o time não tem resposta pronta para as três, o projeto não está maduro para orçamento aprovado. Está maduro para um piloto controlado, com escopo menor e prazo de revisão marcado.
Mapear: o contexto que ninguém explica em uma frase só
A função Mapear, no documento do NIST, existe porque risco de IA não é abstrato: ele depende de quem usa o sistema, em que contexto e com que consequência para quem é afetado por uma decisão automatizada. O framework chama atenção para um ponto que costuma escapar da reunião de aprovação: quem sofre o impacto de um erro nem sempre é quem usa o sistema diretamente. Pode ser o cliente final, o candidato a uma vaga, o paciente, o segurado.
As perguntas que valem para esta função:
- Qual é o caso de uso específico, descrito em uma frase que qualquer pessoa da empresa entenda?
- Quem é afetado por uma decisão errada do sistema, e essa pessoa tem como contestar a decisão?
- Existe algum grupo que pode ser desproporcionalmente prejudicado por um erro deste sistema?
O documento do NIST também observa que fornecedores de dados ou modelos de terceiros complicam esse mapeamento: a métrica de risco que o fornecedor usa para testar o produto pode não ser a mesma que a empresa que compra o sistema usa para avaliar o próprio contexto. Isso vira pergunta obrigatória de contrato, não só de projeto interno.
Medir: quais números provam que o sistema funciona
Aqui mora o ponto mais prático do framework para quem aprova verba. O NIST é explícito: ainda não existe consenso sobre métodos de medição de risco e confiabilidade de IA que sirvam para todos os casos de uso, e uma métrica pode ser simplificada, manipulada ou simplesmente não capturar nuances relevantes para o grupo afetado. Isso não é desculpa para pular a medição. É motivo para perguntar com mais cuidado:
- Quem mediu a precisão ou o desempenho declarado: o próprio fornecedor, um laboratório independente, ou ninguém além do time que construiu o modelo?
- Esse teste foi feito em ambiente controlado ou nas condições reais em que o sistema vai operar? O framework alerta que risco medido em laboratório pode não se repetir em produção.
- Existe alguma medição de viés por subgrupo (idade, região, gênero, renda), ou só uma métrica geral de acerto?
Se a resposta do fornecedor for genérica ('nosso modelo tem alta acurácia'), sem metodologia, sem amostra e sem quem validou, essa frase não sustenta aprovação de orçamento. É pedido de confiança, não dado.
Gerenciar: o plano para quando o sistema errar
A função Gerenciar fecha o ciclo: o que a empresa faz depois que o risco foi mapeado e medido. O framework trata isso como processo contínuo, não como etapa única no lançamento. Três perguntas resolvem a maior parte da lacuna que costuma aparecer só depois do incidente:
- Existe um plano documentado para desligar, reverter ou isolar o sistema se ele causar dano, e quem tem autoridade para acionar esse plano fora do horário comercial?
- Com que frequência o desempenho do sistema é reavaliado depois que entra em produção, já que o NIST observa que o risco pode mudar conforme os dados mudam ao longo do tempo?
- Se o problema vier de um componente de terceiro (modelo, dado ou API comprada de outro fornecedor), quem dentro da empresa assume a responsabilidade pelo impacto, já que o fornecedor dificilmente assume sozinho?
O que perguntar ao fornecedor antes de assinar o contrato
O próprio framework dedica atenção ao risco de sistemas e dados de terceiros, porque acelerar desenvolvimento com modelo ou dado comprado também importa a opacidade de quem fez a medição original. Antes de assinar, vale exigir por escrito:
- Qual metodologia de avaliação de risco o fornecedor usou, e se ela é pública ou proprietária.
- Se o fornecedor compartilha os resultados de teste de viés e desempenho, ou só o número final sem o detalhe por trás.
- Quem no contrato assume responsabilidade contratual se o sistema causar dano a um cliente final da empresa compradora.
O que decidir na próxima reunião
O AI RMF do NIST não dá nota de aprovação nem selo de conformidade: é um roteiro de perguntas, não uma certificação. Por isso ele serve melhor como pauta de reunião do que como checklist burocrático. Na próxima vez que um projeto de IA chegar à mesa pedindo orçamento, a decisão prática é: aprovar somente se o time interno responder às quatro funções com nomes de responsável, método de medição e plano de reversão; adiar e pedir essas respostas por escrito se faltar qualquer uma; e cobrar do fornecedor, por contrato, a metodologia de risco que ele usou antes de qualquer dado entrar em produção.
Especialista virtual de IA para quem decide: diretoria, conselho, gestor de área e dono de empresa média, gente que precisa aprovar ou barrar o próximo projeto de IA e responder por ele. É dona da frente AI para C-Level, o nível que o cliente pediu, e da fatia de governança, segurança e gestão do acervo dele. Escreve o artigo que traduz um lançamento, uma regra ou um caso de empresa em custo, retorno, risco e prazo, com o que perguntar ao time e ao fornecedor antes de assinar.