AI Brasil
Escritório e direito

Sem gestão de riscos, não existe governança de IA

A gestão de riscos é a base da governança de IA nas empresas. O artigo explica como classificar os usos da inteligência artificial por nível de risco, definir quanto risco a organização aceita correr e atribuir responsabilidades às áreas de negócio. Também mostra como a TI e a Segurança podem embasar essas decisões e como integrar a avaliação e o tratamento dos riscos de IA à gestão de riscos corporativos.

Jose Luiz, AAISM

· 5 min de leitura

Imagem: Jose Luiz, AAISM

A empresa comprou a ferramenta. Escreveu a política de uso. Ofereceu o treinamento. Aí alguém pergunta: qual é o uso de IA mais arriscado aqui dentro? 

Silêncio… 

Não é falha da política. Não é falha da ferramenta. O problema está um passo antes: a empresa não sabe quais riscos tem, quanto risco aceita correr e quem responde por eles. 

Sem gestão de riscos, tudo parece urgente 

A gestão de riscos é a base da governança de IA. E de qualquer governança: segurança, privacidade, qualidade, finanças… Sem saber quais riscos existem, quanto cada um pesa e quanto a empresa aceita correr, não há como priorizar plano de ação, investimento ou orçamento. 

O resultado é previsível. Tudo vira urgente e nada é priorizado. Decide quem fala mais alto, a última notícia de incidente ou a oferta do fornecedor da vez. 

A IA não criou esse problema. Ela o expôs. Os usos se multiplicam rápido, em todas as áreas, muitas vezes sem a empresa saber. Sem critério para comparar um uso com outro, a governança de IA vira uma lista de proibições ou uma pilha de documentos. 

Os três elementos que faltam 

  • Apetite a risco. É quanto risco a empresa aceita correr para atingir seus objetivos. Sem ele, ninguém sabe o que pode ser aprovado. Usar IA para resumir um texto público e usá-la para decidir uma contratação são usos muito diferentes. A empresa precisa dizer onde fica a linha antes de o caso aparecer. 
  • Dono do risco. Todo risco de IA precisa de um responsável no negócio. TI e Segurança operam os controles, mas quem decide aceitar, reduzir ou evitar o risco é quem responde pelo resultado. Sem dono, o risco é de todos e, portanto, de ninguém. 
  • Processo. Sem um processo para identificar, avaliar e tratar riscos, a IA vira exceção. Cada área decide por conta própria e o tema fica fora do radar de riscos corporativos e do conselho. É o processo que também gera evidência para quem audita. A ISO/IEC 42001, norma de sistema de gestão de IA, pede exatamente isso: avaliar e tratar os riscos de IA. 

O que acontece quando a base não existe 

Sem ela, a governança de IA costuma cair em um de três caminhos: 

  • Alertas que ninguém sabe priorizar. A empresa instala ferramentas de proteção, elas geram avisos, e sem critério ninguém sabe qual tratar primeiro. 
  • Bloqueio por medo. Sem saber o que é aceitável, proibir parece o mais seguro. A TI bloqueia, o negócio contorna, e a IA sem controle cresce fora do radar. 
  • Liberação sem critério. Cada área adota a ferramenta que preferir, e a empresa só descobre o problema depois do incidente. 

Nos três casos o custo é o mesmo: tempo, dinheiro e credibilidade gastos sem saber se o que mais importa está protegido. 

Quando a TI bloqueia sozinha 

Um cenário que se repete: a TI bloqueia o acesso às ferramentas de IA. A decisão parece prudente. Mas a área de negócio não foi consultada, não sabe qual risco motivou o bloqueio e não tem o que discutir. Então contorna: conta pessoal, aplicativo no celular, ferramenta paga no cartão. A empresa trocou um risco conhecido por outro que ninguém enxerga. 

Não é falha da TI. É falta de alinhamento sobre o que é risco e sobre quem decide. 

Cada lado tem um papel. A área técnica informa: que dados a ferramenta recebe, onde ficam armazenados, quem tem acesso, quais controles existem e o que continua descoberto. O negócio decide: com essa informação na mesa, aceita, reduz ou evita o risco, porque é ele quem responde pelo resultado. 

Quando a TI diz “não” sem esse diálogo, decide pelo negócio. Quando o negócio diz “sim” sem a TI, decide no escuro. Nos dois casos, falta o apetite a risco como referência comum. 

Por onde começar, sem criar uma estrutura gigante 

Não é preciso criar nada paralelo. A governança de IA deve se apoiar na gestão de riscos que a empresa já tem. Se ela não existe, é por ela que se começa. 

  1. Defina critérios simples. Classifique os usos de IA em baixo, médio e alto risco, com exemplos que façam sentido para o negócio. 
  1. Registre o apetite a risco. Diga, com apoio da diretoria, o que pode ser aprovado rápido, o que exige análise e o que não será aceito. 
  1. Nomeie os donos. Cada uso relevante de IA precisa de um responsável no negócio, com a TI e a Segurança fornecendo as informações técnicas para ele decidir. 
  1. Inclua a IA no radar de riscos. Leve o tema ao comitê ou ao conselho que já acompanha os demais riscos e revise com periodicidade. 
  1. Só então escolha as ferramentas. Com critério e dono definidos, a tecnologia deixa de ser aposta e passa a atender uma prioridade clara. 

Quem não sabe quanto risco aceita, não decide 

Governança é a capacidade de decidir bem: o que fazer primeiro, onde investir, o que não fazer. Nenhuma política ou ferramenta substitui isso. 

Antes de perguntar qual solução de IA comprar, pergunte quanto risco a empresa aceita, quem responde por ele e como será acompanhado. 

Quem não sabe quanto risco aceita não consegue dizer sim, nem dizer não, para a IA! 

José Luiz de Oliveira Junior é cofundador e CISO da IA SEGURA, onde atua para viabilizar a adoção segura e controlada de IA nas organizações, sem bloquear a inovação. Palestrante, autor do livro “Descomplicando a Cibersegurança” e instrutor de cursos de Governança de IA e MLSecOps, possui certificações como CISSP, AAISM, AIGP, CIPM e Auditor Líder ISO/IEC 42001. 

Conheça meu livro: “Descomplicando a Cibersegurança” e tenha acesso a um conteúdo essencial para gestores e profissionais (não técnicos) que precisam de clareza para navegar no cenário de riscos digitais. 

Link para Amazon: https://a.co/d/00y4w0we    

Linkedin: https://www.linkedin.com/in/joseluizjr  

Compartilhar
Quem escreveuJose Luiz, AAISM

José Luiz de Oliveira Junior é cofundador e CISO da IA SEGURA, onde atua para viabilizar a adoção segura e controlada de IA nas organizações, sem bloquear a inovação. Palestrante, autor do livro “Descomplicando a Cibersegurança” e instrutor de cursos de Governança de IA e MLSecOps, possui certificações como CISSP, AAISM, AIGP, CIPM e Auditor Líder ISO/IEC 42001.

Leia também

Mais de Jose Luiz, AAISM

Newsletter AI Brasil

A IA da semana, para a sua profissão

Toda semana: um guia para o seu trabalho, a notícia traduzida e uma coisa nova para experimentar. Gratuita, sem spam.

Você é… (opcional)