A conversa sobre inteligência artificial nas organizações costuma começar pelo lugar errado. Discute-se qual ferramenta contratar, qual modelo é melhor, quanto se economiza. Raramente se discute quem decide, com qual critério e o que acontece quando o sistema erra.
A ISO/IEC 42001, publicada em 2023, é a primeira norma internacional certificável para um Sistema de Gestão de Inteligência Artificial (AIMS, na sigla em inglês). Sua contribuição não é técnica: não diz como treinar um modelo nem que arquitetura escolher. Sua contribuição é de governança. Leva ao mundo da IA a mesma lógica de gestão, riscos e melhoria contínua que a ISO/IEC 27001 trouxe à segurança da informação vinte anos atrás.
Nos projetos que vimos acompanhando, o primeiro achado é quase sempre o mesmo, e não tem a ver com a norma.
Ninguém sabe quanta IA já existe dentro de casa
Quando inventariamos os usos de IA de uma organização, o resultado surpreende a própria direção. Aparecem três camadas.
A primeira é a declarada: o projeto aprovado no comitê, o fornecedor contratado, o piloto de que todos falam. Costuma ser a camada menor.
A segunda é a embarcada: funcionalidades de IA que chegaram dentro de produtos já em uso. O CRM que agora sugere respostas. A suíte de escritório que resume reuniões. O antivírus que decide com um modelo. Ninguém tomou a decisão de “adotar IA”: ela chegou em uma atualização, com o consentimento implícito de um contrato assinado três anos antes.
A terceira é a adotada pelas equipes: a mais difícil de enxergar e a que concentra mais risco. Pessoas resolvendo o trabalho com ferramentas que escolheram por conta própria, colando em um chat informação que a organização classificou como confidencial.
Nenhuma política de IA funciona se for escrita antes de olhar essas três camadas. O inventário não é um trâmite prévio ao projeto: durante as primeiras semanas, ele é o projeto.
O que a norma pede, em quatro planos
Lida sem ansiedade, a ISO/IEC 42001 se organiza em quatro planos.
Política e governança. Definir princípios de uso responsável, papéis e responsabilidades e —sobretudo— quem decide. Quais usos ficam habilitados sem autorização, quais exigem aprovação, quais são proibidos e quem resolve os casos que não se encaixam em nenhuma categoria. Uma política de IA que apenas enumera boas intenções não é um controle.
Riscos e impactos. Aqui está a diferença mais interessante em relação à ISO/IEC 27001. O SGSI avalia o risco para a organização. O AIMS obriga, além disso, a avaliar o impacto sobre as pessoas: viés, explicabilidade, possibilidade de recorrer de uma decisão, supervisão humana efetiva. São duas análises distintas e uma não substitui a outra.
Ciclo de vida e dados. Gerir o sistema de IA de ponta a ponta —desenho, dados de treinamento, validação, implantação, monitoramento, descontinuação— com governança explícita sobre os dados que o alimentam. Um modelo é tão rastreável quanto os dados com que foi construído.
Transparência e controle. Rastreabilidade das decisões, prestação de contas, auditoria interna e melhoria contínua. Poder responder, seis meses depois, por que o sistema decidiu o que decidiu.
A pergunta que organiza todo o projeto
Na prática, uma única pergunta define quanto rigor cada sistema de IA exige:
Este sistema influi em uma decisão que afeta uma pessoa?
Um assistente que ajuda a redigir um e-mail interno e um modelo que decide se um crédito é concedido são, formalmente, “sistemas de IA”. Tratá-los com o mesmo nível de exigência é um erro nas duas direções: burocratiza o trivial e subestima o crítico.
Nós classificamos os usos em três níveis:
- Produtividade interna sem efeito sobre terceiros. Política de uso, formação e controle sobre qual informação pode ser inserida. Pouco mais.
- Apoio a decisões com revisão humana prévia. Acrescenta-se documentação do sistema, critérios de revisão e registro das vezes em que a pessoa se afastou da sugestão. Esse registro é o que depois demonstra que a supervisão humana era real e não decorativa.
- Decisões com efeito direto sobre pessoas. Avaliação de impacto completa, análise de viés, explicabilidade, mecanismo de reclamação e monitoramento contínuo do comportamento do modelo em produção.
A maioria das organizações está hoje nos dois primeiros níveis. Isso torna o projeto muito mais abordável do que se teme.
Se você já tem um SGSI, metade está feita
A ISO/IEC 42001 compartilha com a ISO/IEC 27001 a estrutura de alto nível: contexto, liderança, planejamento, apoio, operação, avaliação de desempenho e melhoria. Em uma organização com um SGSI vigente, reaproveitam-se sem alterações a política marco, a metodologia de riscos, a gestão de competências, a auditoria interna e a análise crítica pela direção.
O que se acrescenta é restrito e específico: o inventário de sistemas de IA, a avaliação de impacto sobre as pessoas, a governança do ciclo de vida e dos dados, e a gestão de fornecedores de IA com cláusulas que hoje quase nenhum contrato inclui.
Em projetos com SGSI certificado, o esforço incremental do AIMS gira em torno de um terço do que custaria implantá-lo do zero. É um argumento forte para não tratar a governança de IA como uma iniciativa separada.
O marco regulatório
Duas coisas condicionam o desenho, seja onde for que você opere.
A legislação de proteção de dados pessoais —a LGPD no Brasil— aplica-se integralmente aos sistemas de IA que tratam dados pessoais, sem necessidade de uma norma nova. Base legal, finalidade, minimização e direitos dos titulares não mudam porque a decisão foi tomada por um modelo. A LGPD, além disso, dá ao titular o direito de solicitar revisão de decisões tomadas unicamente com base em tratamento automatizado. Se o sistema influi sobre pessoas, essa é a primeira revisão, antes de qualquer consideração sobre a norma ISO.
As estratégias nacionais de IA e os ambientes controlados de teste estão sendo implementados em um número crescente de países. Para organizações que interagem com o Estado, alinhar-se a esse marco tem valor prático imediato.
Por onde começar na segunda-feira
Não é preciso um projeto formal para dar os dois primeiros passos, e são os que mais clareiam o panorama.
- Inventarie. Pergunte a cada área quais ferramentas com IA usa, incluídas as que chegaram dentro de produtos existentes e as que alguém adotou por conta própria. Sem punição: o objetivo é ver o mapa real, e só se vê se ninguém teme mostrá-lo.
- Marque o limite dos dados. Uma regra clara sobre qual informação não pode ser inserida em uma ferramenta de IA externa resolve, sozinha, boa parte da exposição imediata. É uma decisão de horas, não de meses.
Com essas duas coisas feitas, a discussão sobre certificar a ISO/IEC 42001 deixa de ser abstrata: já se sabe o que haveria que governar.
Quer situar a sua organização frente à ISO/IEC 42001? O diagnóstico de maturidade inventaria os usos de IA e mede a lacuna frente à norma em poucas semanas.