IA que altera dados do sistema: o que precisa existir antes de deixar ela gravar

Na Consultoria Trilha (fictícia), a sócia pediu a uma IA conectada ao sistema: “passe os projetos do Tiago para a Helena”. Eram catorze projetos. Em segundos, estava feito, e ninguém soube dizer se o pedido tinha sido entendido do jeito certo. Responder uma pergunta é uma coisa. Mudar dado da empresa é outra, e pede regras próprias.

O texto separa os dois tipos de IA, lista os controles que precisam existir, traz uma política curta para a equipe copiar e mostra como o Mentrun trata cada ponto. Para o quadro maior de perigos, veja os riscos da IA nas empresas.

O que muda quando a IA deixa de só responder e passa a executar?

Uma IA que só responde lê dados e escreve um texto: o pior erro é uma resposta errada, que você percebe e descarta. Uma IA que executa cria, edita e apaga registros: o erro vira dado trocado e pode se espalhar por dezenas de itens antes de alguém notar.

• Só responde. “Quais projetos estão atrasados?” A IA consulta e devolve um texto com a fonte.
• Executa. “Crie as tarefas desses próximos passos, com prazo sexta.” A IA grava tarefas no sistema.
• Executa em volume. “Troque o responsável de todos os projetos do Tiago.” Um pedido, muitas mudanças.
• Executa algo difícil de reverter. “Apague os documentos antigos.” Aqui o controle tem de ser o mais forte.

Esse segundo tipo é o que o mercado chama de IA agêntica: ela não só aconselha, ela age. A utilidade é grande, e o risco cresce na mesma proporção.

Quais controles uma IA que grava dados precisa ter?

Cinco controles cobrem a maior parte do risco: prévia antes de gravar, confirmação de uma pessoa, permissão pelo cargo, registro de cada alteração e desfazer. Faltou um, o risco sobe. Faltaram dois, a IA deveria ficar apenas em leitura até a ferramenta melhorar.

O que deve ficar fora do alcance da IA, mesmo com todos os controles?

Senhas e acessos de clientes, documentos pessoais e tudo o que um contrato proíbe compartilhar. Não confie num pedido do tipo “não leia isto”: o seguro é separar esse material numa pasta que a IA não consegue abrir. O que não colocar no ChatGPT detalha a lista.

O que a IA pode e não pode alterar sem confirmação?

Defina por escrito, por tipo de mudança. Criar e rascunhar pode, com prévia. Mudar muitos itens ou apagar pede confirmação reforçada. Cargos, cobrança e contratos ficam com pessoas. O modelo abaixo cabe em uma página e vale para qualquer ferramenta de IA.

POLÍTICA: O QUE A IA PODE E NÃO PODE ALTERAR

Empresa: [nome]   Responsável: [nome]   Revisão: [data]

1. REGRA GERAL
- A IA só altera dado depois que uma pessoa vê a prévia e confirma.
- A IA nunca faz mais do que o cargo de quem pediu permite.
- Toda alteração fica registrada, com quem pediu e a marca de que foi feita por IA.

2. PODE, COM PRÉVIA E CONFIRMAÇÃO SIMPLES
- Criar tarefas, lembretes e rascunhos de documento.
- Editar campos de cadastro: telefone, responsável, prazo, observação.
- Mover um item de etapa.

3. EXIGE CONFIRMAÇÃO REFORÇADA (a pessoa marca que conferiu)
- Mais de [10] mudanças de uma vez.
- Qualquer exclusão, mesmo que o item vá para a lixeira.
- Mudança em itens de cliente com contrato de sigilo.

4. NUNCA ALTERA
- Cargos, permissões e acessos.
- Cobrança, contratos assinados e valores já faturados.
- Chaves de acesso e integrações.
- Exclusão definitiva.

5. FORA DO ALCANCE DA IA
- Pastas: [senhas e acessos de clientes], [documentos pessoais], [outras].

6. QUANDO ALGO DER ERRADO
- Desfazer no mesmo dia e avisar [nome].
- Anotar o que foi pedido, o que a IA entendeu e o que mudou.
- Revisar esta política a cada [3] meses.

Como o Mentrun aplica esses controles?

No Mentrun, o Assistente prepara a mudança e mostra um cartão com a prévia. Nada é gravado até você tocar em Aplicar. O que ele pode fazer depende do seu cargo, e cada mudança fica no histórico com a marca de que veio da IA.

1. 1

   Peça em uma frase

   O Assistente lê o que existe e monta a mudança. Exemplo: “cria as tarefas desses próximos passos, com prazo sexta”.

2. 2

   Confira a prévia

   O cartão mostra cada linha de como está para como fica. O que já existe aparece sem mudança.

3. 3

   Aplique ou descarte

   Aplicar grava; Descartar deixa tudo como estava. A prévia vale 24 horas e, se o item mudou depois dela, nada é aplicado.

4. 4

   Marque a confirmação reforçada

   Exclusão (o item vai para a lixeira) e mais de 10 mudanças de uma vez pedem que você marque que conferiu antes de aplicar.

5. 5

   Desfaça se precisar

   Desfazer, no mesmo cartão, volta o que foi aplicado. O que outra pessoa mudou depois fica como está.

6. 6

   Acompanhe no histórico

   Cada mudança aparece no Histórico de atividades com o seu nome e a marca “pelo assistente de IA”.

Os limites também estão no desenho: o Assistente não muda cargos e permissões, integrações e chaves, cobrança nem pessoas da empresa, e nunca apaga de vez. A pasta marcada como sensível fica fora do Assistente e da busca com IA, com tudo o que está dentro. Mais em assistente de IA do Mentrun.

Como testar esses controles antes de liberar para o time?

Teste com dados de mentira, antes de deixar a IA perto do que importa. Uma tarde basta: um pedido simples, um em volume, um que o cargo não permite, um desfazer e um documento em pasta protegida. Anote o resultado de cada um.

1. Pedido simples: crie uma tarefa de teste. Havia prévia? Ficou no histórico?
2. Pedido em volume: mude quinze itens de teste de uma vez. Apareceu confirmação reforçada?
3. Pedido fora do cargo: com a conta de um cargo restrito, peça algo que ele não pode. A IA deve recusar.
4. Desfazer: aplique e desfaça. O dado voltou ao que era?
5. Pasta protegida: pergunte sobre um documento de teste numa pasta sensível. A IA deve dizer que não tem acesso.

Quando a IA deve ficar só em leitura?

Sempre que a ferramenta não oferecer prévia, registro e desfazer, ou quando ninguém tiver tempo de revisar. Comece por consultas e libere a escrita módulo a módulo. Para quem conecta o Claude por chave, a segurança de chave de API mostra como limitar isso.