Um agente de IA deve pedir aprovação quando uma ação produz consequência que exige decisão humana, autorização específica ou controle adicional. A aprovação precisa indicar recurso, versão, destinatário e mudança concreta. Um “pode continuar” depois de um resumo vago não informa o que a pessoa autorizou e não protege a execução se os dados mudarem entre a prévia e o envio.
Consulta, proposta e execução são operações diferentes
Consultar um registro pode exigir permissão de leitura. Preparar uma alteração exige acesso aos dados necessários para explicar a proposta. Executar a mudança exige autorização de escrita para aquele recurso e operação. O agente não deve receber uma permissão ampla só porque a conversa começou com uma tarefa legítima. O sistema precisa conferir identidade e alcance de cada chamada.
A OWASP descreve excesso de autonomia como risco associado a capacidades, permissões ou liberdade desnecessárias. Essa referência sustenta a necessidade de limitar consequências. A matriz abaixo é um exemplo de desenho de processo, que precisa ser ajustado às regras da organização e às capacidades do sistema conectado.
| Ação | Consequência | Autorização | Evidência de conclusão |
|---|---|---|---|
| Consultar pedido | Acesso a informação interna | Identidade com leitura daquele pedido | Registro e versão recuperados |
| Preparar alteração | Proposta sem efeito externo | Ferramenta de prévia | Campos anteriores e novos exibidos |
| Enviar mensagem externa | Comunicação em nome da empresa | Aprovador confere destinatário, texto e anexos | Identificador de envio confirmado no provedor |
| Alterar condição financeira | Mudança comercial ou contábil | Responsável autorizado pela política | Estado novo conferido e trilha vinculada |
A prévia precisa ser o objeto da aprovação
Imagine uma alteração sintética no prazo de entrega do pedido P-42. A prévia mostra cliente, prazo anterior, novo prazo, motivo, destinatário da comunicação e revisão 7 do pedido. A aprovação se refere a esse conjunto. Se o prazo mudar para revisão 8 antes da execução, o sistema deve rejeitar a proposta antiga e solicitar nova conferência. Aprovar revisão 7 não autoriza qualquer mudança posterior no mesmo pedido.
- Agente consulta P-42 na revisão 7 e prepara proposta.
- Responsável aprova o novo prazo exibido.
- Outro usuário altera P-42, criando revisão 8.
- Executor compara revisão atual com revisão aprovada.
- Execução é interrompida por divergência.
- Nova prévia mostra revisão 8 e exige decisão atualizada.
Esse controle precisa ocorrer no sistema que efetua a alteração. Conferir a versão, esperar e só depois escrever abre uma janela de concorrência. Quando o banco é próprio, a alteração condicional pode exigir versão esperada na mesma operação. Quando a API é externa, use o mecanismo de concorrência disponível, como uma pré-condição por versão, ou reduza a autonomia se não houver como preservar essa condição.
proposta: P-42 / revisão 7 / prazo novo 18-11
aprovação: proposta 93 / aprovador autorizado / validade definida
execução: alterar somente se revisão atual = 7
resultado com revisão 8: conflito; nenhuma alteração autorizada
A autorização deve ser consumida com controle
Uma aprovação pode vencer, ser revogada ou já ter sido usada. A aplicação deve impedir que duas execuções consumam a mesma autorização para um efeito que deveria acontecer uma vez. Não basta gravar “aprovado” numa conversa e deixar qualquer worker ler esse texto. O registro precisa ter identificador, escopo, estado e vínculo com os parâmetros que foram aprovados.
Se o efeito passa por uma fila, a mensagem precisa referenciar a autorização registrada. O worker reconfere seu estado antes da execução. Uma aprovação expirada durante espera não se renova automaticamente. Se a proposta inclui destinatário, preço ou anexo, qualquer troca material desses campos exige nova aprovação. A pessoa precisa reconhecer o que será enviado ou alterado.
Quando não exigir um clique a cada consulta
O controle humano também pode perder qualidade se tudo exige confirmação indistinta. Uma leitura repetida e autorizada de saldo de tarefas não tem a mesma consequência que publicar uma mensagem. Para operações de baixo impacto, a organização pode autorizar previamente um conjunto delimitado de ações, com limites de recursos e uso. Essa autorização prévia precisa ser explícita, aplicada pelo sistema e revogável.
A decisão depende de reversibilidade, alcance, sensibilidade dos dados e capacidade de detectar erro antes de dano. Criar um rascunho privado pode permitir revisão posterior; enviar esse rascunho para um cliente muda a consequência. Gerar uma análise interna pode caber no acesso existente; consultar dados de outro departamento pode exigir permissão adicional. O rótulo da ferramenta não define sozinho o risco.
Timeout não é autorização para repetir
Depois de uma aprovação válida, a execução pode enfrentar falha de conexão. Se a resposta não chegou, a ação pode ter sido aplicada. O agente deve distinguir falha conhecida antes do efeito de resultado desconhecido depois de solicitar o efeito. Reenviar uma comunicação ou alterar de novo uma condição comercial pode duplicar a consequência.
Para recuperar, consulte o estado remoto, use identificador externo e chave de idempotência quando o provedor oferecer esse contrato. Quando não é possível confirmar, mantenha execução pendente de reconciliação e encaminhe a investigação. A trilha precisa registrar tentativa, resposta recebida e estado confirmado. Texto gerado pelo modelo dizendo “enviei” não substitui essa evidência.
Como testar o contrato de aprovação
Em ambiente isolado, simule aprovação vencida, recurso de outro usuário, alteração depois da prévia, duas tentativas simultâneas e timeout após efeito. Confira o estado final no sistema de teste, não apenas a mensagem do agente. Cada caso tem uma expectativa: bloquear, permitir uma vez, pedir nova prévia ou reconciliar. Esse conjunto verifica as fronteiras que realmente impedem a consequência inadequada.
A pessoa aprova uma consequência compreensível
A tela de aprovação deve mostrar o antes e depois e explicar por que a ação foi preparada. Mostre destinatários e anexos por nome reconhecível, valores com unidade e moeda, período de validade e acesso necessário. Evite resumo que esconda uma lista extensa de efeitos. Quando a proposta altera vários recursos, divida a decisão de forma que o aprovador consiga avaliar seu alcance.
Para planejar esse contrato, conheça agentes internos com aprovação de ações. A verificação continua em avaliação antes da produção e nos testes de instruções maliciosas em documentos. Autonomia útil depende de limites que permanecem válidos mesmo quando o modelo erra.
Continue a leitura
- agentes de ia para empresas