Antes de dar ferramentas ao agente, defina quem autoriza cada efeito

Dar ferramentas a um agente de IA muda a discussão. Ele deixa de apenas produzir uma resposta e passa a poder consultar sistemas, preparar alterações ou executar ações. Antes de habilitar essa capacidade, a empresa precisa definir o que foi delegado e quem pode autorizar cada efeito.

Uma aprovação humana ajuda quando é específica e acontece antes da ação. Um botão genérico de “continuar” não resolve uma permissão ampla demais nem corrige uma regra comercial ausente. O desenho deve combinar limites técnicos, contexto para a pessoa decidir e uma forma de conferir o resultado. Se a dúvida anterior — entre regra, assistência delimitada e agente — ainda não está resolvida, o artigo sobre automação ou agente de IA organiza essa escolha primeiro.

Liste ações concretas, não uma autonomia genérica

Considere um cenário hipotético: uma distribuidora quer um assistente comercial que consulte produtos e prepare mensagens para clientes. Durante a discussão surgem outras possibilidades: alterar condições, enviar a proposta e cancelar um pedido.

Essas atividades não devem ser agrupadas em uma autorização como “cuidar das vendas”. Consultar um catálogo, sugerir um texto e assumir um compromisso comercial têm efeitos diferentes. Escreva cada ação com verbo, objeto e limite: consultar os produtos permitidos, preparar uma mensagem para revisão, propor uma alteração sem executá-la.

A documentação da OpenAI sobre verificações e aprovação humana distingue controles automáticos de pausas para aprovar ou rejeitar ações sensíveis. A distinção ajuda a organizar o projeto, mas a existência desse recurso em uma biblioteca não prova que o fluxo da empresa foi configurado corretamente.

Na distribuidora hipotética, o primeiro escopo pode terminar no rascunho. Não é obrigatório liberar envio para que a assistência tenha utilidade. Se alguém propuser mais autonomia, peça que mostre qual trabalho ela remove, qual consequência acrescenta e como essa consequência será conferida antes da liberação.

Ter acesso não significa ter autoridade

Um sistema pode permitir tecnicamente uma ação que a empresa não quis delegar ao agente. Esse problema aparece quando uma integração recebe a conta de um administrador por conveniência ou quando um conector oferece funções extras que não foram discutidas no escopo.

A OWASP relaciona agência excessiva a funcionalidades, permissões e autonomia maiores do que o necessário. Sua orientação inclui reduzir essas capacidades e aplicar autorização também no sistema de destino, sem deixar ao modelo a decisão final sobre o que é permitido.

No exemplo, consultar disponibilidade não exige alterar preço. Preparar uma mensagem não exige acesso a todas as caixas de e-mail. Peça uma relação curta das ferramentas oferecidas e das permissões usadas por cada uma. A resposta precisa ser compreensível para o responsável pelo processo e verificável pela equipe técnica.

Pense também em quem está fazendo a solicitação. Um usuário não deve obter, por meio do assistente, uma capacidade que não possui no sistema. Quando houver uma conta de serviço, seu alcance e sua responsabilidade precisam estar explícitos. “O agente tem acesso” não responde quais pessoas podem iniciar a ação nem em nome de quem ela será executada.

Mostre o que a pessoa está aprovando

Para revisar o envio de uma proposta, a pessoa precisa ver destinatário, conteúdo, anexos e condições relevantes. A tela deve mostrar a ação que será executada, não apenas um resumo tranquilizador. Se a proposta foi alterada depois da revisão, aquela aprovação não deve ser tratada como autorização para qualquer nova versão.

Defina quem pode aprovar cada tipo de efeito. O responsável por responder mensagens pode não ter autoridade para conceder uma condição comercial. Em preço, crédito e contrato, mantenha a decisão sensível com uma pessoa autorizada. O assistente pode organizar informações e preparar uma sugestão, sem assumir essa competência.

O pedido de aprovação também deve permitir recusar ou devolver para correção. Se a única saída prática é aceitar, o controle atrapalha o trabalho sem oferecer uma decisão real. Combine o que acontece quando ninguém responde: a solicitação permanece pendente ou retorna ao fluxo manual; silêncio não deve virar consentimento automático.

Existe um contraponto importante: pedir confirmação para tudo pode sobrecarregar a equipe. A solução não é remover revisões indiscriminadamente, mas reduzir ações desnecessárias e separar consultas de efeitos sensíveis. Uma aprovação útil concentra a atenção em uma decisão que a pessoa tem condições e autoridade para avaliar.

Confira os limites onde a ação acontece

Uma instrução escrita ao agente não substitui a regra aplicada pela ferramenta. Se o escopo permite apenas criar um rascunho, a chamada disponível deve refletir esse limite. Uma função genérica com poderes de envio e exclusão torna mais difícil conferir o que foi realmente delegado.

A documentação de controles da OpenAI alerta que verificações no nível do agente não cobrem todos os pontos do fluxo e orienta validar junto à ferramenta que produz o efeito. Para o gestor, a pergunta prática é onde a aplicação impede uma operação fora do acordo.

Peça demonstrações controladas de rejeição: um usuário sem autoridade, um destinatário fora do escopo, uma aprovação ausente e uma proposta modificada. O resultado esperado não é uma mensagem de desculpas depois do envio. É a ação não acontecer, com uma indicação clara do motivo e da próxima responsabilidade.

Confirme ainda como a aplicação distingue uma tentativa de uma ação concluída. Se a conexão falhar depois do envio, tentar novamente sem conferir pode duplicar uma comunicação. A equipe técnica deve explicar como reconhece a operação e verifica o estado no destino. A pessoa que acompanha o caso não deveria precisar adivinhar se o cliente recebeu duas propostas.

Use uma matriz de delegação por ação

O quadro exemplifica uma política restrita para a distribuidora hipotética. Ele não é uma recomendação universal nem uma avaliação jurídica. Cada empresa precisa ajustá-lo ao processo, às obrigações aplicáveis e à autoridade das pessoas envolvidas antes de habilitar ferramentas.

Para cada ação executável, registre a solicitação, o alvo, a decisão de aprovação, quem a tomou e o resultado confirmado. Mantenha referências suficientes para conferência, sem espalhar dados pessoais em logs e notificações. Acesso e retenção desse histórico também precisam de responsável; registrar tudo indefinidamente não é uma política de governança.

Prepare a operação para quando o agente parar

Uma recusa correta precisa encontrar alguém capaz de continuar o atendimento. Defina uma fila ou responsável para falta de informação, autorização negada e indisponibilidade do sistema. A equipe deve saber o que ficou pendente e o que já aconteceu, sem reiniciar o trabalho inteiro por precaução.

Mantenha uma forma de suspender ações e retornar ao processo anterior quando surgir uma falha relevante. Teste esse caminho antes de depender do agente na rotina. Supervisão não se resume a revisar mensagens: inclui decidir quando o escopo precisa diminuir e quem autoriza uma nova tentativa.

A frente de Agentes de IA e Copilotos Operacionais pode transformar essa matriz em requisitos de produto, com Automação, Dados e IoT nas integrações e o método da Axion Spark para delimitar a entrega. Traga uma ação que deseja delegar e outra que deve continuar sob decisão humana. Essa fronteira é um bom começo para desenhar a solução.