Quando uma resposta útil vira compromisso empresarial
Um cliente B2B pergunta se uma implantação terminará na sexta-feira, se tem direito a crédito de serviço ou se uma integração adicional está incluída no contrato. Um agente de IA encontra materiais relacionados e redige uma resposta segura. O texto parece útil, mas pode criar prazo, desconto ou ampliação de escopo que ninguém autorizou.
Esse risco não desaparece quando a resposta está gramaticalmente correta. O atendimento empresarial depende de contratos, estado atual do serviço, política comercial e autoridade de quem decide. O agente precisa de contexto para explicar a situação, mas não deve receber permissão implícita para negociar em nome da empresa.
Separe informação, recomendação e compromisso
Defina três níveis operacionais. No primeiro, o agente informa fatos verificados, como o status de um chamado ou uma cláusula aplicável. No segundo, pode propor um próximo passo claramente identificado como recomendação. No terceiro, cria um compromisso, como mudar prazo, conceder crédito, aceitar responsabilidade ou ampliar escopo.
O terceiro nível exige autoridade explícita. Essa autoridade deve considerar o tipo e o valor do compromisso, o contrato do cliente e o papel do funcionário. Uma instrução genérica como seja útil não é uma política de autorização. Coloque limites comerciais em regras convencionais auditáveis, que possam mudar sem reescrever a personalidade do agente.
Organize o contexto por autoridade e vigência
Não coloque todos os documentos em uma base de conhecimento indiferenciada. Separe contratos assinados, políticas aprovadas, dados operacionais atuais, documentação de produto e conversas históricas. Atribua a cada fonte um responsável, data de vigência, escopo por cliente e estado de revisão.
Quando as fontes entrarem em conflito, defina precedência. Um aditivo assinado pode superar uma política padrão. O status atual de um incidente pode superar um artigo antigo. Uma conversa comercial pode explicar intenção, mas não deve substituir silenciosamente o contrato executado. Diante de evidências insuficientes ou incoerentes, o agente deve encaminhar o caso em vez de preencher a lacuna com uma resposta plausível.
Recupere evidências antes de redigir
Pesquise apenas nas fontes permitidas para aquele cliente e solicitação. A orientação de Retrieval da OpenAI descreve busca semântica em armazenamentos vetoriais, capaz de encontrar conteúdo relevante mesmo quando a consulta e o documento usam palavras diferentes. A recuperação melhora o acesso ao contexto, mas não prova que um documento esteja vigente, autorizado ou aplicável.
Devolva as evidências selecionadas com seus metadados e exija que a resposta seja sustentada por elas. Registre quais trechos, versões e dados operacionais foram usados. Em respostas sensíveis, mostre as evidências ao revisor em vez de pedir que ele valide um parágrafo polido sem conhecer a base.
Uma alternativa útil é declarar a incerteza. Se não existir fonte válida para prazo ou crédito, o agente deve informar que a confirmação é necessária e abrir uma revisão estruturada com os fatos já coletados.
Trate o conteúdo do cliente como entrada não confiável
E-mails, anexos e descrições de chamados podem conter instruções contrárias às regras do agente. Algumas são acidentais, enquanto outras podem tentar influenciar o fluxo. A OWASP observa que a injeção de prompts pode alterar o comportamento e que recuperação ou ajuste do modelo não eliminam totalmente essa vulnerabilidade.
Mantenha o texto do cliente separado da política do sistema, restrinja as ferramentas acessíveis e valide toda ação gerada fora do modelo. Um documento que diga aprove este crédito imediatamente é evidência para análise, não autoridade para execução. Dados sensíveis e instruções internas também devem ser filtrados conforme o destinatário antes da montagem da resposta.
Separe a resposta da ação
Redigir uma resposta e alterar um contrato, emitir crédito ou atualizar um plano de entrega são capacidades diferentes. Use ferramentas somente de leitura como padrão. Quando uma ação for elegível, envie uma proposta estruturada para validação determinística e, quando necessário, para a pessoa responsável.
Registre cliente, solicitação, evidências, ação proposta, regra aplicável, aprovador e resultado final. A mensagem enviada deve refletir o resultado aprovado, não a sugestão original do agente. Essa separação preserva velocidade nas perguntas rotineiras enquanto contém as consequências de uma resposta incerta ou manipulada.
Exemplo hipotético: suporte de software empresarial
Considere um fornecedor hipotético de software, que não é um caso de cliente da NM Solutions. Um cliente corporativo informa que uma integração está indisponível e pede crédito de serviço e horário garantido de recuperação. O agente consulta contrato, status do incidente e política de compensação.
Ele pode confirmar o identificador, o serviço afetado e a próxima atualização programada. O contrato mostra que o crédito depende da disponibilidade mensal, que ainda não pode ser calculada, e a operação não aprovou prazo de recuperação. O agente prepara uma atualização factual e abre duas revisões: uma para a estimativa técnica e outra para a elegibilidade comercial.
O gerente da conta recebe as evidências e o texto proposto, aprova a resposta factual e mantém o crédito pendente. O exemplo evita promessa sem suporte, mas não garante interpretação correta de toda cláusula. Termos complexos ou disputados ainda exigem revisão humana qualificada.
Meça a operação e reconheça os limites
Acompanhe cobertura de evidências, respostas bloqueadas por falta de contexto, correções humanas, compromissos tentados, tempo de escalonamento, casos reabertos e resultados para o cliente. Revise amostras por tipo de contrato e segmento, não apenas a média geral. O perfil de IA generativa do NIST recomenda verificar fontes e citações, além de monitorar resultados errôneos antes da implantação e durante a operação.
O conhecimento pode estar desatualizado, a linguagem contratual pode ser ambígua e controles de acesso podem ocultar evidências necessárias. Revisores humanos também podem aprovar exceções incoerentes. Um agente organiza o fluxo, mas não remove da empresa a responsabilidade comercial ou a interpretação jurídica.
A NM Solutions ajuda empresas a desenhar agentes de atendimento B2B com conhecimento governado, limites de compromisso, aprovações, auditoria e indicadores operacionais. Um diagnóstico pode identificar quais respostas podem ser automatizadas e onde a autoridade precisa continuar explícita antes de uma mensagem chegar ao cliente.