Eco: o que aprendemos mantendo um agente de IA em produção.

O Eco nasceu como um bot de Discord com personalidade e memória. Hoje ele está em produção em sete servidores, conversa com membros reais todos os dias e roda inteiramente na infraestrutura da Tricagono. Não é uma vitrine: é software que precisa responder quando alguém digita, lembrar o que foi dito semanas atrás e não cair no meio da madrugada.

Este texto não é um tutorial. É o registro honesto do que aprendemos operando um agente de IA de verdade — e do que qualquer empresa precisa considerar antes de colocar um modelo de linguagem em contato com clientes.

1. Um agente é um sistema, não um prompt

A primeira ilusão é achar que o trabalho está no prompt. O prompt importa, mas o que mantém o agente útil é tudo o que está em volta: quem ele pode responder, quando pode falar, o que ele lembra, quanto custa cada chamada, o que acontece quando o modelo falha.

No Eco, cada servidor tem configuração própria: status (ativo, em manutenção ou desligado), canal proativo, tempo de inatividade, personalidade, modelo e endpoint de LLM. Um servidor em manutenção responde com mensagem fixa e não chama o modelo — custo zero. Um servidor desligado fica em silêncio total. Essas três palavras parecem detalhe, mas são a diferença entre um bot que opera em sete comunidades e um que quebra na primeira configuração diferente.

2. Memória exige política, não só banco

O Eco mantém memória por usuário e por servidor. A memória local é um resumo atualizado após as primeiras mensagens e depois a cada vinte novas. Existe também um perfil global com fatos estáveis — nome, gostos, jeito de escrever — que vale entre servidores. Relações e contexto, não: o que acontece em um servidor não vaza para outro.

Essa separação não é só arquitetura. É promessa de privacidade. O membro precisa saber o que o agente guarda, por quanto tempo e como apagar. Por isso existe opt-out para menções proativas, controle de memória global e um comando que apaga tudo. Um agente que "lembra de tudo" sem dar controle ao usuário é um problema jurídico esperando acontecer.

3. Nem tudo deve passar pelo modelo

Uma das decisões mais importantes: usar LLM apenas onde ele é necessário. Níveis, ranking, conquistas, streaks, casamento, porcentagens de compatibilidade, highlights e métricas de servidor são determinísticos — matemática, hash e consultas ao banco. Custo zero por mensagem.

O modelo entra para conversa, classificação e narração. E mesmo aí há fallback: se a chamada falha, uma resposta local assume. A divisão reduz custo, reduz latência e reduz imprevisibilidade. Em um projeto comercial, essa disciplina é o que separa "IA integrada" de "conta de API sem controle".

4. Produção cobra o que a demonstração esconde

Em demonstração, ninguém testa o que acontece quando o modelo demora, quando o usuário manda cinco mensagens seguidas ou quando alguém pede a mesma coisa de um jeito que o prompt não previu. Em produção, isso acontece toda semana.

Algumas salvaguardas que se provaram necessárias:

• Garantia de resposta — menções e replies nunca ficam sem retorno: modelo, retry e fallback em camadas.
• Separação de contexto — conversa principal e conversas paralelas são tratadas de forma distinta, para o agente não confundir autores.
• Limites por usuário e servidor — cooldowns e amostragem impedem que uma pessoa ou um grupo consuma recursos desproporcionais.
• Moderação opt-in e alert-only — quando ligada, a IA analisa uma amostra e apenas avisa a equipe. Nunca pune sozinha.
• Degradação silenciosa — se o canvas do rank card falhar, o texto assume. O bot não cai por causa de um recurso acessório.

5. Modelo local muda a economia e a postura

O Eco usa um endpoint compatível com OpenAI e modelo local por padrão. Cada servidor pode apontar para outro endpoint e outro modelo, sem reiniciar o bot. Isso permite escolher modelo por custo e por sensibilidade do conteúdo, e trocar quando aparece algo melhor.

Mais importante: o modelo pode estar no mesmo servidor que o banco. Em um projeto comercial, isso significa decidir o que sai da infraestrutura da empresa e o que fica. Não é uma escolha ideológica — é uma escolha de risco. Para muitos casos, processar localmente é mais barato e mais simples de justificar para o cliente.

6. O que isso ensina para projetos comerciais

O Eco é um produto de comunidade, mas as lições valem para qualquer agente comercial:

1. Defina o escopo antes do modelo. O que ele pode responder, o que ele encaminha para humano, o que ele nunca faz.
2. Trate o modelo como componente falho. Timeout, erro, resposta vazia e conteúdo inadequado precisam de plano.
3. Meça custo por interação. Um agente sem teto de uso vira despesa imprevisível.
4. Dê controle ao usuário. Memória, opt-out e exclusão de dados não são diferenciais — são requisitos.
5. Prefira determinismo onde ele resolve. IA não é sinônimo de qualidade; às vezes é o contrário.

Conclusão

Manter o Eco em produção todos os dias força decisões que nenhum deck de "transformação com IA" mostra. É esse atrito que nos permite chegar num projeto comercial e dizer, com honestidade, o que a tecnologia resolve, o que ela complica e quanto custa manter. Agente bom não é o que impressiona na primeira conversa — é o que continua funcionando na milésima.