Meet interno: coaching de IA em tempo real
Plataforma de videochamadas para vendas e relacionamento com clientes, com um agente de IA invisível que transcreve a conversa e entrega coaching acionável ao vendedor durante a call.
LLMs em produção · RAG · Agentes
José Hernane
O que acontece com LLMs depois da demo.
Escrevo sobre arquitetura, avaliação, latência e custo a partir de sistemas com RAG e agentes que coloquei em produção.
Último artigo
Como medir qualidade, latência e custo
Por que um eval de 100 exemplos não prova nada, por que a cauda de latência de um agente é pior do que parece, e por que custo por token é a métrica errada.
· 9 min de leituraLer artigo
Laboratório
Ver todos os artigos Artigos recentes
0108/09/20260208/09/20260326/05/2026Open source: Tokenizers-RS e Rinha de Backend
Observabilidade para agentes em produção
Health check não é observabilidade. O padrão OpenTelemetry para GenAI, os limites documentados do LLM como juiz, e o que realmente uso para saber por que um agente errou.
RAG, CAG ou arquitetura híbrida?
O paper que propôs abandonar RAG em favor de cache de contexto, os números reais que ele reporta, e a conta que decide quando cachear a base inteira compensa.
Antes do prompt: implementei os 4 algoritmos de tokenização dos LLMs em Rust
BPE, WordPiece, SentencePiece-BPE e Unigram implementados do zero, com a matemática de cada critério de seleção e um benchmark controlado de tempo e compressão.
Projetos
Ver todos os projetos Sistemas que desenhei e coloquei em produção.
Estudos de caso com contexto, meu papel, arquitetura e resultado.
3 sistemas de IA em produção
Meet interno, OS interno e petições jurídicas com verificação independente, em uso diário por vendas, operação e jurídico.
RAG multifonte com pgvector
Calls, WhatsApp, GitHub e boards unificados em uma camada de contexto para pessoas e agentes (MCP).
~2 s da fala ao insight
Coaching de IA em tempo real durante a call: WebRTC + transcrição streaming + LLM estruturado.
OS interno: contexto operacional com RAG multifonte
Sistema interno que unifica o contexto de clientes disperso em calls, WhatsApp, GitHub, boards e bases operacionais para consulta por chat, busca semântica, dashboards e integrações com IA.
Petições jurídicas: extração verificada com LLMs
Agente que recebe a conversa completa do cliente de um escritório de advocacia, extrai os fatos do caso e os encaixa no padrão do escritório, com verificação independente do modelo antes de qualquer texto chegar ao advogado. Trabalho de 30–90 min pronto em ~2–3 min por caso.
Contato
Tem um problema parecido com os dos artigos?
Me escreva contando o contexto: o que o sistema precisa fazer, onde está travando e o que já foi tentado.
- josehernane83@gmail.com
- GitHub
- github.com/Josehbr
- Perfil profissional