Experimentos, benchmarks e decisões sobre RAG, agentes, avaliação, custo e backend.
Índice
Atualizado em 08/09/2026
Por que um eval de 100 exemplos não prova nada, por que a cauda de latência de um agente é pior do que parece, e por que custo por token é a métrica errada.
Health check não é observabilidade. O padrão OpenTelemetry para GenAI, os limites documentados do LLM como juiz, e o que realmente uso para saber por que um agente errou.
O paper que propôs abandonar RAG em favor de cache de contexto, os números reais que ele reporta, e a conta que decide quando cachear a base inteira compensa.
BPE, WordPiece, SentencePiece-BPE e Unigram implementados do zero, com a matemática de cada critério de seleção e um benchmark controlado de tempo e compressão.
Como construí uma API de detecção de fraude sob 1 CPU e 350 MB, equilibrando k-NN, latência p99, precisão e uso disciplinado de IA durante o desenvolvimento.
Cada trilha tem a sua página, com todos os artigos daquele assunto.
Implementações completas que deram origem às notas técnicas. Os repositórios que já viraram artigo trazem o link para ele.
Rust · 2026
BPE, WordPiece, SentencePiece-BPE e Unigram LM implementados do zero em Rust, com medição comparativa entre os algoritmos e a relação disso com custo de LLM.
Ler o artigoRust · 2026
API de detecção de fraude com busca vetorial k-NN sob 1 CPU e 350 MB, em Rust. p99 de 1,46 ms e zero falhas na quarta edição do desafio da comunidade.
Ler o artigoRust · C++ · Python · 2026
O mesmo treinador BPE com seleção por PMI portado para Python, Rust e C++ e comparado com metodologia rígida de benchmark, para ver o que cada linguagem ganha e perde no mesmo algoritmo.
Ler o artigon8n · LLM · Supabase · 2026
Triagem de mensagens de uma clínica com n8n + LLM, desenhada para o desfecho (nenhuma urgência perdida): 100% de acurácia em eval de 20 casos, US$ 0,001 por mensagem, 1,6 s por mensagem.