feat: tool router para LiteLLM (callback + guardrail)

- CustomToolRouter como callback (roda em todas as chamadas)
- ToolRouterGuardrail para ativação por request
- Modos: jaccard (offline) e embedding (API)
- Dockerfile + docker-compose prontos
- README com docs completas
- Teste offline validando ~74% redução de tokens
This commit is contained in:
CM Consultor
2026-08-06 22:03:29 +00:00
commit 476f4f954d
10 changed files with 1386 additions and 0 deletions

13
requirements.txt Normal file
View File

@@ -0,0 +1,13 @@
# Dependências do Tool Router + LiteLLM Proxy
# Instalação: pip install -r requirements.txt
#
# NOTA: litellm NÃO inclui numpy/scikit-learn por padrão.
# Esses pacotes são necessários para o modo jaccard (cosine_similarity)
# e para o modo embedding (vetores).
litellm>=1.95.0
numpy>=1.26.0
scikit-learn>=1.3.0
# Opcional: cache semântico com Valkey/Redis
# redis>=5.0.0