Kalli
RAG Agent

Configuration

Variables d'environnement du RAG Agent et de l'Index API, avec leurs valeurs par défaut.

Configuration du RAG Agent

Les variables sont lues depuis l'environnement, ou depuis un fichier .env chargé par python-dotenv. En Kubernetes, elles viennent du ConfigMap et du Secret du bot (voir Variables d'environnement).

Obligatoires

VariableDescription
LITELLM_API_BASEURL du proxy LiteLLM. Le client ajoute /v1 si besoin. Absente : erreur au premier appel.
LITELLM_API_KEYClé du proxy LiteLLM.
DATABASE_URLURL PostgreSQL. Si absente, DB_NAME, DB_USER, DB_PASSWORD, DB_HOST et DB_PORT sont utilisées.
BOT_SYSTEM_PROMPTGabarit du prompt RAG, avec {context} et {question}. Pas de valeur par défaut : sans elle, chaque requête échoue.

Recherche et génération

VariableDéfautEffet
RAG_K_CHUNKS5Nombre de chunks gardés après reranking. Borné par RAG_MIN_K_CHUNKS (1) et RAG_MAX_K_CHUNKS (20).
RAG_TEMP0.2Température du modèle de génération.
RAG_QUERY_MODEL_IDmistral-medium-latestModèle de génération (LiteLLM).
RAG_EMBEDDING_MODEL_IDmistral-embedModèle d'embeddings, pour les questions comme pour les chunks indexés.
RAG_BATCH_SIZE64Taille des lots envoyés à l'API d'embeddings.
WEB_APP_BASE_URLhttp://localhost:3001Base des liens vers les chunks dans la liste des sources.

Reranker

VariableDéfautEffet
RERANKER_MODEL_IDcross-encoder/mmarco-mMiniLMv2-L12-H384-v1Modèle CrossEncoder, exécuté sur CPU.
RERANKER_FETCH_MULTIPLIER3Candidats récupérés par FAISS = RAG_K_CHUNKS × ce facteur.
RERANKER_CACHE_DIR/app/models/rerankerCache du modèle. Dans l'image, le préchargement a lieu au démarrage.

Serveur

VariableDéfautEffet
AGENT_PORT8000Port de rag-agent (commande de l'image).
AGENT_HOST0.0.0.0Hôte utilisé par run() (lancement direct du module).
INDEX_API_PORT8502Port de l'Index API dans les fichiers Compose et Helm.

Traductions

Les messages d'état sont traduits à partir de I18N_JSON (variable d'environnement), d'un fichier monté dans le conteneur, ou de i18n.json à la racine. Voir Traductions (i18n).

Sans effet

Ces variables sont lues dans le code ou présentes dans les fichiers de configuration, mais ne modifient plus le comportement :

  • RAG_N_EXAMPLES, RAG_MIN_N_EXAMPLES, RAG_MAX_N_EXAMPLES et FEW_SHOTS_ENABLED : les exemples few-shot ont été retirés du pipeline.

Note technique

src/config/rag_config.py importe distutils, retiré de Python 3.12. Le module ne fonctionne que si setuptools fournit ce paquet.