Table of Contents

🇬🇧 English version

Voir aussi : Fournisseurs LLM · Modèles de décision · ADR-015 · Retour à l'index

Fournisseurs de modèles

Orkeon parle à des fournisseurs de modèles distants rangés en quatre catégories (ModelProviderCategory, Orkeon.Constants.Llm). Une catégorie dit à quoi sert un fournisseur ; chacune garde son propre contrat, et aucune interface n'est commune à toutes (ADR-015).

Catégorie Contrat Ce qu'il renvoie Guide
Generation ILlmProvider (Orkeon.Domain) du texte, des appels de tools, un flux Fournisseurs LLM
Embedding IEmbeddingProvider (Orkeon.Application) des vecteurs Système de mémoire, Pipeline RAG
Reranking IReranker (Orkeon.Rag.Abstractions) des passages dans un nouvel ordre Pipeline RAG
Decision IDecisionModel (Orkeon.Application) des décisions typées avec des probabilités calibrées Modèles de décision

Le catalogue

ModelProviderCatalog.All liste chaque fournisseur distant une fois, avec ses catégories, la variable d'où se lit sa clé d'API et son endpoint par défaut :

  • les 16 fournisseurs de gĂ©nĂ©ration, dans l'ordre de LlmProviderKeys.All ; OpenAI et Ollama servent aussi Embedding ;
  • les fournisseurs de dĂ©cision, qui ne servent que Decision : TypeSafe (TYPESAFE_API_KEY, https://api.typesafe.ai/v1), Liquid (LIQUID_API_KEY, https://api.liquid.ai/decisions/v1) et Kev (aucune clĂ© obligatoire, http://127.0.0.1:8009/v1).

ModelProviderCatalog.InCategory(category) le filtre, et Find(key) résout une clé ou l'un de ses alias. Un test vérifie que chaque fournisseur que construit LlmProviderFactory figure au catalogue sous Generation ; scripts/check-doc-claims.py lit le nombre de fournisseurs dans le code.

Le catalogue ne liste que des services distants. Un reranker ou un embedder qui tourne dans le processus (ONNX, le modèle d'embedding local), et un composant bâti sur une autre catégorie (le reranker listwise par LLM, le reranker de décision) ne sont pas des fournisseurs à part entière.

Ajouter un fournisseur

  • Un fournisseur de gĂ©nĂ©ration suit Fournisseurs LLM et ajoute sa ligne au catalogue.
  • Un fournisseur d'une autre catĂ©gorie implĂ©mente le contrat de cette catĂ©gorie et ajoute sa ligne avec ses catĂ©gories. Un fournisseur de dĂ©cision est un descripteur de SystemOneDecisionModel quand il parle le protocole System One (TypeSafe, Liquid, Kev), sinon un IDecisionModel Ă  lui ; les Ă©tapes, la garde, le reranker et le tool l'utilisent sans changement.
  • Une nouvelle catĂ©gorie ajoute une valeur Ă  l'enum et son propre port ; elle n'Ă©largit jamais ILlmProvider.