Modèles de décision
Un modèle de décision répond à des questions sur une entrée avec des probabilités au lieu de rédiger du texte. Vous lui donnez un état (un message, un objet JSON ou une image) et des questions, et chaque réponse revient typée :
| Type de question | Ce que vous définissez | Ce qui est renvoyé |
|---|---|---|
| Oui/non | Une question et, éventuellement, ce que signifient oui et non | La probabilité que la réponse soit oui |
| Choix | De 2 à 255 options nommées | L’option la plus probable et la probabilité de chaque option |
| Note | De 2 à 10 niveaux, du plus bas au plus haut | Le niveau pondéré par les probabilités, compté à partir de 1 dans le chat et à partir de 0 dans l’API |
Ils sont rapides et peu coûteux, ce qui les rend efficaces pour le routage, la classification, la modération et la vérification d’un brouillon au regard d’une grille d’évaluation. Ils ne savent pas écrire.
Origine des modèles de décision
| Fournisseur | Comment Libre WebUI les trouve | API |
|---|---|---|
| Ollama | Modèles installés dotés de la capacité decision | POST /v1/systemone |
| llama.cpp | Modèles dont la liste indique la modalité de sortie decisions | POST /v1/systemone |
| Baseten | L’espace de noms decision-models/… de sa liste de modèles | POST /v1/systemone |
| OpenRouter | Son catalogue de modèles de décision | POST /api/alpha/decisions |
| OpenAI | gpt-6-luna-decisions, envoyé à OpenAI sous le nom gpt-6-luna | POST /v1/decisions |
| Gemini | gemini-decision-1 | POST /v1beta/decisions |
Ollama a ajouté les modèles de décision dans la version 0.35.0, et les modèles plus récents exigent des versions plus récentes (Clef Flash 0.35.1, Kev 0.40.4). Si un téléchargement indique que le modèle nécessite un Ollama plus récent, mettez Ollama à jour et relancez le téléchargement. Téléchargez un modèle de décision depuis l’onglet Ollama du sélecteur de modèle, sous Décision, ou depuis un terminal :
ollama pull nimble
Nimble et Tev lisent du texte ; Clef et Clef Flash lisent aussi les images. Les
modèles de décision des fournisseurs utilisent la clé d’API que vous avez déjà
enregistrée pour ce fournisseur. Chez OpenAI, gpt-6-luna reste un modèle de
chat ; son modèle de décision est listé sous le nom gpt-6-luna-decisions afin
que les deux ne se mélangent jamais. Un serveur llama.cpp ou un point de
terminaison compatible avec OpenAI dont l’URL de base a été modifiée envoie
ses décisions au même endroit.
Dans le chat
Les modèles de décision apparaissent dans le sélecteur de modèle avec un badge Décision. Choisissez-en un et le compositeur affiche ses questions de décision. Il existe deux façons de l’utiliser.
Avec des questions définies. Cliquez sur Définir des questions et ajoutez des questions oui/non, à choix ou à note. Chaque message que vous envoyez devient alors un nouvel état, et la réponse affiche chaque question avec sa réponse, la probabilité de cette réponse et la répartition complète. Joignez une image pour la faire évaluer par un modèle qui lit les images.
Sans questions. Le chat fonctionne comme ollama run avec un modèle de
décision : votre premier message est l’état, et chaque ligne envoyée ensuite est
une question oui/non à son sujet ; vous pouvez donc en coller plusieurs à la
fois. Envoyez /clear pour recommencer avec un nouvel état.
Les questions sont enregistrées avec le chat. La recherche web, les outils, la réflexion et la comparaison de modèles sont masqués lorsqu’un modèle de décision est sélectionné, car aucun d’eux n’a de sens pour lui. Les titres, les suggestions de suivi et la compaction du contexte n’appellent jamais un modèle de décision.
API Decisions
POST /api/decisions répond à une requête. Les jetons d’API ont besoin de la
portée chat.
curl https://your-instance/api/decisions \
-H "Authorization: Bearer lwk_..." \
-H "Content-Type: application/json" \
-d '{
"model": "nimble",
"state": "I was charged twice. Please refund the extra payment.",
"questions": {
"refund": { "type": "noul", "instructions": "Is a refund requested?" },
"team": {
"type": "choice",
"instructions": "Which team should handle this?",
"criteria": { "billing": "Payments and refunds", "technical": null }
}
}
}'
Ajoutez providerType et providerId pour choisir le modèle d’un fournisseur,
par exemple "providerType": "plugin", "providerId": "baseten". images
accepte jusqu’à quatre images PNG, JPEG ou WebP en base64 ou sous forme d’URL de
données. Libre WebUI traduit la requête dans le format de chaque fournisseur et
renvoie la même forme de réponse pour tous, avec l’utilisation de tokens
signalée par le fournisseur. GET /api/decisions/models liste les modèles de
décision accessibles à votre compte.
Accès
Les modèles de décision sont réservés aux administrateurs jusqu’à ce qu’un
administrateur les ouvre à tous avec la carte Modèles de décision de
Gestion des utilisateurs. Définissez DECISION_MODELS_ACCESS_MODE sur
admins ou all-users pour fixer ce choix et verrouiller la carte. La
vérification a lieu à chaque tour de chat et à chaque requête d’API. Les appels
de décision aux fournisseurs apparaissent sur la page
Utilisation des fournisseurs avec leur modèle et leur nombre de tokens.
Limites
Une requête accepte au plus 64 questions et 4 images de 4 Mio chacune (8 Mio au total), soit la limite la plus stricte documentée par un fournisseur pris en charge. Chaque fournisseur peut être plus strict : Nimble accepte au plus 26 options dans un choix, les modèles de Baseten acceptent 16 384 tokens en entrée et le serveur local d’Ollama accepte 64 Kio de texte. L’erreur propre à un fournisseur est affichée telle qu’il l’a renvoyée.