Ga naar hoofdinhoud

Beslismodellen

Een beslismodel beantwoordt vragen over een invoer met kansen in plaats van tekst te schrijven. Je geeft het een toestand (een bericht, een JSON-object of een afbeelding) en vragen, en elk antwoord komt getypeerd terug:

Soort vraagWat je definieertWat je terugkrijgt
Ja/neeEen vraag, optioneel wat ja en nee betekenenDe kans dat het antwoord ja is
Keuze2 tot 255 opties met een naamDe waarschijnlijkste optie en de kans van elke optie
Score2 tot 10 niveaus, laagste eerstHet naar kans gewogen niveau, geteld vanaf 1 in Chat en vanaf 0 in de API

Ze zijn snel en goedkoop, en daardoor goed in routering, classificatie, moderatie en het toetsen van een concept aan een beoordelingsschema. Schrijven kunnen ze niet.

Waar beslismodellen vandaan komen​

ProviderHoe Libre WebUI ze vindtAPI
OllamaGeïnstalleerde modellen met de capaciteit decisionPOST /v1/systemone
llama.cppModellen waarvoor de lijst de uitvoermodaliteit decisions meldtPOST /v1/systemone
BasetenDe naamruimte decision-models/… van de modellijstPOST /v1/systemone
OpenRouterDe eigen catalogus met beslismodellenPOST /api/alpha/decisions
OpenAIgpt-6-luna-decisions, naar OpenAI gestuurd als gpt-6-lunaPOST /v1/decisions
Geminigemini-decision-1POST /v1beta/decisions

Ollama heeft beslismodellen toegevoegd in 0.35.0, en nieuwere modellen hebben nieuwere releases nodig (Clef Flash 0.35.1, Kev 0.40.4). Meldt een pull dat het model een nieuwere Ollama nodig heeft, werk Ollama dan bij en pull opnieuw. Haal een beslismodel op via het tabblad Ollama van de modelkiezer onder Beslissing, of vanuit een terminal:

ollama pull nimble

Nimble en Tev lezen tekst; Clef en Clef Flash lezen ook afbeeldingen. Beslismodellen van providers gebruiken de API-sleutel die je al voor die provider hebt opgeslagen. Bij OpenAI blijft gpt-6-luna een chatmodel; het bijbehorende beslismodel staat in de lijst als gpt-6-luna-decisions, zodat de twee nooit door elkaar lopen. Een llama.cpp-server of een OpenAI-compatibel endpoint met een gewijzigde Basis-URL stuurt zijn beslissingen naar dezelfde plek.

In Chat​

Beslismodellen verschijnen in de modelkiezer met een badge Beslissing. Kies er een en het invoerveld toont de beslisvragen van dat model. Je kunt het op twee manieren gebruiken.

Met ingestelde vragen. Klik op Vragen instellen en voeg ja/nee-, keuze- of scorevragen toe. Elk bericht dat je daarna stuurt is een nieuwe toestand, en het antwoord toont elke vraag met het antwoord, de kans op dat antwoord en de volledige verdeling. Voeg een afbeelding toe om die te laten beoordelen door een model dat afbeeldingen leest.

Zonder vragen. De chat werkt als ollama run met een beslismodel: je eerste bericht is de toestand, en elke regel die je daarna stuurt is een ja/nee-vraag erover, dus je kunt er meerdere tegelijk plakken. Stuur /clear om opnieuw te beginnen met een nieuwe toestand.

De vragen worden met de chat opgeslagen. Zoeken op het web, tools, denken en modelvergelijking zijn verborgen zolang een beslismodel geselecteerd is, omdat geen van die functies iets betekent voor zo'n model. Titels, vervolgsuggesties en contextcompactie roepen nooit een beslismodel aan.

Decisions-API​

POST /api/decisions beantwoordt één verzoek. API-tokens hebben het bereik chat nodig.

curl https://your-instance/api/decisions \
-H "Authorization: Bearer lwk_..." \
-H "Content-Type: application/json" \
-d '{
"model": "nimble",
"state": "I was charged twice. Please refund the extra payment.",
"questions": {
"refund": { "type": "noul", "instructions": "Is a refund requested?" },
"team": {
"type": "choice",
"instructions": "Which team should handle this?",
"criteria": { "billing": "Payments and refunds", "technical": null }
}
}
}'

Voeg providerType en providerId toe om het model van een provider te kiezen, bijvoorbeeld "providerType": "plugin", "providerId": "baseten". images accepteert maximaal vier PNG-, JPEG- of WebP-afbeeldingen als base64 of data-URL. Libre WebUI vertaalt het verzoek naar het formaat van elke provider en geeft bij allemaal dezelfde antwoordvorm terug, met het tokengebruik dat de provider meldde. GET /api/decisions/models toont de beslismodellen die je account kan bereiken.

Toegang​

Beslismodellen zijn voor beheerders totdat een beheerder ze voor iedereen openstelt met de kaart Beslismodellen in Gebruikersbeheer. Stel DECISION_MODELS_ACCESS_MODE in op admins of all-users om de keuze vast te zetten en de kaart te vergrendelen. De controle draait bij elke chatbeurt en elk API-verzoek. Beslisaanroepen naar providers verschijnen op de pagina Providergebruik met hun model en tokenaantallen.

Limieten​

Een verzoek bevat maximaal 64 vragen en 4 afbeeldingen van elk 4 MiB (8 MiB in totaal), de strengste limiet die een ondersteunde provider documenteert. Elke provider kan strenger zijn: Nimble accepteert maximaal 26 opties in een keuzevraag, de modellen van Baseten accepteren 16.384 tokens invoer en de lokale server van Ollama accepteert 64 KiB tekst. De eigen foutmelding van een provider wordt getoond zoals de provider die gaf.

Gerelateerde documentatie​