निर्णय मॉडल
निर्णय मॉडल पाठ लिखने के बजाय किसी इनपुट के बारे में प्रश्नों का उत्तर प्रायिकताओं के साथ देता है। आप उसे एक स्थिति (कोई संदेश, JSON ऑब्जेक्ट या इमेज) और प्रश्न देते हैं, और हर उत्तर तय प्रकार में लौटता है:
| प्रश्न का प्रकार | आप क्या तय करते हैं | क्या लौटता है |
|---|---|---|
| हाँ/नहीं | एक प्रश्न, और वैकल्पिक रूप से हाँ और नहीं का अर्थ | उत्तर के हाँ होने की प्रायिकता |
| विकल्प चुनें | 2 से 255 नामित विकल्प | सबसे संभावित विकल्प और हर विकल्प की प्रायिकता |
| स्कोर | 2 से 10 स्तर, सबसे निचला पहले | प्रायिकता-भारित स्तर, जो चैट में 1 से और API में 0 से गिना जाता है |
ये तेज़ और सस्ते हैं, इसलिए रूटिंग, वर्गीकरण, मॉडरेशन और किसी ड्राफ़्ट को रूब्रिक के आधार पर जाँचने में अच्छे हैं। ये लिख नहीं सकते।
निर्णय मॉडल कहाँ से आते हैं
| प्रदाता | Libre WebUI उन्हें कैसे खोजता है | API |
|---|---|---|
| Ollama | decision क्षमता वाले स्थापित मॉडल | POST /v1/systemone |
| llama.cpp | वे मॉडल जिनकी सूची decisions आउटपुट मोडैलिटी बताती है | POST /v1/systemone |
| Baseten | उसकी मॉडल सूची का decision-models/… नेमस्पेस | POST /v1/systemone |
| OpenRouter | उसका निर्णय मॉडल कैटलॉग | POST /api/alpha/decisions |
| OpenAI | gpt-6-luna-decisions, जो OpenAI को gpt-6-luna के रूप में भेजा जाता है | POST /v1/decisions |
| Gemini | gemini-decision-1 | POST /v1beta/decisions |
Ollama ने 0.35.0 में निर्णय मॉडल जोड़े, और नए मॉडलों को नई रिलीज़ चाहिए (Clef Flash 0.35.1, Kev 0.40.4)। अगर pull बताए कि मॉडल को नया Ollama चाहिए, तो Ollama अपडेट करें और फिर से pull करें। निर्णय मॉडल को मॉडल चयनकर्ता के Ollama टैब में निर्णय के अंतर्गत से, या टर्मिनल से pull करें:
ollama pull nimble
Nimble और Tev पाठ पढ़ते हैं; Clef और Clef Flash इमेज भी पढ़ते हैं। प्रदाता के
निर्णय मॉडल वही API कुंजी उपयोग करते हैं जो आपने उस प्रदाता के लिए पहले से
सहेजी है। OpenAI पर gpt-6-luna चैट मॉडल ही रहता है; उसका निर्णय मॉडल
gpt-6-luna-decisions के रूप में सूचीबद्ध होता है, ताकि दोनों कभी आपस में न
मिलें। llama.cpp सर्वर, या ऐसा OpenAI-संगत एंडपॉइंट जिसका मूल URL बदला
गया है, अपने निर्णय भी उसी जगह भेजता है।
चैट में
निर्णय मॉडल मॉडल चयनकर्ता में निर्णय बैज के साथ दिखते हैं। एक चुनें, और कंपोज़र उसके निर्णय प्रश्न दिखाता है। इसे उपयोग करने के दो तरीके हैं।
प्रश्न सेट होने पर। प्रश्न सेट करें पर क्लिक करें और हाँ/नहीं, विकल्प या स्कोर वाले प्रश्न जोड़ें। इसके बाद आपका भेजा हर संदेश एक नई स्थिति होता है, और जवाब हर प्रश्न को उसके उत्तर, उस उत्तर की प्रायिकता और पूरे वितरण के साथ दिखाता है। इमेज पढ़ने वाले मॉडल से किसी इमेज को परखने के लिए उसे संलग्न करें।
प्रश्नों के बिना। चैट निर्णय मॉडल के साथ ollama run की तरह काम करती है:
आपका पहला संदेश स्थिति है, और उसके बाद भेजी गई हर पंक्ति उसके बारे में
हाँ/नहीं प्रश्न है, इसलिए आप एक साथ कई प्रश्न चिपका सकते हैं। नई स्थिति के
साथ फिर से शुरू करने के लिए /clear भेजें।
प्रश्न चैट के साथ सहेजे जाते हैं। निर्णय मॉडल चुना होने पर वेब खोज, टूल, सोच और मॉडल तुलना छिपे रहते हैं, क्योंकि इनमें से किसी का भी उसके लिए कोई अर्थ नहीं है। शीर्षक, फ़ॉलो-अप सुझाव और संदर्भ संकुचन कभी निर्णय मॉडल को कॉल नहीं करते।
Decisions API
POST /api/decisions एक अनुरोध का उत्तर देता है। API टोकन को chat स्कोप
चाहिए।
curl https://your-instance/api/decisions \
-H "Authorization: Bearer lwk_..." \
-H "Content-Type: application/json" \
-d '{
"model": "nimble",
"state": "I was charged twice. Please refund the extra payment.",
"questions": {
"refund": { "type": "noul", "instructions": "Is a refund requested?" },
"team": {
"type": "choice",
"instructions": "Which team should handle this?",
"criteria": { "billing": "Payments and refunds", "technical": null }
}
}
}'
किसी प्रदाता का मॉडल चुनने के लिए providerType और providerId जोड़ें,
उदाहरण के लिए "providerType": "plugin", "providerId": "baseten"। images
base64 या data URL के रूप में अधिकतम चार PNG, JPEG या WebP इमेज लेता है।
Libre WebUI अनुरोध को हर प्रदाता के प्रारूप में बदलता है और सभी से उत्तर का
एक ही आकार लौटाता है, साथ में प्रदाता द्वारा बताया गया टोकन उपयोग भी।
GET /api/decisions/models उन निर्णय मॉडलों की सूची देता है जिन तक आपका खाता
पहुँच सकता है।
पहुँच
निर्णय मॉडल तब तक केवल व्यवस्थापकों के लिए हैं, जब तक कोई व्यवस्थापक
उपयोगकर्ता प्रबंधन में निर्णय मॉडल कार्ड से उन्हें सभी के लिए नहीं
खोलता। चुनाव तय करने और कार्ड लॉक करने के लिए DECISION_MODELS_ACCESS_MODE
को admins या all-users पर सेट करें। यह जाँच हर चैट टर्न और हर API अनुरोध
पर चलती है। प्रदाता के निर्णय कॉल अपने मॉडल और टोकन गिनती के साथ
प्रदाता उपयोग पेज पर दिखते हैं।
सीमाएँ
एक अनुरोध में अधिकतम 64 प्रश्न और 4-4 MiB की 4 इमेज (कुल 8 MiB) हो सकती हैं, जो किसी भी समर्थित प्रदाता द्वारा दर्ज की गई सबसे सख़्त सीमा है। हर प्रदाता इससे भी सख़्त हो सकता है: Nimble एक विकल्प वाले प्रश्न में अधिकतम 26 विकल्प लेता है, Baseten के मॉडल 16,384 टोकन इनपुट लेते हैं, और Ollama का स्थानीय सर्वर 64 KiB पाठ लेता है। प्रदाता की अपनी त्रुटि वैसे ही दिखाई जाती है जैसे उसने दी थी।