मुख्य कंटेंट तक स्किप करें

निर्णय मॉडल

निर्णय मॉडल पाठ लिखने के बजाय किसी इनपुट के बारे में प्रश्नों का उत्तर प्रायिकताओं के साथ देता है। आप उसे एक स्थिति (कोई संदेश, JSON ऑब्जेक्ट या इमेज) और प्रश्न देते हैं, और हर उत्तर तय प्रकार में लौटता है:

प्रश्न का प्रकारआप क्या तय करते हैंक्या लौटता है
हाँ/नहींएक प्रश्न, और वैकल्पिक रूप से हाँ और नहीं का अर्थउत्तर के हाँ होने की प्रायिकता
विकल्प चुनें2 से 255 नामित विकल्पसबसे संभावित विकल्प और हर विकल्प की प्रायिकता
स्कोर2 से 10 स्तर, सबसे निचला पहलेप्रायिकता-भारित स्तर, जो चैट में 1 से और API में 0 से गिना जाता है

ये तेज़ और सस्ते हैं, इसलिए रूटिंग, वर्गीकरण, मॉडरेशन और किसी ड्राफ़्ट को रूब्रिक के आधार पर जाँचने में अच्छे हैं। ये लिख नहीं सकते।

निर्णय मॉडल कहाँ से आते हैं​

प्रदाताLibre WebUI उन्हें कैसे खोजता हैAPI
Ollamadecision क्षमता वाले स्थापित मॉडलPOST /v1/systemone
llama.cppवे मॉडल जिनकी सूची decisions आउटपुट मोडैलिटी बताती हैPOST /v1/systemone
Basetenउसकी मॉडल सूची का decision-models/… नेमस्पेसPOST /v1/systemone
OpenRouterउसका निर्णय मॉडल कैटलॉगPOST /api/alpha/decisions
OpenAIgpt-6-luna-decisions, जो OpenAI को gpt-6-luna के रूप में भेजा जाता हैPOST /v1/decisions
Geminigemini-decision-1POST /v1beta/decisions

Ollama ने 0.35.0 में निर्णय मॉडल जोड़े, और नए मॉडलों को नई रिलीज़ चाहिए (Clef Flash 0.35.1, Kev 0.40.4)। अगर pull बताए कि मॉडल को नया Ollama चाहिए, तो Ollama अपडेट करें और फिर से pull करें। निर्णय मॉडल को मॉडल चयनकर्ता के Ollama टैब में निर्णय के अंतर्गत से, या टर्मिनल से pull करें:

ollama pull nimble

Nimble और Tev पाठ पढ़ते हैं; Clef और Clef Flash इमेज भी पढ़ते हैं। प्रदाता के निर्णय मॉडल वही API कुंजी उपयोग करते हैं जो आपने उस प्रदाता के लिए पहले से सहेजी है। OpenAI पर gpt-6-luna चैट मॉडल ही रहता है; उसका निर्णय मॉडल gpt-6-luna-decisions के रूप में सूचीबद्ध होता है, ताकि दोनों कभी आपस में न मिलें। llama.cpp सर्वर, या ऐसा OpenAI-संगत एंडपॉइंट जिसका मूल URL बदला गया है, अपने निर्णय भी उसी जगह भेजता है।

चैट में​

निर्णय मॉडल मॉडल चयनकर्ता में निर्णय बैज के साथ दिखते हैं। एक चुनें, और कंपोज़र उसके निर्णय प्रश्न दिखाता है। इसे उपयोग करने के दो तरीके हैं।

प्रश्न सेट होने पर। प्रश्न सेट करें पर क्लिक करें और हाँ/नहीं, विकल्प या स्कोर वाले प्रश्न जोड़ें। इसके बाद आपका भेजा हर संदेश एक नई स्थिति होता है, और जवाब हर प्रश्न को उसके उत्तर, उस उत्तर की प्रायिकता और पूरे वितरण के साथ दिखाता है। इमेज पढ़ने वाले मॉडल से किसी इमेज को परखने के लिए उसे संलग्न करें।

प्रश्नों के बिना। चैट निर्णय मॉडल के साथ ollama run की तरह काम करती है: आपका पहला संदेश स्थिति है, और उसके बाद भेजी गई हर पंक्ति उसके बारे में हाँ/नहीं प्रश्न है, इसलिए आप एक साथ कई प्रश्न चिपका सकते हैं। नई स्थिति के साथ फिर से शुरू करने के लिए /clear भेजें।

प्रश्न चैट के साथ सहेजे जाते हैं। निर्णय मॉडल चुना होने पर वेब खोज, टूल, सोच और मॉडल तुलना छिपे रहते हैं, क्योंकि इनमें से किसी का भी उसके लिए कोई अर्थ नहीं है। शीर्षक, फ़ॉलो-अप सुझाव और संदर्भ संकुचन कभी निर्णय मॉडल को कॉल नहीं करते।

Decisions API​

POST /api/decisions एक अनुरोध का उत्तर देता है। API टोकन को chat स्कोप चाहिए।

curl https://your-instance/api/decisions \
-H "Authorization: Bearer lwk_..." \
-H "Content-Type: application/json" \
-d '{
"model": "nimble",
"state": "I was charged twice. Please refund the extra payment.",
"questions": {
"refund": { "type": "noul", "instructions": "Is a refund requested?" },
"team": {
"type": "choice",
"instructions": "Which team should handle this?",
"criteria": { "billing": "Payments and refunds", "technical": null }
}
}
}'

किसी प्रदाता का मॉडल चुनने के लिए providerType और providerId जोड़ें, उदाहरण के लिए "providerType": "plugin", "providerId": "baseten"। images base64 या data URL के रूप में अधिकतम चार PNG, JPEG या WebP इमेज लेता है। Libre WebUI अनुरोध को हर प्रदाता के प्रारूप में बदलता है और सभी से उत्तर का एक ही आकार लौटाता है, साथ में प्रदाता द्वारा बताया गया टोकन उपयोग भी। GET /api/decisions/models उन निर्णय मॉडलों की सूची देता है जिन तक आपका खाता पहुँच सकता है।

पहुँच​

निर्णय मॉडल तब तक केवल व्यवस्थापकों के लिए हैं, जब तक कोई व्यवस्थापक उपयोगकर्ता प्रबंधन में निर्णय मॉडल कार्ड से उन्हें सभी के लिए नहीं खोलता। चुनाव तय करने और कार्ड लॉक करने के लिए DECISION_MODELS_ACCESS_MODE को admins या all-users पर सेट करें। यह जाँच हर चैट टर्न और हर API अनुरोध पर चलती है। प्रदाता के निर्णय कॉल अपने मॉडल और टोकन गिनती के साथ प्रदाता उपयोग पेज पर दिखते हैं।

सीमाएँ​

एक अनुरोध में अधिकतम 64 प्रश्न और 4-4 MiB की 4 इमेज (कुल 8 MiB) हो सकती हैं, जो किसी भी समर्थित प्रदाता द्वारा दर्ज की गई सबसे सख़्त सीमा है। हर प्रदाता इससे भी सख़्त हो सकता है: Nimble एक विकल्प वाले प्रश्न में अधिकतम 26 विकल्प लेता है, Baseten के मॉडल 16,384 टोकन इनपुट लेते हैं, और Ollama का स्थानीय सर्वर 64 KiB पाठ लेता है। प्रदाता की अपनी त्रुटि वैसे ही दिखाई जाती है जैसे उसने दी थी।

संबंधित दस्तावेज़​