ข้ามไปยังเนื้อหาหลัก

โมเดลตัดสินใจ

โมเดลตัดสินใจตอบคำถามเกี่ยวกับอินพุตด้วยความน่าจะเป็นแทนการเขียนข้อความ คุณให้ สถานะ (ข้อความ ออบเจ็กต์ JSON หรือรูปภาพ) และ คำถาม กับโมเดล แล้วทุกคำตอบจะกลับมาพร้อมชนิดที่ชัดเจน:

ประเภทคำถามสิ่งที่คุณกำหนดสิ่งที่ได้กลับมา
ใช่/ไม่ใช่คำถามหนึ่งข้อ และจะระบุความหมายของใช่และไม่ใช่ด้วยก็ได้ความน่าจะเป็นที่คำตอบคือใช่
ตัวเลือกตัวเลือกที่มีชื่อ 2 ถึง 255 ตัวตัวเลือกที่น่าจะเป็นที่สุด และความน่าจะเป็นของทุกตัวเลือก
คะแนน2 ถึง 10 ระดับ เริ่มจากต่ำสุดระดับที่ถ่วงน้ำหนักด้วยความน่าจะเป็น นับจาก 1 ในแชต และนับจาก 0 ใน API

โมเดลเหล่านี้เร็วและราคาถูก จึงเหมาะกับการกำหนดเส้นทาง การจำแนกประเภท การกลั่นกรองเนื้อหา และการตรวจร่างเทียบกับเกณฑ์การให้คะแนน แต่เขียนข้อความไม่ได้

โมเดลตัดสินใจมาจากไหน​

ผู้ให้บริการวิธีที่ Libre WebUI ค้นพบAPI
Ollamaโมเดลที่ติดตั้งแล้วซึ่งมีความสามารถ decisionPOST /v1/systemone
llama.cppโมเดลที่รายการโมเดลระบุ output modality เป็น decisionsPOST /v1/systemone
Basetenเนมสเปซ decision-models/… ในรายการโมเดลของ BasetenPOST /v1/systemone
OpenRouterแค็ตตาล็อกโมเดลตัดสินใจของ OpenRouterPOST /api/alpha/decisions
OpenAIgpt-6-luna-decisions ซึ่งส่งไปยัง OpenAI ในชื่อ gpt-6-lunaPOST /v1/decisions
Geminigemini-decision-1POST /v1beta/decisions

Ollama เพิ่มโมเดลตัดสินใจในเวอร์ชัน 0.35.0 และโมเดลที่ใหม่กว่าต้องใช้รุ่นที่ใหม่กว่า (Clef Flash ต้องใช้ 0.35.1 และ Kev ต้องใช้ 0.40.4) เมื่อการ pull แจ้งว่าโมเดลต้องใช้ Ollama ที่ใหม่กว่า ให้อัปเดต Ollama แล้ว pull อีกครั้ง คุณดึงโมเดลตัดสินใจได้จากแท็บ Ollama ของตัวเลือกโมเดลในส่วน การตัดสิน หรือจากเทอร์มินัล:

ollama pull nimble

Nimble และ Tev อ่านข้อความ ส่วน Clef และ Clef Flash อ่านรูปภาพได้ด้วย โมเดลตัดสินใจของผู้ให้บริการใช้ API key ที่คุณบันทึกไว้แล้วสำหรับผู้ให้บริการนั้น บน OpenAI gpt-6-luna ยังคงเป็นโมเดลแชต ส่วนโมเดลตัดสินใจของโมเดลนี้แสดงเป็น gpt-6-luna-decisions เพื่อไม่ให้ทั้งสองปะปนกัน เซิร์ฟเวอร์ llama.cpp หรือ endpoint ที่เข้ากันได้กับ OpenAI ซึ่งเปลี่ยน Base URL แล้ว จะส่งคำขอตัดสินไปยังปลายทางเดียวกันนั้น

ในแชต​

โมเดลตัดสินใจจะแสดงในตัวเลือกโมเดลพร้อมป้าย การตัดสิน เมื่อเลือกโมเดลหนึ่ง ช่องเขียนจะแสดงคำถามสำหรับการตัดสินของโมเดลนั้น ใช้งานได้สองแบบ

เมื่อตั้งคำถามไว้แล้ว คลิก ตั้งคำถาม แล้วเพิ่มคำถามแบบใช่/ไม่ใช่ ตัวเลือก หรือคะแนน จากนั้นทุกข้อความที่คุณส่งจะเป็นสถานะใหม่ และคำตอบจะแสดงแต่ละคำถามพร้อมคำตอบ ความน่าจะเป็นของคำตอบนั้น และการกระจายทั้งหมด แนบรูปภาพเพื่อให้โมเดลที่อ่านรูปภาพได้ประเมินรูปนั้น

เมื่อไม่มีคำถาม แชตจะทำงานเหมือน ollama run กับโมเดลตัดสินใจ: ข้อความแรกของคุณคือสถานะ และทุกบรรทัดที่ส่งหลังจากนั้นคือคำถามใช่/ไม่ใช่เกี่ยวกับสถานะนั้น คุณจึงวางหลายคำถามพร้อมกันได้ ส่ง /clear เพื่อเริ่มใหม่ด้วยสถานะใหม่

คำถามจะถูกบันทึกไว้กับแชต การค้นหาเว็บ เครื่องมือ การคิด และการเปรียบเทียบโมเดลจะถูกซ่อนขณะเลือกโมเดลตัดสินใจ เพราะไม่มีสิ่งใดในนั้นมีความหมายกับโมเดลนี้ การตั้งชื่อเรื่อง คำแนะนำคำถามต่อเนื่อง และการบีบอัดบริบทจะไม่เรียกโมเดลตัดสินใจเลย

Decisions API​

POST /api/decisions ตอบคำขอหนึ่งรายการ token API ต้องมีขอบเขต chat

curl https://your-instance/api/decisions \
-H "Authorization: Bearer lwk_..." \
-H "Content-Type: application/json" \
-d '{
"model": "nimble",
"state": "I was charged twice. Please refund the extra payment.",
"questions": {
"refund": { "type": "noul", "instructions": "Is a refund requested?" },
"team": {
"type": "choice",
"instructions": "Which team should handle this?",
"criteria": { "billing": "Payments and refunds", "technical": null }
}
}
}'

เพิ่ม providerType และ providerId เพื่อเลือกโมเดลของผู้ให้บริการ เช่น "providerType": "plugin", "providerId": "baseten" ส่วน images รับรูปภาพ PNG, JPEG หรือ WebP ได้สูงสุดสี่รูปในรูปแบบ base64 หรือ data URL Libre WebUI จะแปลงคำขอเป็นรูปแบบของผู้ให้บริการแต่ละราย และส่งคำตอบในรูปแบบเดียวกันจากทุกราย พร้อมการใช้ token ที่ผู้ให้บริการรายงาน GET /api/decisions/models แสดงรายการโมเดลตัดสินใจที่บัญชีของคุณเข้าถึงได้

การเข้าถึง​

โมเดลตัดสินใจใช้ได้เฉพาะผู้ดูแลระบบ จนกว่าผู้ดูแลระบบจะเปิดให้ทุกคนใช้ด้วยการ์ด โมเดลตัดสินใจ ใน จัดการผู้ใช้ ตั้ง DECISION_MODELS_ACCESS_MODE เป็น admins หรือ all-users เพื่อกำหนดตัวเลือกนี้ตายตัวและล็อกการ์ด การตรวจสอบจะทำงานในทุกรอบของแชตและทุกคำขอ API การเรียกตัดสินผ่านผู้ให้บริการจะแสดงในหน้า การใช้งานผู้ให้บริการ พร้อมโมเดลและจำนวน token

ข้อจำกัด​

คำขอหนึ่งรายการรับคำถามได้สูงสุด 64 ข้อ และรูปภาพ 4 รูป รูปละ 4 MiB (รวม 8 MiB) ซึ่งเป็นขีดจำกัดที่เข้มงวดที่สุดที่ผู้ให้บริการที่รองรับรายใดก็ตามระบุไว้ในเอกสาร ผู้ให้บริการแต่ละรายอาจเข้มงวดกว่านี้ได้ เช่น Nimble รับตัวเลือกได้สูงสุด 26 ตัวในคำถามแบบตัวเลือก โมเดลของ Baseten รับอินพุตได้ 16,384 token และเซิร์ฟเวอร์ภายในเครื่องของ Ollama รับข้อความได้ 64 KiB ข้อผิดพลาดของผู้ให้บริการเองจะแสดงตามที่ผู้ให้บริการส่งมา