โมเดลตัดสินใจ
โมเดลตัดสินใจตอบคำถามเกี่ยวกับอินพุตด้วยความน่าจะเป็นแทนการเขียนข้อความ คุณให้ สถานะ (ข้อความ ออบเจ็กต์ JSON หรือรูปภาพ) และ คำถาม กับโมเดล แล้วทุกคำตอบจะกลับมาพร้อมชนิดที่ชัดเจน:
| ประเภทคำถาม | สิ่งที่คุณกำหนด | สิ่งที่ได้กลับมา |
|---|---|---|
| ใช่/ไม่ใช่ | คำถามหนึ่งข้อ และจะระบุความหมายของใช่และไม่ใช่ด้วยก็ได้ | ความน่าจะเป็นที่คำตอบคือใช่ |
| ตัวเลือก | ตัวเลือกที่มีชื่อ 2 ถึง 255 ตัว | ตัวเลือกที่น่าจะเป็นที่สุด และความน่าจะเป็นของทุกตัวเลือก |
| คะแนน | 2 ถึง 10 ระดับ เริ่มจากต่ำสุด | ระดับที่ถ่วงน้ำหนักด้วยความน่าจะเป็น นับจาก 1 ในแชต และนับจาก 0 ใน API |
โมเดลเหล่านี้เร็วและราคาถูก จึงเหมาะกับการกำหนดเส้นทาง การจำแนกประเภท การกลั่นกรองเนื้อหา และการตรวจร่างเทียบกับเกณฑ์การให้คะแนน แต่เขียนข้อความไม่ได้
โมเดลตัดสินใจมาจากไหน
| ผู้ให้บริการ | วิธีที่ Libre WebUI ค้นพบ | API |
|---|---|---|
| Ollama | โมเดลที่ติดตั้งแล้วซึ่งมีความสามารถ decision | POST /v1/systemone |
| llama.cpp | โมเดลที่รายการโมเดลระบุ output modality เป็น decisions | POST /v1/systemone |
| Baseten | เนมสเปซ decision-models/… ในรายการโมเดลของ Baseten | POST /v1/systemone |
| OpenRouter | แค็ตตาล็อกโมเดลตัดสินใจของ OpenRouter | POST /api/alpha/decisions |
| OpenAI | gpt-6-luna-decisions ซึ่งส่งไปยัง OpenAI ในชื่อ gpt-6-luna | POST /v1/decisions |
| Gemini | gemini-decision-1 | POST /v1beta/decisions |
Ollama เพิ่มโมเดลตัดสินใจในเวอร์ชัน 0.35.0 และโมเดลที่ใหม่กว่าต้องใช้รุ่นที่ใหม่กว่า (Clef Flash ต้องใช้ 0.35.1 และ Kev ต้องใช้ 0.40.4) เมื่อการ pull แจ้งว่าโมเดลต้องใช้ Ollama ที่ใหม่กว่า ให้อัปเดต Ollama แล้ว pull อีกครั้ง คุณดึงโมเดลตัดสินใจได้จากแท็บ Ollama ของตัวเลือกโมเดลในส่วน การตัดสิน หรือจากเทอร์มินัล:
ollama pull nimble
Nimble และ Tev อ่านข้อความ ส่วน Clef และ Clef Flash อ่านรูปภาพได้ด้วย โมเดลตัดสินใจของผู้ให้บริการใช้ API key ที่คุณบันทึกไว้แล้วสำหรับผู้ให้บริการนั้น บน OpenAI gpt-6-luna ยังคงเป็นโมเดลแชต ส่วนโมเดลตัดสินใจของโมเดลนี้แสดงเป็น gpt-6-luna-decisions เพื่อไม่ให้ทั้งสองปะปนกัน เซิร์ฟเวอร์ llama.cpp หรือ endpoint ที่เข้ากันได้กับ OpenAI ซึ่งเปลี่ยน Base URL แล้ว จะส่งคำขอตัดสินไปยังปลายทางเดียวกันนั้น
ในแชต
โมเดลตัดสินใจจะแสดงในตัวเลือกโมเดลพร้อมป้าย การตัดสิน เมื่อเลือกโมเดลหนึ่ง ช่องเขียนจะแสดงคำถามสำหรับการตัดสินของโมเดลนั้น ใช้งานได้สองแบบ
เมื่อตั้งคำถามไว้แล้ว คลิก ตั้งคำถาม แล้วเพิ่มคำถามแบบใช่/ไม่ใช่ ตัวเลือก หรือคะแนน จากนั้นทุกข้อความที่คุณส่งจะเป็นสถานะใหม่ และคำตอบจะแสดงแต่ละคำถามพร้อมคำตอบ ความน่าจะเป็นของคำตอบนั้น และการกระจายทั้งหมด แนบรูปภาพเพื่อให้โมเดลที่อ่านรูปภาพได้ประเมินรูปนั้น
เมื่อไม่มีคำถาม แชตจะทำงานเหมือน ollama run กับโมเดลตัดสินใจ: ข้อความแรกของคุณคือสถานะ และทุกบรรทัดที่ส่งหลังจากนั้นคือคำถามใช่/ไม่ใช่เกี่ยวกับสถานะนั้น คุณจึงวางหลายคำถามพร้อมกันได้ ส่ง /clear เพื่อเริ่มใหม่ด้วยสถานะใหม่
คำถามจะถูกบันทึกไว้กับแชต การค้นหาเว็บ เครื่องมือ การคิด และการเปรียบเทียบโมเดลจะถูกซ่อนขณะเลือกโมเดลตัดสินใจ เพราะไม่มีสิ่งใดในนั้นมีความหมายกับโมเดลนี้ การตั้งชื่อเรื่อง คำแนะนำคำถามต่อเนื่อง และการบีบอัดบริบทจะไม่เรียกโมเดลตัดสินใจเลย
Decisions API
POST /api/decisions ตอบคำขอหนึ่งรายการ token API ต้องมีขอบเขต chat
curl https://your-instance/api/decisions \
-H "Authorization: Bearer lwk_..." \
-H "Content-Type: application/json" \
-d '{
"model": "nimble",
"state": "I was charged twice. Please refund the extra payment.",
"questions": {
"refund": { "type": "noul", "instructions": "Is a refund requested?" },
"team": {
"type": "choice",
"instructions": "Which team should handle this?",
"criteria": { "billing": "Payments and refunds", "technical": null }
}
}
}'
เพิ่ม providerType และ providerId เพื่อเลือกโมเดลของผู้ให้บริการ เช่น "providerType": "plugin", "providerId": "baseten" ส่วน images รับรูปภาพ PNG, JPEG หรือ WebP ได้สูงสุดสี่รูปในรูปแบบ base64 หรือ data URL Libre WebUI จะแปลงคำขอเป็นรูปแบบของผู้ให้บริการแต่ละราย และส่งคำตอบในรูปแบบเดียวกันจากทุกราย พร้อมการใช้ token ที่ผู้ให้บริการรายงาน GET /api/decisions/models แสดงรายการโมเดลตัดสินใจที่บัญชีของคุณเข้าถึงได้
การเข้าถึง
โมเดลตัดสินใจใช้ได้เฉพาะผู้ดูแลระบบ จนกว่าผู้ดูแลระบบจะเปิดให้ทุกคนใช้ด้วยการ์ด โมเดลตัดสินใจ ใน จัดการผู้ใช้ ตั้ง DECISION_MODELS_ACCESS_MODE เป็น admins หรือ all-users เพื่อกำหนดตัวเลือกนี้ตายตัวและล็อกการ์ด การตรวจสอบจะทำงานในทุกรอบของแชตและทุกคำขอ API การเรียกตัดสินผ่านผู้ให้บริการจะแสดงในหน้า การใช้งานผู้ให้บริการ พร้อมโมเดลและจำนวน token
ข้อจำกัด
คำขอหนึ่งรายการรับคำถามได้สูงสุด 64 ข้อ และรูปภาพ 4 รูป รูปละ 4 MiB (รวม 8 MiB) ซึ่งเป็นขีดจำกัดที่เข้มงวดที่สุดที่ผู้ให้บริการที่รองรับรายใดก็ตามระบุไว้ในเอกสาร ผู้ให้บริการแต่ละรายอาจเข้มงวดกว่านี้ได้ เช่น Nimble รับตัวเลือกได้สูงสุด 26 ตัวในคำถามแบบตัวเลือก โมเดลของ Baseten รับอินพุตได้ 16,384 token และเซิร์ฟเวอร์ภายในเครื่องของ Ollama รับข้อความได้ 64 KiB ข้อผิดพลาดของผู้ให้บริการเองจะแสดงตามที่ผู้ให้บริการส่งมา