Μοντέλα αποφάσεων
Ένα μοντέλο αποφάσεων απαντά σε ερωτήσεις για μια είσοδο με πιθανότητες, αντί να γράφει κείμενο. Του δίνετε μια κατάσταση (ένα μήνυμα, ένα αντικείμενο JSON ή μια εικόνα) και ερωτήσεις, και κάθε απάντηση επιστρέφει με συγκεκριμένο τύπο:
| Τύπος ερώτησης | Τι ορίζετε | Τι επιστρέφει |
|---|---|---|
| Ναι/όχι | Μια ερώτηση και, προαιρετικά, τι σημαίνει το ναι και το όχι | Την πιθανότητα η απάντηση να είναι ναι |
| Επιλογή | 2 έως 255 επιλογές με όνομα | Την πιθανότερη επιλογή και την πιθανότητα κάθε επιλογής |
| Βαθμολογία | 2 έως 10 επίπεδα, από το χαμηλότερο | Το επίπεδο σταθμισμένο κατά πιθανότητα, με αρίθμηση από το 1 στο Chat και από το 0 στο API |
Είναι γρήγορα και φθηνά, γι' αυτό είναι καλά στη δρομολόγηση, την ταξινόμηση, την εποπτεία περιεχομένου και τον έλεγχο ενός προσχεδίου με βάση κριτήρια αξιολόγησης. Δεν μπορούν να γράψουν.
Από πού προέρχονται τα μοντέλα αποφάσεων
| Πάροχος | Πώς τα βρίσκει το Libre WebUI | API |
|---|---|---|
| Ollama | Εγκατεστημένα μοντέλα με τη δυνατότητα decision | POST /v1/systemone |
| llama.cpp | Μοντέλα των οποίων η καταχώριση δηλώνει modality εξόδου decisions | POST /v1/systemone |
| Baseten | Ο χώρος ονομάτων decision-models/… στη λίστα μοντέλων του | POST /v1/systemone |
| OpenRouter | Ο κατάλογός του με μοντέλα αποφάσεων | POST /api/alpha/decisions |
| OpenAI | gpt-6-luna-decisions, που αποστέλλεται στο OpenAI ως gpt-6-luna | POST /v1/decisions |
| Gemini | gemini-decision-1 | POST /v1beta/decisions |
Το Ollama πρόσθεσε μοντέλα αποφάσεων στην έκδοση 0.35.0 και τα νεότερα μοντέλα χρειάζονται νεότερες εκδόσεις (Clef Flash 0.35.1, Kev 0.40.4). Όταν ένα pull αναφέρει ότι το μοντέλο χρειάζεται νεότερο Ollama, ενημερώστε το Ollama και κάντε ξανά pull. Κατεβάστε ένα μοντέλο αποφάσεων από την καρτέλα Ollama του επιλογέα μοντέλων, στην ενότητα Απόφαση, ή από ένα τερματικό:
ollama pull nimble
Τα Nimble και Tev διαβάζουν κείμενο· τα Clef και Clef Flash διαβάζουν και
εικόνες. Τα μοντέλα αποφάσεων των παρόχων χρησιμοποιούν το API key που έχετε
ήδη αποθηκεύσει για τον συγκεκριμένο πάροχο. Στο OpenAI, το gpt-6-luna
παραμένει μοντέλο chat· το μοντέλο αποφάσεών του εμφανίζεται ως
gpt-6-luna-decisions, ώστε τα δύο να μην αναμειγνύονται ποτέ. Ένας server
llama.cpp ή ένα endpoint συμβατό με OpenAI με αλλαγμένο Base URL στέλνει τις
αποφάσεις του στο ίδιο σημείο.
Στο Chat
Τα μοντέλα αποφάσεων εμφανίζονται στον επιλογέα μοντέλων με το σήμα Απόφαση. Επιλέξτε ένα και το πεδίο σύνταξης εμφανίζει τις ερωτήσεις απόφασής του. Υπάρχουν δύο τρόποι να το χρησιμοποιήσετε.
Με ορισμένες ερωτήσεις. Κάντε κλικ στο Ορισμός ερωτήσεων και προσθέστε ερωτήσεις ναι/όχι, επιλογής ή βαθμολογίας. Κάθε μήνυμα που στέλνετε είναι τότε μια νέα κατάσταση, και η απάντηση δείχνει κάθε ερώτηση με την απάντησή της, την πιθανότητα αυτής της απάντησης και την πλήρη κατανομή. Επισυνάψτε μια εικόνα για να την κρίνει ένα μοντέλο που διαβάζει εικόνες.
Χωρίς ερωτήσεις. Η συνομιλία λειτουργεί όπως το ollama run με ένα μοντέλο
αποφάσεων: το πρώτο σας μήνυμα είναι η κατάσταση και κάθε γραμμή που στέλνετε
μετά από αυτό είναι μια ερώτηση ναι/όχι για αυτήν, οπότε μπορείτε να
επικολλήσετε πολλές μαζί. Στείλτε /clear για να ξεκινήσετε από την αρχή με νέα
κατάσταση.
Οι ερωτήσεις αποθηκεύονται μαζί με τη συνομιλία. Η αναζήτηση στο web, τα εργαλεία, η σκέψη (thinking) και η σύγκριση μοντέλων κρύβονται όσο είναι επιλεγμένο ένα μοντέλο αποφάσεων, επειδή κανένα από αυτά δεν έχει νόημα για αυτό. Οι τίτλοι, οι προτάσεις συνέχειας και η συμπίεση context δεν καλούν ποτέ μοντέλο αποφάσεων.
Decisions API
Το POST /api/decisions απαντά σε ένα αίτημα. Τα token API χρειάζονται εύρος
chat.
curl https://your-instance/api/decisions \
-H "Authorization: Bearer lwk_..." \
-H "Content-Type: application/json" \
-d '{
"model": "nimble",
"state": "I was charged twice. Please refund the extra payment.",
"questions": {
"refund": { "type": "noul", "instructions": "Is a refund requested?" },
"team": {
"type": "choice",
"instructions": "Which team should handle this?",
"criteria": { "billing": "Payments and refunds", "technical": null }
}
}
}'
Προσθέστε providerType και providerId για να επιλέξετε μοντέλο παρόχου, για
παράδειγμα "providerType": "plugin", "providerId": "baseten". Το images
δέχεται έως τέσσερις εικόνες PNG, JPEG ή WebP ως base64 ή data URL. Το Libre
WebUI μεταφράζει το αίτημα στη μορφή κάθε παρόχου και επιστρέφει το ίδιο σχήμα
απάντησης από όλους, μαζί με τη χρήση token που ανέφερε ο πάροχος. Το
GET /api/decisions/models απαριθμεί τα μοντέλα αποφάσεων στα οποία έχει
πρόσβαση ο λογαριασμός σας.
Πρόσβαση
Τα μοντέλα αποφάσεων είναι μόνο για διαχειριστές, μέχρι ένας διαχειριστής να τα
ανοίξει σε όλους με την κάρτα Μοντέλα αποφάσεων στη Διαχείριση χρηστών.
Ορίστε το DECISION_MODELS_ACCESS_MODE σε admins ή all-users για να
καρφιτσώσετε την επιλογή και να κλειδώσετε την κάρτα. Ο έλεγχος εκτελείται σε
κάθε γύρο chat και σε κάθε αίτημα API. Οι κλήσεις αποφάσεων σε παρόχους
εμφανίζονται στη σελίδα Χρήση παρόχων με το μοντέλο τους και τον αριθμό
token.
Όρια
Ένα αίτημα δέχεται το πολύ 64 ερωτήσεις και 4 εικόνες των 4 MiB η καθεμία (8 MiB συνολικά), που είναι το αυστηρότερο όριο που τεκμηριώνει οποιοσδήποτε υποστηριζόμενος πάροχος. Κάθε πάροχος μπορεί να είναι αυστηρότερος: το Nimble δέχεται το πολύ 26 επιλογές σε μια ερώτηση επιλογής, τα μοντέλα του Baseten δέχονται 16.384 tokens εισόδου και ο τοπικός server του Ollama δέχεται 64 KiB κειμένου. Το σφάλμα ενός παρόχου εμφανίζεται όπως το έδωσε ο ίδιος ο πάροχος.