Моделі ухвалення рішень
Модель ухвалення рішень не пише текст, а відповідає на питання про вхідні дані з імовірностями. Ви передаєте їй стан (повідомлення, об’єкт JSON або зображення) і питання, а кожна відповідь повертається типізованою:
| Тип питання | Що ви задаєте | Що повертається |
|---|---|---|
| Так/ні | Питання і, за бажання, що означають «так» і «ні» | Імовірність того, що відповідь «так» |
| Вибір | Від 2 до 255 іменованих варіантів | Найімовірніший варіант та ймовірність кожного варіанта |
| Оцінка | Від 2 до 10 рівнів, від найнижчого | Рівень, зважений за ймовірностями; у чаті рахується від 1, а в API від 0 |
Вони швидкі й дешеві, тож добре підходять для маршрутизації, класифікації, модерації та перевірки чернетки за рубрикою. Писати текст вони не вміють.
Звідки беруться моделі ухвалення рішень
| Провайдер | Як Libre WebUI їх знаходить | API |
|---|---|---|
| Ollama | Встановлені моделі з можливістю decision | POST /v1/systemone |
| llama.cpp | Моделі, для яких список повідомляє модальність виводу decisions | POST /v1/systemone |
| Baseten | Простір імен decision-models/… у його списку моделей | POST /v1/systemone |
| OpenRouter | Його каталог моделей ухвалення рішень | POST /api/alpha/decisions |
| OpenAI | gpt-6-luna-decisions, що надсилається до OpenAI як gpt-6-luna | POST /v1/decisions |
| Gemini | gemini-decision-1 | POST /v1beta/decisions |
Ollama додала моделі ухвалення рішень у версії 0.35.0, а новіші моделі потребують новіших випусків (Clef Flash 0.35.1, Kev 0.40.4). Якщо під час завантаження з’являється повідомлення, що моделі потрібна новіша Ollama, оновіть Ollama й завантажте модель знову. Завантажте модель ухвалення рішень на вкладці Ollama селектора моделей у категорії Рішення або з термінала:
ollama pull nimble
Nimble і Tev читають текст; Clef і Clef Flash також читають зображення. Моделі
ухвалення рішень провайдерів використовують ключ API, який ви вже зберегли для
цього провайдера. В OpenAI gpt-6-luna залишається моделлю чату; її модель
ухвалення рішень показується як gpt-6-luna-decisions, тож вони ніколи не
змішуються. Сервер llama.cpp або OpenAI-сумісна кінцева точка, у якої змінено
Base URL, надсилає свої рішення туди ж.
У чаті
Моделі ухвалення рішень з’являються в селекторі моделей із позначкою Рішення. Виберіть одну, і поле введення покаже її питання для рішення. Користуватися нею можна двома способами.
Із заданими питаннями. Натисніть Задати питання і додайте питання типу «так/ні», вибору або оцінки. Після цього кожне надіслане повідомлення стає новим станом, а відповідь показує кожне питання з його відповіддю, імовірністю цієї відповіді та повним розподілом. Додайте зображення, щоб оцінити його моделлю, яка читає зображення.
Без питань. Чат працює як ollama run з моделлю ухвалення рішень: перше
повідомлення стає станом, а кожен наступний рядок є питанням «так/ні» про
нього, тож можна вставити кілька питань одразу. Надішліть /clear, щоб почати
знову з новим станом.
Питання зберігаються разом із чатом. Поки вибрано модель ухвалення рішень, вебпошук, інструменти, міркування й порівняння моделей приховано, бо для неї жодне з них не має сенсу. Заголовки, підказки для продовження та ущільнення контексту ніколи не викликають модель ухвалення рішень.
Decisions API
POST /api/decisions відповідає на один запит. Токенам API потрібна область
chat.
curl https://your-instance/api/decisions \
-H "Authorization: Bearer lwk_..." \
-H "Content-Type: application/json" \
-d '{
"model": "nimble",
"state": "I was charged twice. Please refund the extra payment.",
"questions": {
"refund": { "type": "noul", "instructions": "Is a refund requested?" },
"team": {
"type": "choice",
"instructions": "Which team should handle this?",
"criteria": { "billing": "Payments and refunds", "technical": null }
}
}
}'
Додайте providerType і providerId, щоб вибрати модель провайдера, наприклад
"providerType": "plugin", "providerId": "baseten". images приймає до
чотирьох зображень PNG, JPEG або WebP у вигляді base64 чи data URL. Libre WebUI
перекладає запит у формат кожного провайдера й від усіх повертає відповідь
однакової форми разом із використанням токенів, про яке повідомив провайдер.
GET /api/decisions/models перелічує моделі ухвалення рішень, доступні вашому
обліковому запису.
Доступ
Моделі ухвалення рішень доступні лише адміністраторам, доки адміністратор не
відкриє їх для всіх карткою Моделі ухвалення рішень у розділі
Керування користувачами. Задайте DECISION_MODELS_ACCESS_MODE значення admins або
all-users, щоб закріпити вибір і заблокувати картку. Перевірка виконується для
кожного ходу чату й кожного запиту API. Виклики рішень у провайдерів з’являються
на сторінці Використання провайдерів із моделлю та кількістю токенів.
Обмеження
Запит приймає щонайбільше 64 питання і 4 зображення по 4 MiB кожне (разом 8 MiB): це найсуворіше обмеження, яке документує будь-який підтримуваний провайдер. Кожен провайдер може бути суворішим: Nimble приймає щонайбільше 26 варіантів у питанні з вибором, моделі Baseten приймають 16 384 токени вхідних даних, а локальний сервер Ollama приймає 64 KiB тексту. Власна помилка провайдера показується в тому вигляді, у якому він її повернув.