Перейти до основного вмісту

Моделі ухвалення рішень

Модель ухвалення рішень не пише текст, а відповідає на питання про вхідні дані з імовірностями. Ви передаєте їй стан (повідомлення, об’єкт JSON або зображення) і питання, а кожна відповідь повертається типізованою:

Тип питанняЩо ви задаєтеЩо повертається
Так/ніПитання і, за бажання, що означають «так» і «ні»Імовірність того, що відповідь «так»
ВибірВід 2 до 255 іменованих варіантівНайімовірніший варіант та ймовірність кожного варіанта
ОцінкаВід 2 до 10 рівнів, від найнижчогоРівень, зважений за ймовірностями; у чаті рахується від 1, а в API від 0

Вони швидкі й дешеві, тож добре підходять для маршрутизації, класифікації, модерації та перевірки чернетки за рубрикою. Писати текст вони не вміють.

Звідки беруться моделі ухвалення рішень​

ПровайдерЯк Libre WebUI їх знаходитьAPI
OllamaВстановлені моделі з можливістю decisionPOST /v1/systemone
llama.cppМоделі, для яких список повідомляє модальність виводу decisionsPOST /v1/systemone
BasetenПростір імен decision-models/… у його списку моделейPOST /v1/systemone
OpenRouterЙого каталог моделей ухвалення рішеньPOST /api/alpha/decisions
OpenAIgpt-6-luna-decisions, що надсилається до OpenAI як gpt-6-lunaPOST /v1/decisions
Geminigemini-decision-1POST /v1beta/decisions

Ollama додала моделі ухвалення рішень у версії 0.35.0, а новіші моделі потребують новіших випусків (Clef Flash 0.35.1, Kev 0.40.4). Якщо під час завантаження з’являється повідомлення, що моделі потрібна новіша Ollama, оновіть Ollama й завантажте модель знову. Завантажте модель ухвалення рішень на вкладці Ollama селектора моделей у категорії Рішення або з термінала:

ollama pull nimble

Nimble і Tev читають текст; Clef і Clef Flash також читають зображення. Моделі ухвалення рішень провайдерів використовують ключ API, який ви вже зберегли для цього провайдера. В OpenAI gpt-6-luna залишається моделлю чату; її модель ухвалення рішень показується як gpt-6-luna-decisions, тож вони ніколи не змішуються. Сервер llama.cpp або OpenAI-сумісна кінцева точка, у якої змінено Base URL, надсилає свої рішення туди ж.

У чаті​

Моделі ухвалення рішень з’являються в селекторі моделей із позначкою Рішення. Виберіть одну, і поле введення покаже її питання для рішення. Користуватися нею можна двома способами.

Із заданими питаннями. Натисніть Задати питання і додайте питання типу «так/ні», вибору або оцінки. Після цього кожне надіслане повідомлення стає новим станом, а відповідь показує кожне питання з його відповіддю, імовірністю цієї відповіді та повним розподілом. Додайте зображення, щоб оцінити його моделлю, яка читає зображення.

Без питань. Чат працює як ollama run з моделлю ухвалення рішень: перше повідомлення стає станом, а кожен наступний рядок є питанням «так/ні» про нього, тож можна вставити кілька питань одразу. Надішліть /clear, щоб почати знову з новим станом.

Питання зберігаються разом із чатом. Поки вибрано модель ухвалення рішень, вебпошук, інструменти, міркування й порівняння моделей приховано, бо для неї жодне з них не має сенсу. Заголовки, підказки для продовження та ущільнення контексту ніколи не викликають модель ухвалення рішень.

Decisions API​

POST /api/decisions відповідає на один запит. Токенам API потрібна область chat.

curl https://your-instance/api/decisions \
-H "Authorization: Bearer lwk_..." \
-H "Content-Type: application/json" \
-d '{
"model": "nimble",
"state": "I was charged twice. Please refund the extra payment.",
"questions": {
"refund": { "type": "noul", "instructions": "Is a refund requested?" },
"team": {
"type": "choice",
"instructions": "Which team should handle this?",
"criteria": { "billing": "Payments and refunds", "technical": null }
}
}
}'

Додайте providerType і providerId, щоб вибрати модель провайдера, наприклад "providerType": "plugin", "providerId": "baseten". images приймає до чотирьох зображень PNG, JPEG або WebP у вигляді base64 чи data URL. Libre WebUI перекладає запит у формат кожного провайдера й від усіх повертає відповідь однакової форми разом із використанням токенів, про яке повідомив провайдер. GET /api/decisions/models перелічує моделі ухвалення рішень, доступні вашому обліковому запису.

Доступ​

Моделі ухвалення рішень доступні лише адміністраторам, доки адміністратор не відкриє їх для всіх карткою Моделі ухвалення рішень у розділі Керування користувачами. Задайте DECISION_MODELS_ACCESS_MODE значення admins або all-users, щоб закріпити вибір і заблокувати картку. Перевірка виконується для кожного ходу чату й кожного запиту API. Виклики рішень у провайдерів з’являються на сторінці Використання провайдерів із моделлю та кількістю токенів.

Обмеження​

Запит приймає щонайбільше 64 питання і 4 зображення по 4 MiB кожне (разом 8 MiB): це найсуворіше обмеження, яке документує будь-який підтримуваний провайдер. Кожен провайдер може бути суворішим: Nimble приймає щонайбільше 26 варіантів у питанні з вибором, моделі Baseten приймають 16 384 токени вхідних даних, а локальний сервер Ollama приймає 64 KiB тексту. Власна помилка провайдера показується в тому вигляді, у якому він її повернув.

Пов’язані документи​