Külső és self-hosted szolgáltatók csatlakoztatása

A Libre WebUI 0.16.0 Provider connections munkaterületet ad a Settings > Plugins alatt. Aktiváljon bundled providert, irányítson kompatibilis plugint más API-ra, nézze meg az effective catalogot vagy csatlakozzon trusted self-hosted gatewayhez.

Támogatott wire formats: OpenAI Chat Completions, OpenAI Responses, Anthropic Messages, Google Gemini contents/function calling.

A bundled Anthropic/Gemini dedicated adaptert használ identity alapján. Új import OpenAI Chat/Responses semanticsot kap; kompatibilis URL nem választ adaptert. Más request, stream, tool-call vagy response shape backend adaptert igényel. A JSON routing/config, nem protokollfordító.

Provider connections megnyitása

1. Jelentkezzen be, nyissa Settings > Plugins, keressen és válasszon providert.
2. Ellenőrizze active state/catalogot és aktiválja a fióknak.
3. Configure csak credentialhez vagy override-hoz.

Config alapból zárt. Admin előbb connection settingset, samplingot az Advanced parameters alatt lát. Inherited default hint, nem előtöltött override.

Definition instance-shared, ezért import/install/update/delete csak admin. User saját aktiválást, credentialt és generationt kezel.

Gyors kapcsolat

Settings > Connections egy OpenAI-kompatibilis endpoint és key egyszerű útja. Admin látja local Ollama health/versiont, listát és formot.

Display name, teljes Chat Completions URL és optional key kell. Libre ID-t képez, definitiont telepít, keyt server-side ment, aktivál és modelleket kér. Discovered model leváltja placeholder catalogot és Chatben megjelenik.

Sor: endpoint, model count, key state, toggle, refresh, delete. Responses modes, Base URL override, capability catalogs és generation policy a teljes Pluginsben marad.

Codex (ChatGPT login)

Codex (ChatGPT) nem kér API keyt. Codex CLI login (codex login server OS userként) esetén adminok látják, és ChatGPT sessionön át a GPT-6 Astra, GPT-6.1 Sol (gpt-6.1-sol), GPT-6 Sol, GPT-6 Luna, GPT-5.6 Sol, Terra, Luna, GPT-5.5 és GPT-5.3 Codex Spark modelleket kapják, a bejelentkezett fiók modell-hozzáférésétől függően. Token az auth.json-ból, azonos OAuth clienttel refresh és visszaírás, érték soha nincs logban.

Request backendből, nem task containerből, ezért Workkel használható. Admin-only, mert server owner subscriptionjét használja. Elrejtés CODEX_OAUTH_MODELS_ENABLED=false, más login CODEX_HOME.

Amazon Bedrock

A beépített Amazon Bedrock szolgáltató egy Bedrock API-kulcsot fogad el, rövid vagy hosszú élettartamút, az Amazon Bedrock konzolról. Mentse a szolgáltató beállításaiban, vagy állítsa be az AWS_BEARER_TOKEN_BEDROCK változót a szerveren. Nem kell hozzá AWS SDK, hozzáférési kulcspár vagy IAM-aláírás.

A Libre WebUI a régió bedrock-mantle.<region>.api.aws végpontjával kommunikál, és felsorol minden modellt, amelyet a fiók ott meghívhat, ugyanúgy, ahogy az OpenRouter a katalógusát. Azok a modellek, amelyeket a fiók még nem használhat, például az adatmegőrzési módja miatt, kimaradnak a listából. A régiót a Region beállítással választhatja ki. Csak a Bedrock-gazdák között vált, így a kulcs soha nem küldhető máshová, és módosítása megtartja a mentett kulcsot.

A Claude modellek (anthropic.*) a Bedrock Anthropic Messages API-ján futnak, így a gondolkodás, az eszközök és a tokenplafonok úgy viselkednek, mint az Anthropic szolgáltatónál. Minden más modell Chat Completions API-t használ. A Bedrock egyes családokat egy második Chat Completions útvonalon szolgál ki; a Libre WebUI kipróbálja azt az útvonalat, ha a Bedrock jelzi, hogy egy modell ott található, és megjegyzi. A Chat, a Work és a Strands motor egyaránt használhatja ezeket a modelleket, a használat pedig a szolgáltató alatt jelenik meg az analitikában.

Bundled vagy importált

OpenAI, Anthropic, Gemini, Groq, Mistral, DeepSeek, Amazon Bedrock, OpenRouter, Kimi Code, Hugging Face, GitHub Models, local MLX LM és mások. Bundledet használjon, ha protocol/auth illik.

Minimális import:

{
  "id": "private-ai-gateway",
  "name": "Private AI Gateway",
  "type": "completion",
  "endpoint": "http://ai-gateway:8080/v1/chat/completions",
  "api_mode": "chat_completions",
  "auth": {
    "header": "Authorization",
    "prefix": "Bearer ",
    "key_env": "PRIVATE_AI_GATEWAY_API_KEY"
  },
  "model_map": ["gateway-chat"]
}

Import Settings > Plugins, aktiválás és account key. Változók Base URL/path/discovery/ capability endpointhoz. Teljes példa: plugins/openai.json.

Authless trusted gateway: auth.header és auth.key_env üres, auth.prefix elhagyva.

Chat Completions vagy Responses

API mode	Default path	Mező
chat_completions	/chat/completions	messages
responses	/responses	input

OpenAI API Mode választ ad; Libre completed/streamed Responses-t Chat/Workre mapel bounded replay state-tel. Mode pathot, nem upstream protocolt változtat.

Base URL vagy full endpoint

1. Non-default full endpoint.
2. base_url + optional api_path.
3. Definition endpoint.

https://gateway.example/v1

https://gateway.example/v1/chat/completions

https://gateway.example/v1/responses

API Path más relatív operationhöz, Legacy Full Endpoint teljes URL-hez, amely elsőbbséget élvez. /chat/completions, /completions, /responses suffix semanticsot ad.

Route/key változás után mentse. Custom auth route ugyanazon account credentialjét kéri. Authless mezők üresek. Operator env key nem megy user destinationre, csak trusted bundledre.

Model ID discovery

Aktív provider és Refresh models. Automatikusan fut, ha hiányzik vagy régebbi PLUGIN_MODEL_DISCOVERY_TTL_MS értéknél.

Eredmény	Jelentés
Catalog updated	Lista változott
Catalog already up to date	Ugyanaz
API key needed	Nincs kérés, régi catalog marad
Catalog could not be loaded	Nem elérhető/használhatatlan

Csak env key nem használható installed definitionnél. Speech/image/embedding labels láthatók, Chat pickerben nem.

/models URL:

• /models változatlan;
• /chat/completions, /completions, /responses, /embeddings, /messages lecserélve;
• különben hozzáfűzve.

https://gateway.example/v1/chat/completions
https://gateway.example/v1/responses

-> https://gateway.example/v1/models

Explicit models_endpoint a variables alatt:

{
  "name": "models_endpoint",
  "type": "string",
  "label": "Models Endpoint",
  "default": "https://gateway.example/v1/models"
}

Inherited/admin érték elsőbbséget élvez. Top-level property nincs olvasva. Válasz data:

{
  "data": [{ "id": "gateway-chat" }, { "id": "gateway-code" }]
}

IDs userenként, shared JSON változatlan. Discovery nélkül model_map. Catalog read-only, labels nem health. IDs nem globálisak, Chat exact identityt ment és unavailable-t mutat.

Képgenerálás külön

OpenAI https://api.openai.com/v1/images/generations, default gpt-image-2, régi IDs fallback. Custom Chat Base URL nem kap image requestet. image_endpoint üres vagy teljes. Provider-qualified választás, ugyanaz az ID csak választott providerhez megy.

Biztonságos HTTP gateway

Absolute HTTP/HTTPS. HTTP csak trusted LAN/Tailscale/container network, mert key/prompt titkosítatlan. HTTPS/TLS előny.

Backend	Példa
Native	http://127.0.0.1:8081/v1
Compose	http://ai-gateway:8080/v1
Container→host	http://host.docker.internal:8081/v1
LAN/Tailscale	http://192.168.1.20:8081/v1

Containerben localhost a Libre container. Csak HTTP/HTTPS, final destination credential előtt validált, redirect nincs.

Gateway ellenőrzése

curl http://ai-gateway:8080/v1/models \
  -H 'Authorization: Bearer YOUR_GATEWAY_KEY'

Chat Completions:

curl http://ai-gateway:8080/v1/chat/completions \
  -H 'Authorization: Bearer YOUR_GATEWAY_KEY' \
  -H 'Content-Type: application/json' \
  -d '{
    "model": "gateway-chat",
    "messages": [{"role": "user", "content": "Reply with: ready"}],
    "stream": false
  }'

Responses:

curl http://ai-gateway:8080/v1/responses \
  -H 'Authorization: Bearer YOUR_GATEWAY_KEY' \
  -H 'Content-Type: application/json' \
  -d '{
    "model": "gateway-chat",
    "input": "Reply with: ready",
    "store": false
  }'

Siker után azonos route/mode/credential/model, aktiválás, Refresh models, Chat választás. Work csak megbízható tool callinggal.

Hibaelhárítás

Tünet	Ellenőrzés
Bundled endpoint marad	Régi override törlés, Base URL/API Path mentés
Rossz payload	API Mode és suffix
Nincs ID	/models, data[].id, models_endpoint, model_map
Régi modell	Kapcsolat mentése
Hiányzó key	User credential custom routehoz
Docker localhost	Compose service/host alias/private address
Chat igen, image nem	Külön image_endpoint
Chat igen, Work nem	Compatible tool calls
Redirect	Final validated URL

Lásd Plugins és Hibaelhárítás.

Köszönet

A 0.16.0 élményt ZhengJin (@fangzhengjin) és a #163 visszajelzése formálta.

Kapcsolódó dokumentáció

• Plugins
• Modellek
• MLX LM Apple Silicon
• Work
• Hibaelhárítás