Μετάβαση στο κύριο περιεχόμενο

Hugging Face Hub

Το Libre WebUI ενσωματώνεται με το Hugging Face με δύο τρόπους:

  • Πρόσβαση μέσω plugin παρόχου και Hugging Face Inference Providers.
  • Περιήγηση στο Hub μέσα στην εφαρμογή για συμβατά μοντέλα, μαζί με GGUF που κατεβαίνουν μέσω Ollama.

Ρύθμιση του plugin παρόχου​

Δημιουργήστε access token Hugging Face με δικαίωμα inference και προσθέστε το στις Settings ή ως μεταβλητή περιβάλλοντος:

HUGGINGFACE_API_KEY=hf_...

Ενεργοποιήστε το plugin Hugging Face στο Settings > Plugins.

Δυνατότητες​

Ανάλογα με μοντέλο και διαθεσιμότητα, παρέχονται:

  • Μοντέλα chat/completion
  • Text-to-speech
  • Δημιουργία εικόνας
  • Embeddings
  • Speech-to-text

Η διαθεσιμότητα, οι τιμές και η δρομολόγηση αλλάζουν ανά μοντέλο. Ελέγχετε τη σελίδα του μοντέλου και το UI παρόχου Hugging Face.

Περιηγητής μοντέλων​

Ο περιηγητής επιτρέπει:

  • Αναζήτηση κατά όνομα ή δημιουργό.
  • Φιλτράρισμα κατά εργασία.
  • Ταξινόμηση κατά τάση, downloads, likes, ημερομηνία δημιουργίας ή ενημέρωσης.
  • Έλεγχο gated μοντέλων.
  • Λήψη συμβατών GGUF μέσω Ollama.

Τα metadata ανακτώνται μέσω proxy backend και γίνονται cache. Απαιτείται ενεργή συνεδρία Libre και μόνο τρέχων διαχειριστής καθαρίζει την κοινή cache μοντέλων.

GGUF και Ollama​

Για τοπικό inference αναζητήστε GGUF. Το Libre WebUI χρησιμοποιεί αναφορές hf.co/... όταν το repository διαθέτει κατάλληλα αρχεία.

Παράδειγμα:

ollama run hf.co/owner/model-repo:tag

Προτιμήστε το UI για λιγότερα λάθη αντιγραφής και ορατά metadata.

Δρομολόγηση Inference Provider​

Ο OpenAI-compatible router υποστηρίζει ID του Hub. Ορισμένες διαδρομές έχουν suffix ή προτίμηση παρόχου. Επειδή αλλάζει, χρησιμοποιείτε την τρέχουσα τεκμηρίωση και το UI.

Gated μοντέλα​

Ορισμένα απαιτούν αποδοχή όρων:

  1. Ανοίξτε τη σελίδα στο Hugging Face.
  2. Αποδεχτείτε άδεια ή όρους.
  3. Επιβεβαιώστε πρόσβαση token.
  4. Δοκιμάστε ξανά από Libre WebUI.

Μπορούν να εμφανιστούν στην ανακάλυψη πριν επιτραπεί η εκτέλεση.

Αντιμετώπιση προβλημάτων​

Μη εξουσιοδοτημένο

  • Ελέγξτε την τιμή token και τα δικαιώματα inference.
  • Με διαπιστευτήρια χρήστη, επιβεβαιώστε ότι το κλειδί έχει αποθηκευτεί στον τρέχοντα χρήστη.

Μη διαθέσιμο μοντέλο

  • Ελέγξτε τη σελίδα, άλλη διαδρομή παρόχου και την αποδοχή όρων.

Αποτυχία λήψης GGUF

  • Επιβεβαιώστε ότι το repository έχει GGUF.
  • Δοκιμάστε την ακριβή αναφορά hf.co/... σε terminal με Ollama.
  • Χρησιμοποιήστε μικρότερη quantization αν περιορίζει δίσκος ή μνήμη.

Σχετική τεκμηρίωση​