KonfiguracjaUżywanie samodzielnie hostowanego LLM
Używanie samodzielnie hostowanego LLM
Możesz używać samodzielnie hostowanego LLM (np. za pomocą Ollama) do tłumaczenia treści.
Przejdź do strony Ustawienia w Service Configuration > Self-hosted LLM i skonfiguruj wartości.
| Ustawienie | Opis |
|---|---|
| Endpoint URL | URL endpointu HTTP dla Twojego samodzielnie hostowanego modelu LLM. Zobacz przykłady poniżej. |
| Compatible with API endpoint from | Z którym dostawcą usług AI Twój niestandardowy endpoint jest zgodny: ChatGPT lub Claude. |
| Model | Nazwa samodzielnie hostowanego modelu LLM używanego do tłumaczenia treści. |
| Max tokens | Maksymalna liczba tokenów, które model może wygenerować w odpowiedzi. Pozostaw puste, aby nie ustawiać limitu (ChatGPT), lub użyj wartości domyślnej dla Claude. |
Przykłady Endpoint URL:
| URL | Opis |
|---|---|
http://localhost:11434/v1/chat/completions | Format ChatGPT, Ollama na Twoim serwerze |
http://localhost:11434/v1/messages | Format Claude, Ollama na Twoim serwerze |
https://ollama.com/v1/chat/completions | Format ChatGPT, Ollama Cloud |
https://ollama.com/v1/messages | Format Claude, Ollama Cloud |
Jeśli hostujesz LLM na własnym serwerze, nie będziesz potrzebować klucza API.
Jeśli używasz samodzielnie hostowanego LLM w chmurze (np. korzystając z Ollama Cloud), może być konieczne podanie klucza API za pomocą zakładki API Keys > Self-hosted LLM na stronie Ustawienia.
