KonfigurationEin self-hosted LLM verwenden
Ein self-hosted LLM verwenden
Du kannst ein self-hosted LLM (z. B. über Ollama) verwenden, um Inhalte zu übersetzen.
Gehe zur Einstellungsseite unter Service Configuration > Self-hosted LLM und konfiguriere die Werte.
| Einstellung | Beschreibung |
|---|---|
| Endpoint URL | HTTP-Endpoint-URL für dein self-hosted LLM-Modell. Siehe Beispiele unten. |
| Compatible with API endpoint from | Mit welchem KI-Dienstanbieter dein benutzerdefinierter Endpoint kompatibel ist: ChatGPT oder Claude. |
| Model | Name des self-hosted LLM-Modells, das zum Übersetzen von Inhalten verwendet werden soll. |
| Max tokens | Maximale Anzahl an Tokens, die das Modell in der Antwort generieren kann. Leer lassen für kein Limit (ChatGPT) oder den Standardwert für Claude verwenden. |
Beispiele für Endpoint URLs:
| URL | Beschreibung |
|---|---|
http://localhost:11434/v1/chat/completions | ChatGPT-Format, Ollama auf deinem Server |
http://localhost:11434/v1/messages | Claude-Format, Ollama auf deinem Server |
https://ollama.com/v1/chat/completions | ChatGPT-Format, Ollama Cloud |
https://ollama.com/v1/messages | Claude-Format, Ollama Cloud |
Wenn du das LLM auf deinem eigenen Server hostest, benötigst du keinen API-Schlüssel.
Wenn du dein self-hosted LLM in der Cloud verwendest (z. B. mit Ollama Cloud), musst du möglicherweise einen API-Schlüssel angeben, über den Tab API Keys > Self-hosted LLM auf der Einstellungsseite.
