Zum Inhalt springen

Guides

LLM Provider

Unter LLM Provider binden Sie eigene Sprachmodelle an, zusätzlich zu oder statt der Plattformmodelle von Aligia.

Aligia AI läuft ab Werk mit Plattformmodellen. Manche Organisationen wollen einen eigenen Vertrag mit einem KI-Anbieter nutzen. Andere wollen, dass ihre Daten beim eigenen Anbieter bleiben. Dafür hinterlegen Sie hier eigene LLM-Anbieter. LLM steht für „Large Language Model“, also Sprachmodell.

Aligia AI › Agenten › LLM Provider. Die Seite heißt „LLM-Anbieter“.

  • Art – „Anthropic“, „OpenAI“ oder „OpenAI-kompatibel“. Bei „OpenAI-kompatibel“ geben Sie zusätzlich eine Basis-URL an.
  • API-Schlüssel – der Zugangsschlüssel beim Anbieter.
  • Modell – ein konkretes Modell des Anbieters, mit Modell-ID und Bezeichnung.

Ein Anbieter hat einen Status: „Nicht konfiguriert“, „Wird geprüft…“, „Verbunden“, „Fehler“ oder „Modell fehlt“. Den API-Schlüssel hinterlegen, ersetzen oder entfernen Sie in der separaten Konto-Oberfläche. Er wird sicher gespeichert und in Aligia nie angezeigt.

Zu jedem Anbieter pflegen Sie die Modelle, die Sie nutzen wollen. Zu jedem Modell gehören diese Angaben:

  • Kontextfenster und maximale Ausgabe-Token
  • ob es steuerbares Nachdenken unterstützt (Reasoning)
  • ob es Bilder annimmt
  • optional Preise pro Million Token

Jedes Modell wird einzeln geprüft und zeigt seinen eigenen Status.

Die Modelle erscheinen danach in der Modellauswahl von Polaris und von Agents.

Rechte: LLM-Anbieter und Modelle anlegen und ändern dürfen nur Owner und Admins.

Unter Einstellungen › Arbeitsbereich (Automatisierung) legen Admins organisationsweit fest:

  • das Polaris-Standardmodell
  • die Modelle für Review, Chat-Titel und Extraktion
  • ob Plattformmodelle überhaupt erlaubt sind

Ist „Polaris-Plattformmodelle erlauben“ aus, stehen nur noch Ihre eigenen Modelle zur Wahl.