Zum Inhalt
flowplanDokumentationCommunityMarketplaceZur Startseite

KI

KI-Kontingente

Die Administration kann begrenzen, wie viel KI über den Anbieter der Instanz genutzt wird – für die ganze Instanz, als Standard je Person, für Rollen und Gruppen und für einzelne Konten, je Tag, Woche, Monat und Jahr. Jede Person sieht, wie viel ihr noch bleibt.

4 Min. Lesezeit

Auf dieser Seite
  1. Was gezählt wird
  2. Für Admins
  3. Für Nutzer
  4. Häufige Fragen
Hinweis

Nur der Anbieter der Instanz zählt. Ein eigener Anbieter mit eigenem Schlüssel und die KI auf dem Gerät zählen nie und funktionieren weiter, wenn ein Kontingent aufgebraucht ist.

Was gezählt wird Neu in 0.10.2, im :beta-Image

  • Tokens: Eingabe und Ausgabe zusammen, wie der Anbieter sie meldet – sonst schätzt Flowplan sie aus der Textlänge.
  • Oder Kosten: Sind unter Administration → KI → Preise Preise je Modell eingetragen (je Million Tokens, Eingabe und Ausgabe getrennt), lassen sich die Grenzen auch als geschätzte Kosten in der Währung der Instanz setzen. Ein Modell ohne Preis zählt dann nicht mit – die Administration sieht dazu einen Hinweis.
  • Alle KI-Funktionen mit dem Anbieter der Instanz: Schreibassistent, Zusammenfassungen, KI fragen, KI-Aktionen, KI in Datenbanken, Whiteboards, Handschrift, Lernkarten und Besprechungsnotizen. Die Suche nach Bedeutung zählt zur Grenze der ganzen Instanz, keiner Person.
  • Workflows behalten ihr eigenes Tagesbudget. Ob ihre KI-Knoten zur Grenze der ganzen Instanz zählen, ist eine Einstellung (Standard: ja); zur Person, als die ein Workflow läuft, zählen sie nie.
  • Nicht gezählt wird die Transkription von Sprachnotizen und Besprechungen: Sie läuft über den eigenen Whisper-Dienst, nicht über den KI-Anbieter.

Die Zeiträume sind Kalenderzeiträume in der Zeitzone, die die Administration festlegt: Ein Tag beginnt um Mitternacht, eine Woche am Montag (oder Sonntag), ein Monat am Ersten, ein Jahr am 1. Januar.

Für Admins Neu in 0.10.2, im :beta-Image

Unter Administration → KI → Kontingente:

  1. Einheit wählen: Tokens oder – mit Preisen je Modell – Kosten. Beim Wechsel der Einheit werden die eingetragenen Grenzen geleert.
  2. Zeitzone und Woche beginnt am festlegen.
  3. Hinweis ab (Standard 80 %): Ab diesem Anteil sehen Personen einen Hinweis; für die ganze Instanz bekommst du eine Benachrichtigung.
  4. Workflows zählen zur Instanzgrenze an- oder ausschalten.
  5. Unter Grenzen die Zahlen je Tag, Woche, Monat und Jahr eintragen. Leer heißt: keine Grenze für diesen Zeitraum. Mehrere Zeiträume gelten zugleich, etwa 50 000 Tokens am Tag und 1 Million im Monat.

Die Ebenen:

EbeneGilt für
Ganze InstanzAlle zusammen – eine Obergrenze, damit die Rechnung nicht davonläuft. Sie gilt immer zusätzlich.
Standard je PersonAlle ohne eigene Grenze und ohne Gruppe mit Grenze.
RollenAdministratoren und Gäste (Personen, die nur Gastzugänge haben).
GruppenGruppen der Arbeitsbereiche – auch die, die über die SSO-Zuordnungen aus SSO-, SCIM- und LDAP-Gruppen gefüllt werden.
Einzelne PersonenMehr, weniger oder ausgenommen.

Welche Grenze für eine Person gilt: ihre eigene, sonst die höchste ihrer Gruppen und Rollen (je Zeitraum; lässt eine ihrer Gruppen einen Zeitraum offen, gibt es dort keine Grenze), sonst der Standard. Ausgenommen – eine Person oder eine Gruppe – hebt die persönlichen Grenzen auf; die Grenze der ganzen Instanz bleibt.

Unter Nutzung und Grenzen siehst du für den gewählten Zeitraum den Verbrauch der ganzen Instanz, je Person (sortierbar nach Verbrauch, Rest oder Name, mit der Grenze und woher sie kommt), je Gruppe und je Modell. Die KI-Statistik zeigt die Grenzen der Instanz als Linie.

Benachrichtigungen: Erreicht die ganze Instanz den Hinweis-Anteil und später 100 %, bekommen alle Administratoren je Zeitraum einmal eine Nachricht (Art KI-Kontingent der Instanz unter Einstellungen → Benachrichtigungen).

Für Nutzer Neu in 0.10.2, im :beta-Image

  • Einstellungen → KI → KI-Kontingent zeigt je Zeitraum einen Balken: „1.500 von 10.000 übrig“ und wann er neu beginnt – in Tokens oder, wenn die Administration Kosten eingestellt hat, in Geld.
  • In den KI-Fenstern (KI fragen, Schreibassistent, Zusammenfassung) erscheint ein kleiner Hinweis, sobald weniger als 20 % übrig sind (oder was die Administration festgelegt hat).
  • Aufgebraucht: Eine Anfrage, die eine Grenze überschreiten würde, wird abgelehnt, bevor sie an den Anbieter geht – mit dem Zeitpunkt, ab dem es wieder geht, und den Alternativen: ein eigener Anbieter (wenn erlaubt) oder die KI auf dem Gerät. Jede KI-Funktion zeigt dieselbe Meldung.

Skripte und KI-Assistenten lesen dasselbe mit GET /api/ai/quota (API-Token mit der Berechtigung KI und Transkription, siehe OpenAPI).

Häufige Fragen

Wie genau wird vorher geschätzt? Vor dem Senden zählt Flowplan die Länge der Anfrage und die größte erlaubte Antwortlänge. Passt das nicht mehr ins Kontingent, wird abgelehnt. Gezählt wird danach, was die Antwort wirklich gebraucht hat.

Zählen frühere Anfragen? Gezählt wird ab dieser Version. Die Zählung ist unabhängig von der Nutzungsstatistik unter Überwachung und läuft auch, wenn diese ausgeschaltet ist.

Was passiert mit dem Verbrauch gelöschter Konten? Er bleibt im Verbrauch der ganzen Instanz, ohne Person.

War das hilfreich?
JaDanke!
Nein – sag uns, was fehlt

Fehler gefunden oder etwas fehlt?Auf GitHub bearbeiten