Grenzen und Compliance

Reiter Limits & Compliance. Drei Themen, die zusammen den Rahmen des Endpunkts bilden: was er verbraucht hat, welche Grenzen gelten und wie er regulatorisch eingestuft ist.

Verbrauch

Ganz oben im Reiter steht, was dieser Endpunkt tatsächlich verbraucht hat — über die Schnittstelle und über das eingebettete Fenster zusammen. Schauen Sie hierher, bevor Sie eine Grenze ändern: die Zahl darunter setzen Sie sonst ins Blaue.

Sie wählen den Zeitraum (7 oder 30 Tage) und sehen:

Angabe	Bedeutung
Tokens gesamt	Verarbeitete Textmenge, getrennt nach Anfrage- und Antwortanteil
Aufrufe	Zahl der Anfragen, getrennt nach Schnittstelle und eingebettetem Fenster
Kosten	Aufgelaufener Betrag im gewählten Zeitraum
Wochenbudget	Wie viel des Budgets verbraucht ist, samt Zeitpunkt der nächsten Rückstellung
Drosselung	Ob und wann die Grenze für Anfragen pro Minute gegriffen hat

Die Token-Zahl schließt interne Hilfsaufrufe ein. Für manche Anfragen führt das System zusätzlich einen kurzen internen Aufruf aus, bevor es antwortet, und eine Antwort, die nachgebessert wird, kostet einen zweiten Durchgang. Beides zählt mit — genau wie beim Budget. Zählt Ihr eigenes Programm mit, kann seine Zahl deshalb niedriger liegen als die hier angezeigte; die Differenz ist kein Fehler, sondern der Anteil, den Sie von außen nicht sehen.

Der Budget-Balken nennt seinen Zustand immer auch als Wort — OK, Warnung, Kritisch, Aufgebraucht —, damit er ohne Farbwahrnehmung lesbar bleibt.

Bei der Drosselung werden Minuten gezählt, nicht abgewiesene Anfragen. „In 3 Minuten erreicht" heißt: in drei Minuten des Zeitraums wurde mindestens eine Anfrage abgewiesen. Ob es in diesen Minuten je eine oder je hundert waren, steht dort bewusst nicht — für die Frage „ist meine Grenze zu eng?" ist die Zahl der betroffenen Minuten die aussagekräftigere.

Steht dort „Nie erreicht", ist die Drosselung nicht Ihr Problem. Klagt ein angebundenes System trotzdem über abgewiesene Anfragen, liegt es am Budget, am Schlüssel oder am Zustand des Endpunkts — nicht an der Drosselung.

Wenn eine Angabe fehlt

Der Budget-Stand kommt von der Stelle, die das Budget auch durchsetzt. Ist sie gerade nicht erreichbar, steht dort „nicht abrufbar" statt eines Balkens. Das ist Absicht: eine 0 an dieser Stelle läse sich als „nichts verbraucht" und würde einen aufgebrauchten Endpunkt als gesund ausweisen. Die übrigen Zahlen stimmen weiterhin.

Steht unter den Kennzahlen ein Hinweis, dass die Token-Summe nur aus einem Teil der Aufrufe stammt, ist sie eine Untergrenze: für ältere Aufrufe liegt keine Messung vor. Der tatsächliche Verbrauch war mindestens so hoch.

Die Drosselung wird an genau einer Stelle gezählt: bei der Plattform selbst. Der Modell-Dienst dahinter hält für Ihren Endpunkt keine eigene Grenze. Zeigt die Karte trotzdem eine, ist sie ein Rest aus einer früheren Version. Sie verschwindet beim nächsten Veröffentlichen oder beim nächsten Systemstart; bis dahin kann sie Anfragen nach einer Zahl abweisen, die Sie nirgends eingestellt haben. Verbindlich ist allein die Zahl, die Sie hier setzen.

Nutzungsgrenzen

Einstellung	Bedeutung
Anfragen pro Minute	Drosselung gegen Missbrauch und Lastspitzen
Budget pro Woche	Obergrenze der Kosten. Ohne Angabe gilt keine Obergrenze.

Setzen Sie beide. Ein öffentlicher Endpunkt ohne Budget ist ein offenes Kostenrisiko: Ein einzelner automatisierter Zugriff kann über Nacht ein Vielfaches des geplanten Verbrauchs erzeugen.

Beide Werte gelten für den ganzen Endpunkt — Aufrufe über die Schnittstelle und Anfragen aus dem eingebetteten Fenster teilen sich dieselbe Grenze. Eine Änderung wirkt mit dem Speichern; Veröffentlichen ist dafür nicht nötig.

Bei „Anfragen pro Minute" bedeutet 0, dass keine Drosselung greift. Der Standard bei einem neuen Endpunkt ist bewusst niedrig; für ein angebundenes Fachverfahren, das im Takt arbeitet, ist er häufig zu knapp — erhöhen Sie ihn dann auf das, was das aufrufende System tatsächlich braucht.

Was passiert, wenn eine Grenze greift

Fall	Verhalten
Drosselung erreicht	Der Aufruf wird abgewiesen, mit Angabe, nach welcher Zeit es erneut geht.
Modell-Dienst ausgelastet	Abweisung mit Wartezeit, genau wie bei der eigenen Drosselung. Das aufrufende System kann warten und es erneut versuchen.
Budget erschöpft	Weitere Anfragen werden abgelehnt. Das aufrufende System sieht einen Fehler; der genaue Grund steht im Protokoll.
Endpunkt nicht aktiv	Abweisung mit entsprechendem Hinweis — Entwurf oder stillgelegt.
Schlüssel ungültig	Abweisung. Auch unmittelbar nach dem Sperren.

Häufige Verwechslung: Eine Drosselung greift auch dann, wenn die Last gering scheint — mehrere Browser-Tabs oder mehrere Instanzen Ihres Systems teilen sich dasselbe Kontingent.

Ob eine dieser Grenzen wirklich gegriffen hat, müssen Sie nicht raten: Der Abschnitt Verbrauch oben im selben Reiter sagt es.

Regulatorische Einstufung

Diese Angaben sind prüfungsrelevant. Sie fließen in jeden Protokolleintrag ein und erscheinen auf der Compliance-Karte.

Feld	Was einzutragen ist
Risikoklasse	Minimal, begrenzt oder hoch — nach der KI-Verordnung
Authentifizierung der Nutzenden	Keine, anonyme Sitzung oder externe Anmeldung
Veröffentlichungsstatus	Intern oder öffentlich — nach den Vorgaben zur Informationsfreiheit
Rechtsgrundlage	Die Grundlage der Verarbeitung nach Datenschutzrecht
Datenkategorien	Was tatsächlich verarbeitet wird

Zur Risikoklasse

Hoch ist keine Ermessensfrage, sondern folgt aus dem Einsatzbereich. Die Vorlagen für Bildung und Beschäftigung sind bewusst hoch eingestuft — beides sind in der KI-Verordnung ausdrücklich benannte Bereiche.

Wer einen Endpunkt für einen solchen Zweck baut und ihn niedriger einstuft, trifft eine Entscheidung, die begründet werden muss. Die Einstufung steht in jedem Protokolleintrag und ist damit nachvollziehbar.

Zur Rechtsgrundlage

Das Feld ist kein Pflichtfeld der Software, aber eines Ihrer Verfahrens­­ dokumentation. Tragen Sie ein, was Ihre Datenschutzkoordination für diesen Anwendungsfall festgelegt hat — nicht das, was am ehesten passt.

Die Compliance-Karte

Zu jedem veröffentlichten Endpunkt lässt sich eine Compliance-Karte herunterladen: ein Dokument mit Einstufung, Rechtsgrundlage, Datenkategorien und Konfiguration zum Zeitpunkt der Veröffentlichung.

Sie ist Ihr Nachweisdokument gegenüber Prüfstellen. Die Ausgabe ist an ein eigenes Recht gebunden und wird protokolliert.

Karten werden nie nachträglich verändert. Veröffentlichen Sie eine neue Fassung, entsteht eine neue Karte; die alte bleibt unverändert im Bestand. Das ist beabsichtigt — ein Nachweis, der sich rückwirkend ändern ließe, wäre keiner.

Vor dem Veröffentlichen

• Sind Drosselung und Budget gesetzt?
• Passt die Risikoklasse zum tatsächlichen Einsatz?
• Ist die Rechtsgrundlage mit der Datenschutzkoordination abgestimmt?
• Zeigt die laufende Prüfung im Editor Hinweise an?