Risikoklassen

Jeder Assistent bekommt eine Einstufung nach der europäischen KI-Verordnung. Sie wird automatisch aus dem Aufbau bestimmt und lässt sich begründet übersteuern.

Die drei Klassen

Klasse	Bedeutung
Begrenzt	Der Normalfall. Geringes Risiko, keine besonderen Pflichten außer dem Hinweis am Ergebnis.
Begrenzt +	Erhöhtes Risiko, verstärkte Transparenzpflichten.
Hoch	Hochrisiko. Das Ergebnis trägt zusätzlich einen erweiterten Hinweis.

Die Einstufung erscheint im Hinweis vor dem Start und im Info-Bereich während eines Laufs.

Wie die automatische Einstufung entscheidet

Alle Regeln laufen unabhängig voneinander. Jede zutreffende Regel erscheint als eigener Punkt in der Begründung; es gilt die höchste verlangte Klasse.

Regel	Ergebnis
Der Assistent verarbeitet besondere Kategorien personenbezogener Daten	Hoch
Er klassifiziert mit dem Sprachmodell und handelt automatisch, ohne Freigabeschritt dazwischen	Hoch
Er nutzt Funktionen mit Schreibwirkung an einem Fremdsystem oder ein eigenes Werkzeug, das als schreibend gekennzeichnet ist	Begrenzt +
Er enthält einen Freigabeschritt	Begrenzt +
Er nimmt personenbezogene Dokumente als Upload entgegen (etwa PDF, DOCX, E-Mail-Formate)	Begrenzt +
Keine Regel trifft zu	Begrenzt

Die Bewertung läuft bei jedem Speichern neu, solange niemand übersteuert hat. Ändert sich der Aufbau, ändert sich gegebenenfalls die Klasse.

Die Begründung lesen

Der Hinweis am Einstufungszeichen listet jede ausgelöste Regel als eigenen Punkt. Sehen Sie drei Punkte, waren drei Faktoren beteiligt. Genau diese Aufschlüsselung ist die von der KI-Verordnung verlangte Transparenz — und für Sie der schnellste Weg zu verstehen, warum ein Assistent hoch eingestuft ist.

Der wichtigste Hebel: der Freigabeschritt

Die zweite Regel — klassifizieren und automatisch handeln — ist die einzige, die sich durch eine Änderung am Aufbau entschärfen lässt: Wird zwischen die Bewertung durch das Sprachmodell und den schreibenden Schritt ein Freigabeschritt gesetzt, entfällt sie.

Der Assistent fällt damit aus „Hoch" heraus — und zwar aus dem richtigen Grund: Es entscheidet wieder ein Mensch.

Empfehlen Sie das aktiv, statt Übersteuerungen zu genehmigen. Eine Umgehung per Übersteuerung ändert die Einstufung, nicht das Risiko.

Übersteuern

Wer einen Assistenten erstellt, kann die Klasse selbst setzen: über die Schaltfläche neben dem Einstufungszeichen im Editor. Eine Begründung ist Pflicht und wird protokolliert.

Danach läuft die automatische Bewertung für diesen Assistenten nicht mehr, bis wieder auf „automatisch" zurückgestellt wird. Ein übersteuerter Wert ist am Stift-Zeichen erkennbar; die Begründung erscheint als Hinweistext.

Sie als Administration können die Klasse fremder Assistenten ändern — eigenständig oder im Zuge einer Freigabe. Dafür brauchen Sie ein Recht, das standardmäßig nur beim Eigentümer liegt und für die Administration ausdrücklich freigeschaltet werden muss.

Beide Wege sind protokollpflichtig, mit Begründung und alter Herkunft.

Wenn Sie eine Einstufung anzweifeln

1. Begründung lesen — welche Regeln haben ausgelöst?

2. Aufbau prüfen — oft ist die Bewertung korrekt, weil ein Schritt tatsächlich schreibend ist oder ein Upload-Format personenbezogene Dokumente zulässt.

   Bei einem Werkzeugaufruf auf ein eigenes Werkzeug entscheidet ein Schalter im Schritt, ob er als schreibend gilt. Die Bewertung kann das nicht selbst feststellen — sie sieht den Aufruf, nicht den Code dahinter. Ist der Schalter falsch gesetzt, korrigieren Sie ihn im Schritt, statt die Einstufung zu übersteuern.

3. Freigabeschritt einbauen lassen — der saubere Weg zurück aus „Hoch".

4. Erst dann übersteuern — mit einer Begründung, die auch in einem Jahr noch trägt.

Was Sie im Blick behalten sollten

• Assistenten, die von „Begrenzt" auf „Hoch" springen. Der Vergleich in der Genehmigungsprüfung hebt das eigens hervor.
• Übersteuerungen ohne tragfähige Begründung. Sie stehen im Protokoll und sind bei einer Prüfung das Erste, wonach gefragt wird.
• Nach einer Aktualisierung der Plattform kann sich die Einstufung einzelner Assistenten ändern, wenn die Regeln erweitert wurden. Übersteuerte Assistenten bleiben unberührt.