Wird eine von der KI erstellte Einstufung automatisch verbindlich?

Um diese Regel herum ist der Rest des Produkts aufgebaut.

Eine von der KI erstellte Einstufung ist ein Vorschlag. Sie erscheint als Entwurf, sie ist als Entwurf gekennzeichnet, und sie erfüllt nichts, bis eine Person in Ihrem Team sie bestätigt. Die Bestätigung hält fest, wer sie wann bestätigt hat, und die bestätigende Person übernimmt die Verantwortung für die Feststellung.

Das folgt der Logik der KI-Verordnung der EU selbst. Die Verordnung legt Anbietern und Betreibern Pflichten auf — also Organisationen — und erwartet menschliche Aufsicht über KI-Ausgaben mit Folgen. Ein Compliance-Werkzeug, dessen eigene KI ein Unternehmen als konform markieren dürfte, würde man einer Aufsichtsbehörde nur ungern vorlegen.

Es entsteht auch genau das, was eine Prüfung sehen will. „Das System sagt: hohes Risiko“ ist eine Maschinenausgabe. „Unser Head of Product hat die Einstufung als hohes Risiko am 14. März geprüft und bestätigt, mit diesen Anmerkungen“ ist dokumentierte Governance.

Praktisch heißt das: Führen Sie die Einstufung durch, lesen Sie die Zitate und den Konfidenzbericht, und dann bestätigen Sie sie, überschreiben sie oder geben sie an jemanden weiter, der sie fachkundig beurteilen kann.