Was passiert, wenn sich die KI bei einer Einstufung nicht sicher ist?

Unsicherheit wird offengelegt statt geglättet, denn eine selbstsichere falsche Antwort ist in der Compliance-Arbeit der teure Fehlerfall.

Konkret trägt eine Einstufung:

• einen Konfidenzwert aus dem Prüfdurchgang;
• eine Liste nicht belegter Aussagen — Aussagen in der Einstufung, die der Prüfdurchgang nicht auf den abgerufenen Rechtstext zurückführen konnte;
• eine Kennzeichnung „Prüfung durch Fachleute erforderlich“, gesetzt, wenn die Konfidenz unter der Schwelle liegt oder sich Zitate nicht im Rechtstext verankern ließen.

Bei folgenreichen oder wenig sicheren Ergebnissen wird ein zweites Modell hinzugezogen, und ob es zustimmt oder abweicht, wird neben dem Ergebnis festgehalten.

Das macht das Ergebnis in einem Audit verwendbar. Wer ein Audit durchführt, lässt sich nicht von einem System beeindrucken, das immer eine Antwort hat; Vertrauen schafft eines, das unterscheidet zwischen dem, was es belegen kann, und dem, was nicht. Die gekennzeichneten Fälle sind außerdem genau die, bei denen sich bezahlte Rechtsberatung lohnt — so ist die Kennzeichnung für Sie auch wirtschaftlich nützlich und nicht nur ehrlich gegenüber dem eigenen Wissensstand.