Diesen Monat haben wir The Human Layer Audit veröffentlicht (DOI: 10.5281/zenodo.19453026), und es ist um einen unbequemen Befund herum gebaut.
Menschliche Aufsicht, so wie sie heute in den meisten KI-Einführungen praktiziert wird, ist Theater. Ein Mensch „prüft“ die Ausgabe der KI, die Prüfung dauert drei Sekunden, die Freigabequote liegt faktisch bei 100 Prozent, und ein Häkchen für Verantwortlichkeit wird gesetzt. Das ist schlimmer als gar keine Aufsicht, weil es den Anschein von Kontrolle erzeugt, ohne deren Funktion zu liefern. Aufsichtsbehörden beginnen, den Unterschied zu bemerken. Die meisten Organisationen nicht.
Die Antwort des Audits ist ein Reifegradmodell: fünf Komponenten menschlicher Aufsicht, je fünf Reifegrade, bewertet gegen Risikostufen, die den mindestens akzeptablen Standard danach festlegen, was das KI-System tatsächlich tut: beraten, mitwirken oder folgenreich handeln. Der Sinn des Modells ist nicht die Punktzahl. Der Sinn ist, dass „wir haben einen Menschen in der Schleife“ aufhört, ein Satz zu sein, den jeder ohne Beleg sagen kann.
Das Paper existiert, weil jedes ernsthafte Gespräch dieses Jahres an derselben Wand endete. Führungskräfte stimmten zu, dass die menschliche Schicht wichtig ist, und fragten dann: Woher wissen wir, ob unsere etwas taugt? Ohne Instrument war die ehrliche Antwort: Sie wissen es nicht. Jetzt gibt es eines.
Noch etwas, das das Audit uns auferlegt hat: Es gilt auch für Timer. Wir bauen KI-Systeme, die innerhalb von Organisationen handeln, also wird unsere eigene Aufsichtsarchitektur an unserem eigenen Maßstab gemessen, und veröffentlichte Werte sind der Plan, keine Hypothese. Ein Maßstab, von dem man sich selbst ausnimmt, ist Dekoration anderer Art.