KI-Audit-Trail.

Ein KI-Audit-Trail ist die Append-only-Aufzeichnung darüber, wie eine KI-gestützte Entscheidung zustande kam: was das System empfohlen hat, auf welchen Kontext und welche Belege es sich gestützt hat, welcher Mensch sie geprüft hat, was dieser geändert oder übersteuert hat und was das Ergebnis war. Er unterscheidet sich von einem herkömmlichen Systemlog durch seinen Gegenstand: Ein Log hält Transaktionen fest, ein KI-Audit-Trail hält Urteile fest.

Regulierte Organisationen müssen zunehmend nicht nur nachweisen, was ein KI-System hervorgebracht hat, sondern dass ein Mensch es wirksam beaufsichtigt hat. Die meisten können das nicht. Die Empfehlung liegt in einem Tool, die Freigabe in einem zweiten, die Begründung in einer Chatnachricht und das Ergebnis in einem dritten System, sodass sich die Kette im Nachhinein um keinen Preis wieder zusammensetzen lässt. Ein Audit-Trail, der als Infrastruktur gebaut ist, hält die Kette fest, während sie entsteht, und das ist der einzige Moment, in dem das Festhalten günstig ist.

Von Audit-Trails in Finanzwesen und Pharmazie auf KI-gestützte Entscheidungen verallgemeinert. Das dritte Paper der Human-Layer-Serie macht menschliche Aufsicht messbar statt deklarativ, und die Entscheidungshistorie ist die atomare Aufzeichnung, aus der der Trail aufgebaut wird.