KI-Governance.

KI-Governance ist die Gesamtheit der Strukturen, mit denen eine Organisation entscheidet, wie KI eingesetzt werden darf, wer für ihre Ergebnisse verantwortlich ist und wie diese Verantwortung nachgewiesen wird: Richtlinien, Risikoeinstufung, menschliche Aufsicht, Eskalationswege, Aufzeichnung und Überprüfung. Sie ist zu unterscheiden von KI-Ethik, die die Grundsätze festlegt, und von KI-Compliance, die die Konformität mit einer bestimmten Regulierung nachweist.

Die meisten KI-Governance-Programme enden beim Richtliniendokument. Die Richtlinie besagt, dass ein Mensch folgenreiche Empfehlungen prüft; nichts in der Architektur hält fest, ob ein Mensch das tatsächlich getan hat, was er gesehen hat oder ob er widersprochen hat. Governance, die sich nicht nachweisen lässt, ist eine Absichtserklärung, und sie versagt genau in dem Moment, in dem sie gebraucht wird. Deshalb hält sich auch die Frage nach der Zuständigkeit so hartnäckig: Risiko, Recht, Daten und Engineering halten jeweils ein Stück, und Governance bricht überall dort, wo niemand die Aufzeichnung selbst verantwortet.

Eine etablierte Disziplin, die auf Corporate Governance, Modellrisikomanagement und der entstehenden KI-Regulierung aufbaut. Die Human-Layer-Serie steuert die architektonische Hälfte des Arguments bei: Aufsicht muss in Systeme eingebaut werden, denn Aufsicht, die von Absicht abhängt, verkommt zum Abnicken.