Pista de Auditoria de IA.

Uma pista de auditoria de IA é o registo, só de acrescento, de como se chegou a uma decisão assistida por IA: o que o sistema recomendou, em que contexto e evidência se baseou, que pessoa a reviu, o que essa pessoa alterou ou anulou, e qual foi o resultado. Distingue-se de um log de sistema convencional pelo seu objeto: um log regista transações, enquanto uma pista de auditoria de IA regista julgamento.

As organizações reguladas são cada vez mais obrigadas a demonstrar não apenas o que um sistema de IA produziu, mas que um humano o supervisionou de forma significativa. A maioria não consegue. A recomendação está numa ferramenta, a aprovação numa segunda, a fundamentação numa mensagem de chat e o resultado num terceiro sistema, por isso a cadeia não pode ser reconstituída a posteriori, a nenhum preço. Uma pista de auditoria construída como infraestrutura regista a cadeia à medida que acontece, que é o único momento em que registá-la é barato.

Generalizada a partir das pistas de auditoria financeiras e farmacêuticas para as decisões assistidas por IA. O terceiro artigo da série Human Layer torna a supervisão humana mensurável em vez de declarativa, e a linhagem de decisão é o registo atómico a partir do qual a pista é construída.