Este mês publicámos The Human Layer Audit (DOI: 10.5281/zenodo.19453026), e está construído em torno de uma constatação incómoda.
A supervisão humana, tal como é praticada na maioria das implementações de IA hoje, é teatro. Um humano "revê" o resultado da IA, a revisão demora três segundos, a taxa de aprovação é efetivamente de 100%, e assinala-se uma caixa de responsabilização. Isto é pior do que não haver supervisão nenhuma, porque fabrica a aparência de controlo sem nenhuma da sua função. Os reguladores estão a começar a notar a diferença. As organizações, na sua maioria, não.
A resposta do Audit é um modelo de maturidade: cinco componentes de supervisão humana, cinco níveis para cada, avaliados face a escalões de risco que definem o padrão mínimo aceitável consoante o que o sistema de IA faz de facto: aconselhar, colaborar, ou agir com consequências. O objetivo do modelo não é a pontuação. É que "temos um humano no circuito" deixe de ser uma frase que qualquer um pode dizer sem prova.
O artigo existe porque todas as conversas sérias que tivemos este ano acabaram na mesma parede. Os executivos concordavam que a camada humana importava, e depois perguntavam: como sabemos se a nossa presta? Sem um instrumento, a resposta honesta era "não sabem". Agora há um.
Mais uma coisa que o Audit nos impôs: aplica-se também à Timer. Estamos a construir sistemas de IA que agem dentro de organizações, o que significa que a nossa própria arquitetura de supervisão é avaliada pela nossa própria grelha, e publicar as pontuações é o plano, não uma hipótese. Uma régua de que nos isentamos é decoração de outro tipo.