Governação de IA.

A governação de IA é o conjunto de estruturas através das quais uma organização decide como a IA pode ser usada, quem responde pelos seus resultados, e como essa responsabilização é demonstrada: política, classificação de risco, supervisão humana, vias de escalamento, manutenção de registos e revisão. Distingue-se da ética da IA, que define os princípios, e da conformidade da IA, que demonstra a adequação a uma regulamentação específica.

A maioria dos programas de governação de IA fica pelo documento de política. A política diz que um humano revê as recomendações de alto impacto; nada na arquitetura regista se um humano o fez de facto, o que viu, ou se discordou. Uma governação que não pode ser demonstrada é uma declaração de intenções, e falha exatamente no momento em que é precisa. É também por isso que a questão de quem é o responsável é tão persistente: risco, jurídico, dados e engenharia têm cada um uma parte, e a governação quebra onde ninguém é dono do próprio registo.

Uma disciplina estabelecida que se apoia na governação corporativa, na gestão do risco de modelos e na regulamentação emergente da IA. A série Human Layer contribui com a metade arquitetural do argumento: a supervisão tem de estar construída nos sistemas, porque a supervisão que depende da intenção se degrada em carimbo automático.