Governação de IA
IA responsável não é compliance — é arquitectura
Um documento de política arquivado numa pasta partilhada não sobrevive à primeira pergunta difícil. O uso responsável de IA tem de estar construído em como as decisões são tomadas — não escrito depois do facto.
Quase metade dos CEOs portugueses teve de responder por como a sua empresa usa IA. A maioria não tinha uma resposta a sério pronta.
A pergunta que apanha as empresas desprevenidas
Um cliente pergunta como uma recomendação foi produzida. Um regulador pergunta que dados treinaram um modelo. Um membro do conselho pergunta quem é responsável se estiver errado. Quase metade dos CEOs portugueses enfrentou uma versão desta pergunta no ano passado.
A maioria improvisou uma resposta na sala. Improvisar à frente de um regulador não é uma estratégia de governação.
Compliance responde depois do facto. Arquitectura responde antes da pergunta ser feita.
Um documento não é um sistema
A maior parte da governação de IA continua a viver como PDF: princípios, uma página sobre ética, um parágrafo sobre o AI Act europeu. Lê-se bem. Não responde a nada quando alguém pergunta o que acontece de facto da próxima vez que a IA toca numa decisão sensível.
Governação que funciona é um conjunto de regras de trabalho dentro do próprio processo — que dados são permitidos, que decisões continuam a exigir uma pessoa, o que fica registado e por quem.
Arquitectura, não uma caixa de compliance
Tratado como arquitectura, o uso responsável deixa de ser um centro de custo e passa a ser o que permite a uma empresa avançar mais depressa: menos surpresas, aprovações mais rápidas, um conselho que confia no sistema em vez de interrogar cada projecto.
O artigo anterior desta série, sobre governação e responsabilidade partilhada, aprofunda esta arquitectura — o que aqui é princípio, ali é processo.