Uma contradição frequente nas empresas chama a atenção de André de Barros Faria, CEO da Vert Analytics e conselheiro de administração com formação em governança corporativa pelo IBGC: a inteligência artificial ocupa cada vez mais espaço nas apresentações estratégicas, mas raramente recebe dos conselhos o mesmo escrutínio dedicado a uma aquisição ou a um grande investimento.
O descompasso tem explicação. Muitos conselheiros sentem que não dominam a tecnologia o suficiente para questioná-la e acabam aprovando projetos com base na confiança em quem os apresenta. Só que o papel do conselho nunca foi entender o código, e sim fazer as perguntas que ninguém mais está fazendo.
Qual problema de negócio este projeto resolve?
Parece óbvia, mas é a pergunta que mais derruba propostas. Projetos de IA aplicada nascem com frequência do entusiasmo pela tecnologia, e não de uma dor mensurável da operação. Quando a resposta vem em termos técnicos, como o modelo escolhido ou a ferramenta contratada, o conselho tem um sinal de alerta.
A resposta adequada descreve um processo, um custo, um prazo ou uma receita que vai mudar, e diz como essa mudança será medida. Sem isso, não há como avaliar depois se o investimento gerou valor.
Que dados alimentam a solução e quem responde por eles?
Um sistema de recomendação treinado com o histórico de vendas de cinco anos vai repetir os padrões desse período, inclusive os ruins. Se a empresa mudou de estratégia, o modelo continua decidindo como a empresa antiga.
Por isso, o conselho precisa saber de onde vêm os dados, se a empresa tem direito de usá-los para essa finalidade e se respeitam a legislação de proteção de dados pessoais. Também deve ficar claro quem, na estrutura, responde pela qualidade dessas informações. Dado sem dono costuma ser dado sem manutenção.
O que acontece quando o sistema erra?
Todo modelo de machine learning erra em alguma proporção. A questão de governança é se a empresa sabe quanto, em que tipo de caso e com quais consequências.
Na avaliação de André Faria, essa pergunta separa projetos maduros de apostas. Um projeto bem estruturado tem resposta para ela: limites de atuação definidos, revisão humana nas decisões sensíveis, registro das decisões automatizadas e um plano para corrigir falhas rapidamente. Quando a resposta é que o sistema não erra, o conselho deveria pedir mais estudo antes de qualquer aprovação.
Como saberemos, daqui a um ano, que valeu a pena?
A aprovação de um projeto de IA não deveria ser um evento único. André Faria, nesse ínterim, frisa que esses modelos perdem precisão quando o comportamento de clientes e mercados muda, fenômeno que especialistas chamam de deriva de dados, e por isso exigem acompanhamento contínuo.
O executivo considera que o conselho deve receber indicadores periódicos sobre o desempenho dos sistemas em produção, com a mesma regularidade dos relatórios financeiros. Entre eles, os ganhos de eficiência obtidos, a taxa de erro observada, os incidentes registrados e os ajustes feitos. Esse acompanhamento transforma a IA de promessa em ativo gerido.
Por que essas perguntas são responsabilidade do conselho?
A inteligência artificial já influencia preço, crédito, contratação e atendimento, decisões que afetam clientes, colaboradores e a reputação da empresa. André de Barros Faria menciona que delegar inteiramente essa supervisão à área de tecnologia equivale a tratar um tema estratégico como questão operacional.
O conselho não precisa saber construir um modelo para cumprir seu papel. Precisa garantir que alguém saiba explicar o que ele faz, por que faz e o que acontece quando falha. Essa exigência, longe de frear a inovação, é o que permite à empresa ampliar o uso da tecnologia com a confiança de quem sabe o que está aprovando.
