No painel Governança e Gestão de Risco de IA do AI Brasil Experience, realizado em 30 de outubro, especialistas mostraram que o ciclo de valor dos dados mudou. De insumo técnico, o dado passou a ser ativo estratégico, mas também fonte de risco. O debate, que reuniu o pesquisador Alexandre Zavaglia, Ricardo Raposo, VP Data da Equifax, Samanta Oliveira, DPO do Mercado Livre e Priscila Reis, gerente sênior de dados da Accenture, convergiu num ponto: sem dados limpos, classificados e governados, não há IA sustentável nem LGPD efetiva.
Zavaglia defendeu um “tripé de sustentabilidade” para a era da IA: cibersegurança, governança e qualidade de dados. O conceito flerta com a mediação das práticas ESG, trazendo ‘algo que vai durar, impactar socialmente e impactar na governança’, disse. Para ele, é impossível aplicar a LGPD se as empresas ainda não sabem onde estão e como estão estruturados seus dados.
O pesquisador lembrou que o risco não está nos modelos, mas na aplicação. A mesma biometria facial, por exemplo, pode ser legítima em um banco e abusiva em um espaço público; o que exige classificação técnica e jurídica de cada uso.
Ricardo Raposo, VP de Data & Analytics da Equifax, levou o debate à fronteira comercial. Segundo ele, “a diferença competitiva vem de fontes exóticas de dados”, como bases externas ou não estruturadas que ampliam a precisão dos modelos. O desafio está em reutilizar essas informações dentro dos limites legais e contratuais.
Samanta Oliveira, DPO do Mercado Livre, trouxe um contraponto: dados também são ferramenta de inclusão. Com milhões de usuários e centenas de transações por segundo, a empresa trabalha com modelos de crédito que incorporam variáveis sociais, como o programa Bolsa Família, para avaliar capacidade de pagamento de públicos desbancarizados.
Segundo ela, o desafio é medir impacto sem eliminar oportunidades. “O viés não é bom nem ruim; é desvio que precisa de contexto e correção”, afirmou, citando casos em que a análise estatística revelou que mulheres recebiam limites menores que homens, não por discriminação explícita, mas por variáveis históricas de contrato.
Governança necessária
Se os dados são o combustível da IA, a governança é o sistema de freios e direção. Foi a partir desse ponto que Priscila Reis, gerente sênior de dados da Accenture, entrou no debate.
Ela lembrou que a explicabilidade técnica tem limites, e que a resposta prática, em muitos casos, é garantir espaço para revisão humana. “Quando o impacto sobre pessoas é alto, a obrigação é permitir contestação. Mesmo que o modelo não seja totalmente transparente, a decisão não pode ser final”, resumiu.
Samanta reforçou essa lógica ao falar da experiência do Mercado Livre com crédito e automação. Em larga escala, disse ela, não há como eliminar completamente o risco, mas é possível controlar seus efeitos com governança viva: monitoramento, revisão e canais de auditoria.
A conversa ainda trouxe como personagens os agentes de IA, sistemas autônomos que começam a operar de forma mais independente. Priscila alertou que os “guardrails” precisam nascer antes da implantação, e não depois que algo sai do controle. Zavaglia complementou que essa agenda exige colaboração entre técnicos, juristas e gestores, sob pena de a regulação chegar sempre atrasada.
Siga TI Inside no Instagram e tenha acesso a conteúdos exclusivos do mercado.
