Serpro testa aprendizado dividido para que duas instituições treinem o mesmo modelo de IA sem juntar seus dados
O Serpro, empresa de processamento de dados do governo federal, mostrou como duas instituições podem treinar o mesmo modelo de IA enquanto cada uma mantém seus dados no próprio ambiente, informou o Inforchannel em 21 de novembro. Na 2ª Semana de IA Serpro, a estatal dividiu uma base pública de transações com cartão para simular um banco e uma processadora, e só a processadora recebeu a informação de quais compras haviam sido classificadas como fraude. Os dois lados treinaram então um único modelo. O Serpro estuda aplicar a abordagem, que faz parte da família de técnicas conhecida como aprendizado federado, em um piloto com a Receita Federal.
Na simulação, cada participante executou uma parte da rede neural, uma configuração chamada split learning. O especialista do Serpro Alexandre Henrique Soares explicou que apenas os embeddings, que são representações intermediárias, e seus gradientes trafegam entre os participantes, e esses cálculos ajustam o modelo a cada rodada de treinamento. Os dados brutos ficam onde estão. Soares também fez um alerta sobre a avaliação: como as fraudes eram uma parcela pequena das transações, um modelo pode acertar na maior parte das vezes e ainda deixar passar justamente as compras que deveria sinalizar.
O que muda na prática
A questão da taxa de acerto foi retomada por Camila Falchetto Quadros, coordenadora-geral de Governança de Inteligência Artificial da Secretaria de Governo Digital do Ministério da Gestão e da Inovação em Serviços Públicos (MGI). Com o exemplo hipotético de um sistema de concessão de benefícios que acerta 95% das vezes, ela perguntou quem fica nos outros 5%, se essas pessoas formam um grupo e se estão sendo discriminadas. Para explicar ao cidadão por que um benefício foi negado, disse, o órgão precisa conseguir reconstituir o caminho até a decisão, e os servidores devem poder revisar resultados, corrigir erros e interromper o sistema quando necessário. No autodiagnóstico de 2025, 120 órgãos federais disseram usar IA ou ter iniciado sua adoção, mas só 15 faziam avaliação de risco.
É essa lacuna que a autoavaliação de impacto ético já disponível para mais de 250 órgãos federais pretende fechar, com 11 perguntas para sistemas de baixo risco e 44 para os de alto risco, e o Serpro ajudou a calibrá-la. Os órgãos federais também preparam usos mais ambiciosos, como a IA transacional do Contrata+Brasil. Resta saber se o piloto com a Receita vai sair do papel e quais dados ele abrangeria.