A crescente adoção da inteligência artificial (IA) no setor público vai além de inovações tecnológicas: é crucial estabelecer governança, garantir transparência, assegurar a rastreabilidade de dados e promover a participação humana nas decisões. Essas questões foram centrais no Painel 4 do Tech Gov Fórum ES, realizado em Vitória, com o tema “IA Ética e Responsável: Aplicações práticas no setor público”.
O painel reuniu especialistas em tecnologia, ciência de dados, direito digital e inovação pública para abordar os desafios da implementação de soluções de inteligência artificial nos governos, especialmente diante do aumento da automação de serviços públicos e do uso intensificado de dados da população.
A mediação do painel foi realizada por André Ágil Sanches, fundador e CEO do Universo Ágil, que ressaltou a diversidade técnica dos painelistas. “Aqui estão pessoas com conhecimentos em dados, tecnologia, comunicação e direito, o que demonstra a natureza multidisciplinar da discussão sobre inteligência artificial”, declarou Sanches.
O diretor-presidente da ATI Piauí e vice-presidente de Tecnologia da ABEP-TIC, Ellen Gera, enfatizou que a efetividade da implementação de inteligência artificial no setor público está diretamente ligada à governança e à colaboração entre instituições. “O Brasil é um país muito complexo, com suas diferentes esferas de governo e organizações. A República é intrinsecamente complexa e requer diálogo e sinergia”, afirmou Gera.
Ele observou que, apesar da complexidade administrativa do Brasil, existem casos de cooperação bem-sucedida entre diferentes níveis de governo. “Temos exemplos de políticas públicas nacionais que operam em larga escala, como o Sistema Único de Saúde (SUS). Isso demonstra a possibilidade de criar modelos colaborativos eficazes”, destacou.
Gera também apontou que o país precisa avançar na construção de uma infraestrutura tecnológica autônoma e no desenvolvimento de modelos nacionais de inteligência artificial. “Estamos progredindo para estabelecer uma infraestrutura soberana e é essencial que desenvolvamos nossos próprios modelos de linguagem”, comentou.
Um dos direcionamentos apresentados foi o projeto “Soberania”, que está sendo desenvolvido no Piauí, com foco em uma Large Language Model (LLM) totalmente em português voltada para o setor público brasileiro. “Esse modelo não se restringirá ao Piauí, podendo servir como um exemplo nacional”, afirmou Ellen Gera.
O gestor acredita que a formação de uma cultura de dados dentro da administração pública é fundamental para essa transformação. “Atualmente, Piauí é o único estado do Brasil a contar com uma Secretaria Estadual de Inteligência Artificial e um Conselho de Transformação Digital presidido pelo governador”, salientou.
Entre os exemplos práticos que foram discutidos, Gera mencionou a utilização de inteligência artificial para facilitar o registro de boletins de ocorrência via WhatsApp, bem como a leitura automatizada de exames médicos nas Unidades Básicas de Saúde (UBS). “Agora, no Piauí, o cidadão pode registrar um BO pelo WhatsApp, com o apoio de IA, em vez de ir até a delegacia”, esclareceu.
Além disso, ele destacou que os laudos de exames realizados em unidades de saúde municipais são analisados em questão de minutos por sistemas inteligentes. “Um exame pode ser lido em cerca de quatro minutos”, afirmou.
Nivaldo Helmer, gerente de Dados do Prodest, trouxe à tona os desafios relacionados a vieses algorítmicos e à confiabilidade dos dados que alimentam a inteligência artificial. “Antes de abordar os vieses, é fundamental garantir a rastreabilidade dos dados”, disse Helmer.
Ele alertou que muitos dados incorporam distorções e inconsistências desde sua origem, o que demanda um trabalho rigoroso de catalogação, curadoria e monitoramento. “Os modelos tendem a se deteriorar ao longo do tempo, já que novas informações surgem continuamente. Embora não consigamos eliminar completamente os vieses, podemos atenuá-los ao compreender a origem dos dados”, explicou.
O professor da UFES, Alberto Ferreira de Souza, destacou as dificuldades técnicas para tornar os sistemas de inteligência artificial auditáveis e transparentes. “Muita gente não percebe que o poder da IA moderna reside em sua própria estrutura. Ela opera como uma rede neural com bilhões de conexões, muitas vezes superando nossa capacidade de compreensão”, afirmou.
Souza comentou que as empresas de tecnologia estão investindo em soluções que permitam que modelos de IA expliquem o funcionamento de outros. “A Anthropic, por exemplo, desenvolveu um método em que uma IA tenta entender como outra IA opera. Isso pode nos ajudar a compreender o que ocorre nesses sistemas, mesmo que ainda seja desafiador entender plenamente o motivo das respostas dadas”, detalhou.
Adriano Carpinetti, Head de Inovações da Montreal, enfatizou que a ética em sistemas de inteligência artificial deve ser considerada desde a concepção das soluções. “No fim das contas, a IA sempre deve ter um ser humano responsável pelas decisões”, enfatizou. Para isso, a empresa implementa mecanismos de segurança conhecidos como “guard rails”, que limitam ações automáticas e garantem supervisão humana. “Hoje, contamos com IAs curadoras e, ao final, curadores humanos validam as decisões”, explicou Carpinetti.
O Tech Lead de Ciência de Dados da Bravonix, Jesse Fernandes Ferreira, destacou que a redução de riscos à reputação está diretamente relacionada à qualidade da arquitetura dos sistemas e à definição clara de regras. “Selecionar o modelo de linguagem adequado é um desafio crucial, que afeta diretamente a probabilidade de erros da IA”, disse.
Ele acrescentou que quanto maiores forem as restrições e orientações aplicadas ao sistema, menor será o risco de respostas incorretas. “Em um cenário de serviço público, muitas vezes é preferível que a IA responda ‘não sei’ do que oferecer uma resposta errada”, acrescentou Ferreira.
Ao discutir a soberania tecnológica, Gera reiterou que o Brasil deve buscar alternativas que não dependam apenas de soluções estrangeiras. “O Piauí decidiu investir em uma IA autônoma, sem se limitar a acompanhar as tecnologias globais”, comentou, ressaltando que o projeto foi desenvolvido em colaboração com empresas privadas e com o Serpro, visando uma expansão nacional.
Para Helmer, iniciativas como essa são fundamentais para estabelecer uma cultura de transformação digital no serviço público. “Quando o governo adota essa estratégia, ele demonstra à sua estrutura que este é um caminho sem volta”, afirmou, ressaltando que a inteligência artificial pode liberar servidores para se dedicarem a atividades mais estratégicas e com foco humano. “Deixamos a IA encarregada de processos repetitivos, permitindo que os servidores se concentrem em demandas mais relevantes”, explicou.
O debate também abordou a questão da responsabilização por erros que possam ocorrer em sistemas de IA. Carpinetti argumentou que decisões críticas ainda devem ser responsabilidade humana. “No setor público, cada decisão precisa obedecer claramente a regras. Dependendo da situação, é imperativo que haja validação humana antes da execução”, concluiu.
Por sua vez, Souza trouxe uma discussão mais ampla sobre o futuro da inteligência artificial e os limites éticos dessa tecnologia em evolução. “Casos como a guerra na Ucrânia utilizam drones autônomos, e há estudos indicando que, em determinados cenários, a IA pode tomar decisões mais acertadas do que os humanos”, observou.
Com isso, o rápido avanço da inteligência artificial exigirá debates jurídicos e sociais cada vez mais profundos. “Talvez seja necessário, futuramente, considerar a criação de uma figura de ‘pessoa de IA’, com direitos, deveres e responsabilidades”, concluiu Souza.
Fonte: convergenciadigital.com.br
