Inteligência Artificial na administração pública? Saiba como funcionará em Porto Alegre

Aprovado na Câmara às vésperas do recesso, projeto de lei está nos trâmites finais para envio ao Executivo, que deve sancionar a matéria.

Antes do recesso parlamentar, a Câmara de Porto Alegre aprovou o Projeto de Lei do Executivo nº 046/25, que dita diretrizes para o uso da Inteligência Artificial na administração pública. Hoje, o documento já está na seção de comissões, com redação final concluída, aguardando os trâmites finais para envio ao gabinete do prefeito Sebastião Melo (MDB).

A Inteligência Artificial (IA) já está presente em algumas iniciativas da Prefeitura. Caso seja sancionado, o que mudará é que a sua utilização passará a ser sistematizada e orientada a partir de princípios determinados por lei. “Porto Alegre já utiliza IA na saúde, na gestão urbana, na segurança e no apoio à tomada de decisões”, explica a secretária de Transparência e Controladoria, Mônica Leal, que coordenou a construção da proposta.

“Na saúde, a Procempa (Companhia de Processamento de Dados de Porto Alegre) desenvolve, em parceria com a Santa Casa, soluções como o Mirai, que utiliza inteligência artificial para estimar o risco de desenvolvimento de câncer de mama a partir de mamografias; o Sybil, voltado ao apoio na detecção precoce do câncer de pulmão; e o SkinScan, que auxilia na identificação de lesões de pele com potencial de malignidade”, afirma. Todas essas ferramentas funcionam com o suporte de profissionais da saúde.

Entre os exemplos, há ainda o Gipav, voltado à gestão urbana, que utiliza visão computacional para identificar automaticamente buracos, fissuras, remendos e outros problemas no pavimento das vias. Assim como o SmartGen, desenvolvido pela Procempa para apoiar servidores na consulta de bases de conhecimento, elaboração de documentos e análise de informações.

De qualquer maneira, a secretária ressalta que a implementação da IA nos serviços da administração pública ocorrerá de forma gradual, conforme regulamentação complementar, planejamento e análise técnica. “A adoção das ferramentas não será automática após a sanção, mas seguirá um processo estruturado de implantação.”

Sob olhar humano

O projeto prevê a necessidade de “participação e supervisão humana em todas as etapas dos ciclos de desenvolvimento e de utilização de soluções que adotem técnicas de inteligência artificial.” Assim como a proteção de dados pessoais e sensíveis, mediante tratamento das informações.

Para o cientista e engenheiro de software, Afonso Sales, que é professor na Escola Politécnica da Pontifícia Universidade Católica do Rio Grande do Sul (PUCRS), o olhar humano é essencial.

“No serviço público, a gente pode ter um benefício muito grande, de uma quantidade muito grande de dados que a gente pode analisar de maneira rápida. Mas é importante que sempre se tenha a curadoria de um especialista, de uma pessoa humana em cima daquele processo, em cima daqueles dados”, afirma.

Embora essas ferramentas possam facilitar processos burocráticos, administrativos e manuais, é preciso, portanto, atenção. “A gente tem que ter muito cuidado ao utilizar esses modelos para não cairmos em um processo automático, que dá uma resposta e a gente acredita aquela resposta como uma verdade absoluta, porque a IA pode ter falhas”, ressalta Sales.

Ambiente controlado

No documento, o Executivo traça distinções entre dois sistemas de Inteligência Artificial: o Generativo e o Responsivo. O primeiro deles, segundo a proposta, é baseado em “modelos de linguagem de larga escala capazes de gerar textos, imagens, códigos e outros conteúdos de forma autônoma, a partir de comandos dados pelos usuários”.

Já o segundo conta com capacidade de geração de conteúdo a partir de comandos dados pelos usuários, operando em um “ambiente restrito e controlado, sem acessar fontes públicas externas ou modelos de linguagem amplos”. Conforme indicado na proposta, é este modelo “responsivo” que deverá ser priorizado na gestão pública.

“Quando você tem um modelo que está com dados treinados num ambiente controlado, é como se eu treinasse um estagiário para responder a um determinado processo. Ele vai treinar em cima daquilo que a gente ensinou para ele. Agora, quando a gente está falando de IA generativa, o conjunto de dados é muito amplo, o contexto é muito amplo. Ele pode te dar uma resposta muito enviesada”, pondera Sales.

“Se eu pedir à IA uma imagem, em cima de um modelo de IA generativa para fazer uma pessoa, um chefe, em reunião com outras pessoas. Normalmente, por exemplo, os modelos, dão um homem branco como chefe. Por isso, automatizar os processos tem que passar por esse tipo de curadoria ou tipo de contextualização de como usar os modelos”, completa.

Segundo a secretária de Transparência e Controladoria, a opção por priorizar determinadas aplicações decorre justamente da necessidade de garantir “segurança, supervisão humana, transparência e adequação às atividades da administração pública, considerando o nível de maturidade e os riscos envolvidos em cada solução.”

Decisão nas mãos dos agentes públicos

A coordenadora da proposta, Mônica Leal, afirma que, independentemente da presença de IA, a responsabilidade pelas decisões permanece com os agentes públicos, que deverão utilizar as ferramentas de acordo com os critérios definidos na legislação.

“Os mecanismos específicos de governança, controle e fiscalização serão detalhados na regulamentação complementar, atualmente em elaboração pelo Executivo Municipal, observando também a legislação vigente sobre proteção de dados e o controle exercido pelos órgãos competentes e pela sociedade”, explica.

Fonte: Correio do Povo