O Senado Federal apresentou o Projeto de Lei n° 2338, que substitui o PL n° 2120, com o objetivo de criar um marco regulatório para a inteligência artificial (IA) no Brasil. A proposta estabelece normas gerais para o desenvolvimento, a implementação e o uso responsável de sistemas de IA, buscando proteger direitos fundamentais e assegurar operações seguras e confiáveis.

Segundo o texto, a adoção de sistemas de IA no setor público e privado é considerada urgente diante da crescente demanda por esses recursos. Paralelamente ao potencial de aperfeiçoar decisões, otimizar processos administrativos e aumentar a eficiência institucional, a tecnologia traz desafios técnicos, éticos, jurídicos e operacionais que exigem mecanismos de governança robustos.

O projeto indica a necessidade de boas práticas voltadas ao monitoramento contínuo e à mitigação de riscos durante todo o ciclo de vida dos sistemas. Entre essas práticas estão a avaliação prévia dos impactos algorítmicos, a implantação de mecanismos de auditoria e a rastreabilidade das decisões automatizadas. O texto também destaca a importância da supervisão humana em processos críticos e da transparência sobre os critérios adotados pelos modelos computacionais.

Para garantir governança adequada, o PL prevê a criação de estruturas institucionais capazes de acompanhar desde a concepção e o treinamento dos modelos até sua implementação e eventuais revisões. A proposta cita procedimentos como testes de robustez, validação periódica dos modelos, revisão das bases de dados utilizadas no treinamento e mecanismos de detecção de vieses, com o objetivo de evitar distorções, discriminações indevidas ou falhas sistêmicas.

O monitoramento contínuo também aparece como forma de identificar desvios de desempenho ao longo do tempo, fenômeno associado à chamada deriva algorítmica, que ocorre quando o comportamento do modelo muda devido a alterações no ambiente de dados ou nas condições operacionais. A identificação precoce desses desvios permitiria ações corretivas para reduzir impactos negativos e manter a confiabilidade dos sistemas.

Imagem: Divulgação

O texto do PL reforça que a governança, o monitoramento e a mitigação de riscos são elementos centrais para o uso responsável da IA. Ao estabelecer padrões de controle, transparência e responsabilização, o projeto busca permitir que organizações públicas e privadas aproveitem os benefícios da tecnologia preservando princípios como legalidade, equidade, segurança e confiança institucional.

O próprio documento ressalta a coexistência de dois aspectos essenciais: o potencial da IA para trazer ganhos em setores como indústria, educação e saúde, e os riscos associados ao desenvolvimento e uso desses sistemas, que precisam ser identificados e geridos por meio de mecanismos de governança e gestão de riscos adequados.

Com informações de Olhardigital