Projeto de Lei nº 2.829/2024

Institui marco regulatório para o uso de ferramentas digitais de Inteligência Artificial no âmbito das escolas públicas do Estado de Minas Gerais e dá outras providências.

A Assembleia Legislativa do Estado de Minas Gerais decreta:

Art. 1º – A presente lei estabelece o marco regulatório para o uso de ferramentas digitais de Inteligência Artificial no âmbito das escolas das redes públicas do Estado de Minas Gerais.

Parágrafo único – O marco regulatório de que cuida o caput poderá ser aplicado nas escolas da rede privada e nas escolas das redes públicas dos municípios do Estado de Minas Gerais.

Art. 2º – Para fins da presente lei, consideram-se ferramentas digitais de inteligência artificiais:

I – aquelas que são oferecidas por qualquer mídia digital que possibilite interação humana, e que se caracteriza pela geração de conteúdo, escrito ou não, automaticamente em resposta às suas solicitações e que não realize apenas curadoria de conteúdos, e;

II – aquelas que, considerando o que vai disposto no inciso anterior, sejam capazes de se aproveitar de conteúdos existentes em ambiente digital e a partir desses, produzir novos conteúdos;

§ 1º – O conteúdo de que cuidam os incisos do presente artigo podem ser entregues pelos mecanismos de inteligência artificial em todos os formatos e símbolos de representação do pensamento humano, especialmente:

I – os relacionados à escrita;

II – aos números;

III – às imagens, quer sejam desenhadas, fotografadas animadas ou exibidas em formato de filmes e vídeos;

IV – à música;

V – os códigos de software;

VI – os símbolos de caráter lúdico e místico.

VII – outros símbolos, relacionados ou não com os descritos nos incisos anteriores.

§ 2º – Os mecanismos de inteligência artificial de que cuida a presente lei são capazes de se treinar usando dados coletados da rede mundial de computadores, mesmo que esses dados provenham de redes sociais, analisando estatisticamente as distribuições de palavras, pixels ou quaisquer outros elementos nos dados coletados, identificando e repetindo padrões comuns na geração dos conteúdos que entrega quando há solicitação humana.

Art. 3º – A presente lei reconhece a necessidade de atitude crítica, quer os estudantes, quer dos professores, com os resultados fornecidos pelos mecanismos de inteligência artificial nas relações acadêmicas havidas nas escolas públicas.

Art. 4º – São diretrizes básicas para o uso da inteligência artificial nas escolas públicas estaduais:

I – observação dos princípios da transparência, equidade, inclusão, responsabilidade e ética.

II – o uso de mecanismos de inteligência artificial desenvolvidos levando em consideração a diversidade cultural, étnica, social e cognitiva dos estudantes.

III – o reconhecimento de que a inteligência artificial não é substituta da inteligência humana e que é mecanismo de complementação dos instrumentos de estudo e de construção do conhecimento, visando o auxílio do processo educativo.

Art. 5º – Esta lei possui o objetivo de alertar e regulamentar o uso de tecnologias de inteligência artificial – IA – nas instituições educacionais, com intuito de promover avanços na identificação e combate de algoritmos que apresentem vieses racistas e discriminatórios, de forma a garantir um ambiente educacional inclusivo, acolhedor e igualitário para todos os estudantes.

Art. 6º – Todas as instituições educacionais públicas que utilizarem tecnologias de Inteligência Artificial em seus processos pedagógicos de ensino, administrativos ou avaliativos deverão adotar medidas preventivas para identificar e mitigar a presença de vieses raciais discriminatórios nos algoritmos.

Art. 7º – Fica estabelecida a obrigatoriedade de fiscalizações periódicas nos algoritmos utilizados para verificar a existência de padrões discriminatórios baseados em raça, etnia, cor ou origem.

Art. 8º – Caso sejam identificados vieses racistas em algum algoritmo de Inteligência Artificial utilizado pelas instituições, estas deverão, imediatamente:

I – suspender o uso do referido algoritmo até que sejam implementadas as correções necessárias;

II – notificar os órgãos competentes e as partes envolvidas, explicando o impacto potencial do viés racista e as medidas adotadas para solucioná-lo;

III – oferecer suporte e compensação adequados aos estudantes que possam ter sido prejudicados pelo uso discriminatório do algoritmo.

Parágrafo único – No caso do inciso I, as instituições de ensino deverão notificar os responsáveis pela Inteligência Artificial para que sejam tomadas medidas de correção.

Art. 9º – As instituições de ensino deverão promover a capacitação contínua de seus profissionais, incluindo professores e administradores, sobre os riscos e desafios éticos associados ao uso da inteligência artificial, com ênfase na prevenção de discriminações raciais.

Art. 10 – As escolas públicas deverão adotar medidas de segurança adequadas para proteger os dados dos estudantes e garantir sua privacidade no contexto da utilização de sistemas de inteligência artificial, além de zelar para que o tratamento dos dados coletados pelos sistemas de inteligência artificial seja realizado em conformidade com a legislação vigente sobre tal uso.

Art. 11 – O uso da inteligência artificial nas escolas públicas do Estado de Minas Gerais deve estar fundado no reconhecimento de que seus mecanismos deve estar centrado no reconhecimento de que o ser humano é o centro de sua existência, de modo que seja instrumento que melhore suas capacidades, especialmente visando o desenvolvimento sustentável, e a colaboração eficaz entre humanos e tecnologia, de modo que os princípios constitucionais relacionados à educação sejam plenamente atingidos e preservados.

Parágrafo único – O Poder Público deverá garantir acesso equitativo dos aos mecanismos de inteligência artificial quando definir a importância desse mecanismo para o processo educativo.

Art. 12 – O Poder Executivo regulamentará esta lei no prazo de 90 dias, a contar da data de sua publicação.

Art. 13 – Esta lei entra em vigor na data de sua publicação.

Sala das Reuniões, 5 de setembro de 2024.

Macaé Evaristo (PT), líder da Bancada Feminina, responsável da Frente Parlamentar em defesa das Escolas Públicas, vice-presidenta da Comissão de Ética e Decoro Parlamentar e vice-presidenta da Comissão de Educação, Ciência e Tecnologia.

Justificação: O poder legislativo não pode ignorar o evidente avanço tecnológico que tem ocorrido nas últimas décadas, ainda mais considerando os seus desdobramentos e as evidentes transformações na sociedade. Nesse sentido, destaca-se que um dos campos mais em evidência nesse cenário é o da Inteligência Artificial – IA. A adoção de IA tem crescido em diferentes setores por sua capacidade de otimizar processos, mas sua utilização deve ser regulamentada para que o uso de tecnologias não se torne algo prejudicial para o bom desenvolvimento da sociedade. No setor educacional, em que pese reconhecermos que o uso de IA pode contribuir para geração de melhorias no ensino e na aprendizagem, é imprescindível atenção para que a Inteligência Artificial não seja utilizada de forma substitutiva dos nossos conhecimentos. As escolas são espaços importantes para preservação e valorização do conhecimento e costumes humanos.

Além disso, quando se pensa em utilização de inteligência artificial na Educação Pública não se pode ignorar que está constatada a possibilidade de incorporação de vieses discriminatórios raciais em tecnologias e instituições do campo da inteligência artificial, isso devido a casos notórios, literatura científica e atividades da sociedade civil sobre o tema. Sendo assim, a regulamentação de utilização de inteligência artificial nas Escolas Públicas do Estado de Minas Gerais não pode perder de vista a forma como as diferentes realidades sociais serão atravessadas por ela. Do contrário, reforçaremos nossas disfunções sociais que hoje discriminam as pessoas por seus pertencimentos de cor, classe e etnia de forma institucionalizada e estrutural.

A escola é um importante espaço de formação dos nossos cidadãos e é crucial que seja um espaço no qual os valores e princípios constitucionais do Brasil e de Minas Gerais sejam respeitados. Espera-se que a inteligência artificial seja utilizada para aumento da dignidade humana e do pluralismo político. O presente marco regulatório pretende, portanto, encarar a inteligência artificial como algo construído pela inteligência humana, que deve ser utilizada para o engrandecimento da humanidade e não para sua total dependência.

– Publicado, vai o projeto às Comissões de Justiça, de Educação e de Fiscalização Financeira para parecer, nos termos do art. 188, c/c o art. 102, do Regimento Interno.