No apagar das luzes, o ano de 2024 ainda trouxe uma grande novidade para o Direito Digital: a aprovação, pelo Senado Federal, do Projeto de Lei nº. 2.338/2023, que busca criar o Marco Legal da Inteligência Artificial no Brasil.

O projeto segue agora para revisão da Câmara dos Deputados, antes de retornar para apreciação final do Senado, o que só deverá acontecer ao longo do ano de 2025. Mas como chegamos até aqui?

A história da regulação da IA no Brasil não é recente, sendo o país um dos primeiros a propor projetos de lei sobre a matéria no mundo. O pontapé inicial se deu, especialmente, com o Projeto de Lei nº. 21/2020, aprovado em – injustificado – regime de urgência na Câmara dos Deputados no ano de 2021.

Feito em curto espaço de tempo e com limitada participação popular, baseava-se numa abordagem principiológica e não previa direitos ou sequer responsabilidades claras. Diante disso, o Senado Federal, após importante pressão da sociedade civil, resolveu dar um passo atrás enquanto casa revisora do processo legislativo, criando, no ano de 2022, uma Comissão de Juristas com a incumbência de produzir um novo anteprojeto, que, em maio de 2023, se tornou o Projeto de Lei nº. 2.338.

Fruto de muitas audiências públicas e participação de múltiplos setores, o P.L 2.338/2023 foi rapidamente considerado internacionalmente como um modelo de vanguarda, por conciliar, a um só tempo, uma abordagem baseada em riscos e também direitos, além de prever medidas de governança salutares para o desenvolvimento seguro de uma tecnologia com efeitos tão drásticos nos mais diferentes aspectos da vida.

No entanto, após a consideração de que o Projeto havia gerado obstáculos excessivos para a inovação, o Senado recuou novamente, criando uma segunda comissão: a CTIA, composta por 13 senadores, que deveriam calibrar o rigor das medidas de governança, além de adequar a versão original à emergência das chamadas Inteligências Artificiais Generativas, que se popularizaram no final de novembro de 2022, com o lançamento do ChatGPT.

À título de curiosidade, processo semelhante de revisão também se deu com a legislação da União Europeia, o chamado AI Act, que precisou se adequar a essa nova realidade tecnológica, que popularizou o tema da IA no mundo.

Em meio a um cenário de grande polarização e discussões fervorosas, no início de dezembro a CTIA aprovou o relatório do Senador Eduardo Gomes, após mais de um ano de trabalho, sucessivas prorrogações e atualizações do texto, que hoje acumula sensíveis diferenças em relação ao trabalho original da Comissão de Juristas, embora preservando seu espírito de centralidade do ser humano.

O que diz o novo projeto

A versão aprovada – e que agora segue para revisão da Câmara dos Deputados – é fruto de debate maduro ocorrido ao longo do último ano, com participação de múltiplos atores e atrizes interessados, seja em audiências públicas e contribuições escritas, seja em muitas reuniões com parlamentares e com o governo, que assumiu importante protagonismo nas negociações.

Como importantes avanços, destaca-se a consolidação de um modelo baseado em direitos e riscos, com a proibição de tecnologias e práticas nocivas, como os sistemas de armas autônomas e de score social (social scoring).

Além disso, o Projeto assegura a responsabilidade civil de desenvolvedores, distribuidores e aplicadores em caso de danos causados por sistemas de IA, revelando a preocupação central do legislador em desenvolver uma tecnologia segura para a população.

O Projeto ainda conta com um modelo de fomento à inovação, a partir de uma proposta de regulação com abordagem multissetorial, capaz de acomodar as peculiaridades próprias de cada área, diante de uma tecnologia com efeitos tão transversais e mutáveis.

Estimula, também, a associação em torno de códigos de boas práticas e entidades certificadoras, que terão papel central na definição de parâmetros técnicos para a indústria. Ao mesmo tempo, revela-se preocupado com grupos vulneráveis e problemas estruturais decorrentes da IA, como a discriminação algorítmica, a integridade da informação e a perda de empregos devido à automação.

Por fim, o projeto acena para o potencial da indústria brasileira, estimulando a instalação de data centers no país, sem se descuidar da matriz energética verde e sustentável que posiciona o Brasil como uma das principais lideranças nas discussões sobre mudança climática no mundo.

Há um grande avanço, também, na proteção dos direitos de autor, que frequentemente são violados por desenvolvedores de IA que treinam seus sistemas – e com eles lucram – sem a devida autorização e remuneração aos criadores de conteúdos e obras protegidas.

Apesar do grande ceticismo em relação à manutenção deste ponto no texto final aprovado pelo Senado, a intensa participação da classe artística acabou sendo decisiva. No entanto, a questão segue como um dos temas mais controversos e que deverá gerar novos desdobramentos e enfrentamentos na Câmara dos Deputados.

E agora, o que falta?

O texto ainda deve – e merece – passar por fina calibragem, especificamente para adequação de questões técnicas conceituais, além da correta definição dos papéis dos atores envolvidos no ciclo de vida da IA.

No mesmo sentido, precisa afastar cláusulas abertas que limitam o importante avanço consagrado pelo capítulo de direitos – que ainda merece ampliação –, assim como cuidar para que não haja desidratação dos poderes e competências do sistema de regulação e governança, o chamado SIA.

Necessita, ainda, endereçar mais diretamente o problema das deep fakes, além da coleta indiscriminada de conteúdo online (scraping), em violação a direitos da personalidade como a imagem e a voz.

Como questão vital, é necessário que o projeto amplie o direito à revisão humana das decisões automatizadas, que hoje é uma lacuna na Lei Geral de Proteção de Dados.

A ausência de tal direito, especialmente em relações de trabalho e consumo, agrava situações de vulnerabilidade, a exemplo dos casos de demissão automatizada de trabalhadores e de dificuldade no acesso ao crédito por parte de consumidores.

Qual a previsão para o ano que vem? O texto será aprovado?

Não parece haver dúvidas de que o texto será aprovado e consistirá em importante marco para a afirmação da soberania tecnológica brasileira em matéria de Inteligência Artificial, posicionando o Brasil como um exemplo a ser seguido internacionalmente, a partir de uma inédita abordagem baseada em direitos.

Por certo, alguns ajustes ainda precisam ser feitos, acomodando interesses técnicos do setor produtivo, sem que isso represente o sacrifício de direitos fundamentais. Afinal, se não se sabe aonde a tecnologia pode chegar, é preciso, pelo menos, ter direitos para navegar nesse mar de incertezas.

Mas, enquanto isso não acontece, só nos resta aproveitar o Natal, ao som da canção “Noche Buena y Navidad”, lançada no final deste ano pela cantora Brenda Lee, que autorizou que uma ferramenta de Inteligência Artificial do Soundlabs em parceria com a Universal Music traduzisse seus vocais para a língua espanhola na clássica canção natalina “Rockin' Around The Christmas Tree”.

O grau de fidedignidade é tanto, que um desavisado poderá facilmente achar que se trata de uma música gravada agora. Esse é apenas um dos muitos exemplos de que a IA veio para ficar e tende a evoluir a cada dia mais. Só nos resta saber como regular para evitar que os inúmeros ganhos não sejam ofuscados pelos inevitáveis riscos.