A regulamentação da inteligência artificial tornou-se uma prioridade global diante do seu impacto transformador em setores estratégicos, como saúde, segurança e justiça. Diante desse quadro, a existência de uma legislação eficaz é essencial para garantir que o desenvolvimento e a aplicação dessa tecnologia respeite direitos fundamentais, como a privacidade, ao mesmo tempo em que promovem a inovação responsável. No entanto, sem diretrizes claras, os riscos associados à inteligência artificial — como vieses algorítmicos, falta de transparência e ameaças à democracia — podem minar a confiança da sociedade.

Wikimedia Commons

No que tange a regulamentação, a União Europeia foi pioneira ao legislar acerca da inteligência artificial. Tal faceta se deu por meio do Regulamento (UE) 2024/1689, também conhecido como Artificial Intelligence Act (AI Act), que define regras harmônicas no âmbito da inteligência artificial [1].

Além de refletir o compromisso em equilibrar inovação com proteção aos direitos fundamentais, o dispositivo normativo europeu estabelece um panorama abrangente para o desenvolvimento e uso responsável dessa tecnologia digital [2].

Ademais, o Regulamento (UE) 2024/1689 visa fomentar o investimento e inovação voltada à inteligência artificial nos diferentes setores da Europa, criando condições propícias para o estabelecimento de um mercado unificado [3].

Outro marco é a Convenção-Quadro do Conselho da Europa sobre Inteligência Artificial e Direitos Humanos, Democracia e Estado de Direito (Cets nº 225), assinada em 2024 por Andorra, Geórgia, Islândia, Noruega, República da Moldávia, San Marino, Reino Unido, bem como Israel, Estados Unidos da América e União Europeia. Este documento representa o primeiro acordo internacional com força legal que busca assegurar que a aplicação de sistemas de inteligência artificial esteja plenamente alinhada com a proteção dos direitos humanos, princípios democráticos e o respeito ao Estado de Direito [4].

A Itália, por conseguinte, mostra-se como um país ativo positivamente diante das inovações tecnológicas. Isso porque nos últimos anos o governo italiano tem implementado uma série de iniciativas para regular o uso de inteligência artificial em seu território.

Em fevereiro de 2019, por exemplo,  foi lançado o Manifesto for AI in Italy, que define princípios e orientações para o desenvolvimento responsável da IA no país. Ademais, no mesmo ano, o governo italiano publicou a AI Strategy for Italy, que consiste em uma estratégia nacional que promove inovação, ética e transparência no uso dessa tecnologia. Em março de 2021, a Carta italiana para a inteligência artificial foi elaborada. Esse documento reforçou diretrizes como transparência, responsabilidade e respeito aos direitos humanos no emprego da IA [5].

Já em 2024, o governo italiano aprovou o Projeto de Lei nº 1.146/2024 (2024), que regulamenta nacionalmente a aplicação da IA.  Tal projeto legislativo, apresentado ao Parlamento, representa um marco na regulamentação da inteligência artificial no país, alinhando-se com as diretrizes da União Europeia, em particular com o AI Act.  Um dos objetivos do Projeto de Lei é assegurar a definição e classificação de sistemas de IA internamente. Nesse sentido, a proposta de lei visa estabelecer um quadro normativo abrangente para garantir o desenvolvimento e uso ético, seguro e responsável da IA no país. O texto da lei estabelece, portanto, critérios claros para identificar sistemas de IA, seguindo a abordagem baseada em risco (como está disposto no AI Act da UE), categorizando aplicações em proibidas, de alto risco, limitadas e mínimas [6].

Spacca

Embora o Projeto de Lei  nº 1.146/2024 não tenha sido promulgado até a presente data, a proposta demonstra que a Itália posicionou-se ativamente como Estado-Membro da UE, seguindo as diretrizes do AI Act ao propor um regime legal para o uso da IA nos diversos setores do país, visto que reflete a preocupação da Itália em equilibrar inovação tecnológica e proteção de direito [7].

Tais elementos normativos destacados são reflexo do uso crescente de inteligência artificial, uma vez que é necessário regular a tecnologia apresentada. Esse crescimento é impulsionado por uma combinação de fatores, incluindo investimentos estratégicos direcionados aos avanços tecnológicos. Apesar do avanço exponencial nos recursos tecnológicos e na utilização de inteligência artificial, é necessário zelar pela segurança da informação, uma vez que a inteligência artificial pode apresentar determinados riscos.

Alto risco

Um dos setores que apresenta riscos derivados desse meio tecnológico é o sistema de justiça, conforme Anexo III do Regulamento (UE) 2024/1689. Isso porque a inteligência artificial, no âmbito do Judiciário, pode ser destinada ao uso em nome de uma autoridade para auxiliar na pesquisa ou na interpretação de fatos e direito, na aplicação da lei a casos concretos, ou ainda em meios alternativos de resolução de litígios, em que os resultados produzem efeitos jurídicos para as partes e perante terceiros.

Sob o âmbito geral europeu, o Regulamento (UE) 2024/1689 considera que sistemas de inteligência artificial utilizados na administração da justiça são expressamente classificados como de “alto risco”. A razão para essa classificação deriva da necessidade de enfrentar perigos potenciais como distorções, erros e opacidade de algoritmos que podem ter um impacto significativo na democracia, no Estado de Direito, nas liberdades individuais e no direito processual [8].

Para além das diretrizes do AI Act, a Carta Ética Europeia sobre o Uso de Inteligência Artificial (IA) em Sistemas Judiciários e seu Ambiente (2018), elaborada pela Comissão Europeia para a Eficiência da Justiça (Cepej), estabelece princípios éticos e orientações para garantir que a aplicação da IA no sistema judicial respeite os direitos fundamentais e os valores democráticos. Dentre eles, os seguintes preceitos ganham destaque: respeito aos direitos fundamentais, princípio da não discriminação, princípio da qualidade e segurança, princípio da transparência, imparcialidade e justiça e princípio do dontrole humano [9].

De modo análogo, o Projeto de Lei nº 1.146/2024 aborda princípios similares aos estabelecidos previamente pelos marcos supracitados, bem como especifica a aplicação da IA no setor de justiça italiano, como exposto. Nesse viés, dentro desse marco regulatório, os artigos 14 e 15 tratam especificamente da aplicação da IA no sistema judiciário, definindo limites e competências.

O Artigo 14 determina que os sistemas de IA podem ser utilizados apenas para fins de organização e simplificação do trabalho judicial, como auxílio na pesquisa de jurisprudência e doutrina. Contudo, ressalta que a interpretação da lei, a análise de fatos e provas, bem como a tomada de decisões judiciais, devem permanecer exclusivamente sob responsabilidade do juiz humano. O artigo 15, por sua vez, estabelece que os tribunais cíveis ordinários terão competência exclusiva para julgar questões relacionadas ao funcionamento de sistemas de IA, centralizando a resolução de disputas nessa área [10].

Considerações finais

Em síntese, os marcos regulatórios analisados compartilham um objetivo fundamental: estabelecer um controle efetivo sobre a utilização da inteligência artificial, sobretudo no setor de justiça. Embora reconheçam os avanços significativos em termos de eficiência e celeridade processual proporcionados por esta tecnologia, destacam a imperiosa necessidade de garantir que sua implementação ocorra dentro de parâmetros rigorosos, prioritariamente orientados para a proteção dos direitos fundamentais e da segurança jurídica dos cidadãos.

Conclui-se que a regulamentação da inteligência artificial representa um desafio complexo, mas indispensável, para garantir que seu desenvolvimento e aplicação ocorram de forma ética, segura e alinhada aos direitos fundamentais. Por fim,  tais normas evidenciam que as leis tendem a evoluir em paralelo ao desenvolvimento tecnológico.

[1] EUROPEAN EUROPEAN UNION. EUR-Lex. Disponível aqui.

[2] EUROPEAN COMMISION. Shaping Europe’s digital future. Disponível aqui.

[3] CONSIGLIO EUROPEOCONSIGLIO DELL’UNIONE EUROPEA. Regolamento sull’intelligenza artificiale..

[4] COUNCIL OF EUROPE. Council of Europe opens first ever global treaty on AI for signature. Disponível aqui.

[5] CARINI, Lucas. Artificial Intelligence and the Judiciary: Analysis of regulatory policies in Brazil and Italy. LUMEN ET VIRTUS, [S. l.], v. 15, n. 38, p. 760–782, 2024. DOI: aqui.

[6] DIRRITO IT. Disegno di legge n. 1146/2024: regolamentazione italiana dell’intelligenza artificiale. Disponível aqui.

[7] COOPER, Dan; SOMAINI, Laura. Italy Proposes New Artificial Intelligence Law. Disponível aqui.

[8] INTURRI, Paolo; FICHERA, Sergio; COSTA, Antonio. La disciplina dei sistemi di intelligenza artificiale per l’amministrazione della giustizia nel Regolamento (UE) 2024/1689. LavoroDirittiEuropa: Rivista nuova di Diritto del Lavoro, n. 1, p. 1-9, 2025.

[9] European Commission for the Efficiency of Justice (CEPEJ). CEPEJ European Ethical Charter on the use of artificial intelligence (AI) in judicial systems and their environment.

[10] UNIVERSITA Pompeu Fabra. Artificial Intelligence, Judicial Decision-Making and Fundamental Rights. JuLIA Handbook, p. 1-206, 2024.