Inteligência artificial e direitos fundamentais: revolução ou risco? Por Marcela Bocayuva

… Os direitos fundamentais têm ganhado destaque à medida que a sociedade se torna mais consciente das implicações éticas e sociais das novas tecnologias. Com a expansão da Inteligência Artificial, IA, surgem questões sobre privacidade, discriminação algorítmica e transparência nos processos de tomada de decisão automatizados…

PUBLICADO ORIGINALMENTE NO CONSULTOR JURÍDICO,
CONJUR, EDIÇÃO DE 12 DE AGOSTO DE 2024

Ao se analisar o contexto geopolítico mundial, denota-se que, ao longo dos anos, ocorreram diversas oscilações decorrentes do modo como a sociedade compreende o mundo e desenvolve seus mecanismos de efetivação dos direitos fundamentais, especialmente com a progressão das revoluções industriais e, concomitantemente, do processo de globalização.

A Quarta Revolução Industrial, marcada pela ascensão da Indústria 4.0, trouxe inovações tecnológicas que transformaram profundamente o ambiente corporativo e social. A inteligência artificial (IA) emergiu como um dos pilares dessa nova era, alterando radicalmente os mecanismos de gestão e produção nas empresas, assim como influenciando diretamente os direitos fundamentais dos cidadãos.

O avanço tecnológico, contudo, vem acompanhado de um debate sobre o impacto da IA nos direitos fundamentais, incluindo o acesso à justiça, a dignidade humana e a igualdade de oportunidades.

Os direitos fundamentais têm ganhado destaque à medida que a sociedade se torna mais consciente das implicações éticas e sociais das novas tecnologias. Com a expansão da IA, surgem questões sobre privacidade, discriminação algorítmica e transparência nos processos de tomada de decisão automatizados.

A aplicação criteriosa da IA pode promover esses direitos ao garantir eficiência e acessibilidade, mas seu uso irresponsável pode exacerbar desigualdades e comprometer liberdades individuais.

Em atenção a esse fenômeno, tais inovações se tornaram as principais impulsionadoras da produtividade, do crescimento econômico, da geração de empregos, entre outros. Não obstante, a sociedade contemporânea passou a postular pautas cada vez mais voltadas para o desenvolvimento sustentável em todos os segmentos, especialmente, o da economia.

Paralelamente à expansão da tecnologia nos setores econômicos e produtivos, portanto, foi levantada a necessidade de atenção quanto às questões de ordem ambiental e social, o que, por sua vez, culminou na necessidade de mudança na abordagem do ambiente corporativo.

Tornou-se, então, indispensável a implementação de regras padronizadas de sustentabilidade no âmbito das empresas, no sentido de progressivamente se estabelecer padrões de consumo e de produção que se demonstrassem sensíveis às questões climáticas, à biodiversidade e aos anseios por direitos sociais, dentre eles a justiça social.

Diretrizes e boas práticas

A Organização para Cooperação e Desenvolvimento Econômico (OCDE), por sua vez, foi responsável por estabelecer diretrizes acerca do desenvolvimento da inteligência artificial (IA), ao todo são 42 países signatários do documento e o Brasil é um deles. Já no Brasil, a Associação Brasileira de Normas Técnicas (ABNT) foi responsável pela publicação da norma técnica ABNT ISO/IEC TR 24027:2024 além da norma mundial ISSO/IEC 42001:2023, que são fundamentais para orientar as empresas na implementação responsável da IA.

A inteligência artificial pode emergir como uma ferramenta essencial para a concretização de direitos fundamentais garantidos pela Constituição, contribuindo para a efetivação de princípios como a dignidade da pessoa humana, o acesso à justiça e a igualdade de oportunidades.

Em um contexto em que a adoção de uma gestão sustentável e responsável se tornou um imperativo global, a integração da IA nos processos judiciais e administrativos reforça o compromisso com a eficiência, transparência e acessibilidade, pilares fundamentais para uma sociedade mais justa e equitativa.

Por certo, a evolução tecnológica e a globalização dos mercados impõem novos desafios à indústria brasileira, destacando-se a necessidade imperativa de alinhar as práticas e padrões internos aos benchmarks internacionais, que apontam para uma versão de mercado mais dedicada à sustentabilidade.

O uso da IA, se utilizada com a devida prudência pode potencializar boas práticas difundidas. Isso porque a IA dispõe de diversos recursos inovadores capazes de contribuir para a promoção da sustentabilidade em uma organização.

A IA oferece uma gama de ferramentas destinadas a coletar, armazenar, analisar e processar um expressivo fluxo de dados, filtrá-los e categorizá-los conforme os padrões e algoritmos encontrados, de forma mais precisa, por meio de mecanismos como o machine learning e o data science.

Desafios e debate

Dado o contexto de integração de valores fundamentais na IA e a importância de proteção dos direitos fundamentais, especialmente em relação às minorias, é essencial abordar os desafios éticos e jurídicos que surgem com o avanço dessa tecnologia.

… surge a questão: no uso da IA, de quem é o direito e a responsabilidade civil pelas decisões, violações, criações automatizadas? Essa indagação levanta preocupações éticas e jurídicas significativas que precisam ser profundamente analisadas…

A filosofia por trás da IA deve se concentrar em evitar a criação de algoritmos que perpetuem preconceitos, seja por raça, gênero, idade, religião, orientação sexual ou deficiências.

Diante desse cenário, surge a questão: no uso da IA, de quem é o direito e a responsabilidade civil pelas decisões, violações, criações automatizadas? Essa indagação levanta preocupações éticas e jurídicas significativas que precisam ser profundamente analisadas.

Um exemplo pertinente para o debate sobre a proteção e responsabilidade jurídica no contexto da IA é o caso Allen v. Cooper (disponível em: Suprema Corte dos EUA). Embora o caso tenha tratado de direitos autorais, envolvendo Frederick Allen que processou o estado da Carolina do Norte pelo uso não autorizado de seu material, ele desencadeou discussões importantes sobre a proteção de criações artísticas por IA.

A Suprema Corte decidiu que o Estado estava protegido pela imunidade soberana da 11ª Emenda, destacando a necessidade de explorar como essas proteções se aplicam no contexto da criação de conteúdo por IA. Esse caso serve como ponto de partida para um diálogo mais amplo sobre propriedade intelectual na era da IA.

Conclusão

Considerando a inovação social e tecnológica representada pela IA, é crucial reconhecer os riscos e desafios que seu uso impõe, como a responsabilização e os potenciais efeitos discriminatórios e irresponsáveis de seu uso. Ao passo que as vantagens da IA são numerosas, é imperativo que as inovações sejam implementadas de forma a respeitar os direitos fundamentais.

O equilíbrio entre avanço tecnológico e proteção dos direitos humanos é vital para garantir que a IA atue em benefício da sociedade, sem comprometer os princípios de justiça e democracia.

______________________

Marcela Bocayuva – é advogada, mestre em Direito Público pelo Centro Universitário de Brasília (UniCeub), especialista pela Fundação Escola Nacional do Ministério Público do Distrito Federal e Territórios (FESMPDFT), certificada em Liderança e Negociação pela Universidade de Harvard, especialista em Direito e Economia pela Universidade de Chicago (Uchicago), estudante visitante na New York University (NYU) e coordenadora da Escola Nacional da Magistratura (ENM).