Os cuidados com a IA. Por Arnaldo Niskier
… não podemos deixar a inteligência artificial completamente solta. É preciso ter certos cuidados com ela, ou seja, regular abusos indesejáveis…
É claro que não podemos deixar a inteligência artificial completamente solta. É preciso ter certos cuidados com ela, ou seja, regular abusos indesejáveis. Isso é claro, sem tolher a sua necessária expansão.
Depois de passar pelo Senado da República, está sendo avaliada na Câmara dos Deputados. Serão tratados com muito cuidado a concessão de serviços, a seleção de estudantes e o recrutamento de trabalhadores. Tudo isso será precedido de testes de avaliação. A responsabilidade de regular IAs de alto risco será de um novo organismo do Governo, o Sistema Nacional de Regulação e Governança da Inteligência Artificial (SIA).
Cerca de 50% dos brasileiros se declararam favoráveis à regulamentação da IA seguindo padrões de outras nações latino-americanas, como a Argentina e o México.
Há um dado curioso nessa história toda: a IA é um braço da computação que desenvolve programas capazes de simular e automatizar ações baseadas na inteligência humana. Ferramentas fazem análise de crédito em aplicativos de bancos. O interessante é que muitos fazem uso dessa tecnologia sem mesmo perceber. O principal cuidado é evitar que ocorram plágios indesejáveis.
Pesquisadores do Rio Grande do Sul identificaram critérios para definir meios e modos de estabelecer formas de saber como distribuir Bolsas de Produtividade em Pesquisa, com o apoio da IA. O sistema conta com 15 mil participantes, destacando-se a área de Engenharia Química. Procura-se identificar o impacto acadêmico da contribuição do candidato de forma ampla, considerando-se candidatos em projetos de inovação. A análise se faz de forma multidimensional do pesquisador, o que hoje se adota no Conselho Nacional de Pesquisas, na UFRJ e na Unicamp, o que prova que isso já se vai generalizando.
O meu amigo Jacques Marcovitch, que foi reitor da USP, costuma chamar a atenção para os riscos no uso desses algoritmos: “Algoritmos têm capacidade de ler uma grande quantidade de conteúdos, mas olham sempre para o passado, para dados acumulados ao longo do tempo.” Ele tem esse tipo de preocupação, que divide com os seus companheiros do Projeto Métricas.
_______________________________
Arnaldo Niskier – Imortal. Sétimo ocupante da Cadeira nº 18 da Academia Brasileira de Letras. Professor, escritor, filósofo, historiador e pedagogo. Licenciado em Matemática e Pedagogia pela UERJ. Professor aposentado da Universidade do Estado do Rio de Janeiro. Foi presidente da Academia Brasileira de Letras e secretário estadual de Ciência e Tecnologia e de Educação e Cultura do Rio de Janeiro. Presidente Emérito do CIEE/RJ. Honoris Causa da Universidade Santa Úrsula.