Na sociedade contemporânea, as pessoas se conhecem e iniciam relacionamentos em interações on-line e por meio das novas tecnologias. No campo profissional, os postos de trabalho estão sofrendo alterações, com redução do número de vagas que são supridas pela inteligência artificial (IA). Com esses exemplos, o professor emérito da UFMG Virgílio Almeida abordou as transformações causadas pela IA durante a palestra Desafios éticos e sociais da inteligência artificial na ciência, que abriu os trabalhos do seminário Inteligência artificial, ética e Universidade, que ocorre hoje, no campus Pampulha.

Virgílio iniciou sua fala afirmando que as mudanças causadas pela implementação de tecnologias digitais e IA devem seguir regras de governança digital. Para o professor, tais regras são destinadas a impedir os efeitos negativos dessas mudanças. Almeida citou a “civilização Star Wars”, conceito criado pelo pesquisador Edward Wilson em 2011: segundo Wilson, essa civilização se refere a uma sociedade que tem “emoções da idade da pedra, instituições medievais e tecnologias dos deuses”.

Foto: Jebs Lima | UFMG

O conceito ‘civilização Star Wars’ de Wilson está adequado à sociedade que vivemos hoje, pois este é um tempo de inúmeras incertezas. O avanço tecnológico gera muitas possibilidades positivas, mas aprofunda desigualdades e cria riscos à democracia. Assim, os avanços tecnológicos e de IA demandam responsabilidade política e ética”, disse.

Essa responsabilidade, acrescentou o professor, deve ser debatida pelas universidades, que têm a responsabilidade de pensar estratégias para enfrentar as quatro principais consequências negativas das mudanças tecnológicas: o avanço das máquinas pode levar à eliminação de postos de trabalho, os algoritmos ampliam vieses já existentes, aumenta a capacidade de vigilantismo por parte do Estado, o que impacta a privacidade, e a democracia se vê diante de mais ameaças potenciais.

“É nesse ponto que a UFMG e as universidades devem atuar. Nós queremos construir um futuro digital diferente e livre dessas consequências negativas no nosso país. Para isso, há elementos que devem ser seguidos: a ciência, a tecnologia, a educação, as políticas públicas e a governança. Por meio da atuação baseada nesses pilares, seremos capazes de minimizar os cenários negativos da IA”, completou o professor, que é vinculado ao Departamento de Ciência da Computação.

Alinhamento ético e algoritmos
Virgílio Almeida destacou que a IA e as tecnologias digitais desafiam o mundo de diversas maneiras, gerando questionamentos a respeito da regulamentação e da democratização das tecnologias. “A IA de uso geral desafia a humanidade e lança a questão: qual é o papel dos humanos e qual é o papel das máquinas? Sabemos que a IA deve se alinhar a valores humanos, morais e éticos. Se no futuro teremos uma vivência híbrida, ou seja, se as vidas humanas estarão cada vez mais entrelaçadas aos agentes artificiais, é necessário que esses estejam alinhados aos nossos valores.”

A UFMG e as outras universidades devem cumprir seu papel, segundo Almeida, por meio da educação, com a formação de pessoas, da pesquisa, da colaboração com a comunidade e da governança. A última, salientou o professor, é a capacidade de estabelecer regras que guiam “o que procuramos evitar e o que queremos. Se as decisões passam a ser tomadas por máquinas, e não mais por humanos, a IA deve ser pensada para o bem público. A governança efetiva do desenvolvimento tecnológico não opõe forças à inovação, mas cria elementos para criar uma tecnologia segura, sustentável e confiável”.

O professor acrescentou que a sociedade atual funciona por meio de sistemas algorítmicos, sistemas sociotécnicos em que as tecnologias e os atores sociais estão interligados, funcionando de acordo com as reações e percepções dos indivíduos e dos grupos. “O preço dinâmico do transporte via aplicativo, as rotas previstas pelos aplicativos de mapas, as recomendações de redes sociais, tudo isso é feito por algoritmos. A tomada de decisão por algoritmos é a base de tudo, seja na mobilidade urbana, nas relações sociais e afetivas, no acesso a políticas sociais ou nas decisões médicas”, exemplificou o professor.

Assim, Virgílio ressaltou que as universidades também precisam identificar as futuras consequências da atuação dos algoritmos, do avanço da IA e da digitalização da sociedade. “A universidade é chave porque ela tem, naturalmente, a multidisciplinaridade. Ela consegue entender os impactos políticos, sociais e econômicos dessas transformações. Além disso, o sul global tem suas especificidades, o que traz para nós a responsabilidade de realizar estudos considerando essas diferenças”, concluiu.

Desafios para a UFMG
O presidente da Comissão Permanente de Inteligência Artificial da UFMG, Ricardo Fabrino, que é professor do Departamento de Ciência Política da Faculdade de Filosofia e Ciências Humanas (Fafich), e a reitora Sandra Regina Goulart Almeida também participaram da abertura do seminário Inteligência artificial, ética e Universidade. Fabrino afirmou que a UFMG está preocupada com os impactos da IA sobre o ensino, a pesquisa, a extensão e a administração, sendo uma instituição atuante nos debates e discussões sobre o assunto.

Sandra Goulart corroborou a fala de Fabrino ao apresentar um breve apanhado histórico da atuação da UFMG no debate sobre IA. Ela explicou que se reuniu com o professor Virgílio Almeida em 2023 para discutir o assunto. A Comissão Permanente de Inteligência Artificial da UFMG foi então criada com a missão de orientar o uso da tecnologia no ensino superior, incentivando pesquisas, ações de capacitação e parcerias estratégicas, e buscando integrar a IA de forma responsável às práticas acadêmicas e administrativas da Universidade.

Foto: Jebs Lima | UFMG

“A Comissão busca estabelecer as bases de uma IA que seja sustentável e ética. Essa é a postura que temos defendido, ou seja, a nossa política de IA deve ir ao encontro dos princípios da própria Universidade. O contexto colocou a UFMG como  protagonista do debate sobre esse assunto”, enfatizou a reitora.

O evento
O seminário Inteligência artificial, ética e Universidade discute formas de integrar a tecnologia da inteligência artificial às práticas acadêmicas e administrativas da UFMG de forma responsável. O seminário desta semana é o primeiro de uma série de encontros que serão realizados no decorrer do semestre. 

Proposto pela Comissão Permanente de Inteligência Artificial da UFMG, o ciclo tem a missão de estabelecer parâmetros e orientar o uso da inteligência artificial no ensino superior, incentivando pesquisas, ações de capacitação e parcerias estratégicas. O evento de hoje é o primeiro de grande porte realizado pela comissão, que foi instituída no ano passado.

O seminário abrigará palestras sobre IA feitas por especialistas da UFMG oriundos de diferentes áreas. Elas tratarão, por exemplo, do uso da tecnologia na produção de conhecimento e, especificamente, nas pesquisas das áreas da saúde e das humanidades, assim como dos aspectos éticos e sociais relacionados ao tema, como as questões dos direitos autorais e dos gastos energéticos necessários para a produção dos resultados.

A conferência de encerramento será feita pelo diretor do Departamento de Ciência, Tecnologia e Inovação Digital (DECTI) do Ministério da Ciência, Tecnologia e Inovação (MCTI), Hugo Valadares. Doutor em engenharia elétrica e professor da graduação e da pós-graduação da Universidade Tecnológica Federal do Paraná (UTFPR), ele vai tratar do plano brasileiro de inteligência artificial. O diretor tem larga experiência em temas como previsão de séries temporais, mineração de dados e inteligência artificial aplicada a diferentes setores, incluindo energia renovável, pesquisa operacional e saúde.

Foto: Jebs Lima | UFMG

Programação da tarde de 11/9
14h – Segunda mesa
Inteligência artificial, pesquisa e cooperação internacional
Mediação: Geane Alzamora, do Departamento de Comunicação Social
Palestra: O impacto da IA sobre a pesquisa
Palestrante: Wagner Meira, do Departamento de Ciência da Computação
Palestra: IA e a pesquisa na área de saúde
Palestrante: Antônio Ribeiro, da Faculdade de Medicina
Palestra: IA e a pesquisa nas humanidades
Palestrante: Patrícia Kauark, do Departamento de Filosofia

15h30 – Intervalo para o café

16h – Terceira mesa
Inteligência artificial, ética e autoria
Mediação: Vilma Macagnan, do Departamento de Geografia
Palestra: Ética e pesquisa com inteligência artificial
Palestrante: Zilma Reis, da Faculdade de Medicina
Palestra: Questões autorais e inteligência artificial
Palestrante: Marco Antônio Alves, da Faculdade de Direito
Palestra: IA e produção de conhecimento
Palestrante: Ernesto Perini, do Departamento de Filosofia

18h – Conferência de encerramento
O plano brasileiro de inteligência artificial
Conferencista: Hugo Valadares, diretor do MCTI