UFMG propõe transparência e uso ético da IA nas atividades acadêmicas

03/05/2024 - 09h06

Primeiras orientações foram apresentadas nesta sexta-feira em evento on-line; reflexão será levada aos conselhos superiores e convertida em política institucional

A transparência e o uso responsável e ético de ferramentas de Inteligência Artificial nas atividades de ensino, pesquisa e extensão, e no âmbito da administração da UFMG, foram o mote das recomendações da comissão instituída na Universidade com o intuito de formular propostas para disciplinar o uso dessas tecnologias nas atividades acadêmicas.

O relatório das primeiras discussões da comissão foi apresentado a gestores da UFMG nesta sexta-feira, 3 de maio, na sala de sessões da Reitoria, com transmissão aberta ao público pelo canal da Coordenadoria de Ações Comunitárias (CAC) no Youtube.

“Entendemos que a mera criação de restrições para o uso de IA não é um caminho produtivo. Dizer que não vamos usá-la e impedir os alunos de fazer isso é pouco realista e não aproveita as oportunidades. Temos que criar um caminho para discutir o contexto acadêmico e seu atravessamento por essas tecnologias”, resumiu o professor do Departamento de Ciência da Computação Virgílio Almeida, presidente da comissão, que apresentou algumas das recomendações do grupo para o uso da IA Universidade.

Durante a apresentação, a reitora Sandra Regina Goulart Almeida enfatizou o pioneirismo da UFMG entre as universidades brasileiras ao propor tal discussão institucional, considerando-a um processo dinâmico, cuja evolução deve ser acompanhada para o estabelecimento de uma governança. “Nossa intenção é apresentar essa reflexão inicial ao Cepe [Conselho de Ensino, Pesquisa e Extensão], ouvir a comunidade e, a partir disso, construir uma resolução com a política de uso da inteligência artificial para a Universidade. Em última instância, nós encaminharemos essa proposta ao Conselho Universitário”, afirmou.

Recomendações

No âmbito do ensino, a comissão recomenda que os programas de disciplinas de graduação e pós-graduação sejam claros em informar o que é autorizado e o que não é permitido, estabelecendo regras para o uso e a incorporação de IA nos trabalhos acadêmicos. Além disso, a proposta é incentivar discussões nas salas de aulas sobre o emprego dessas tecnologias nos cursos, com reflexões sobre pontos positivos e negativos, e divulgar aspectos controversos, como questões relacionadas à preservação dos direitos autorais, verificação de viés discriminatório dos algoritmos, privacidade, exclusão digital e desinformação.

Na área da pesquisa, foi enfatizada a necessidade de transparência, com explicações detalhadas sobre o uso da IA – como a identificação em artigos e relatórios técnicos das etapas realizadas com auxílio dessas tecnologias, além da avaliação cuidadosa de resultados produzidos por tais ferramentas, de modo a evitar conclusões falsas ou enganosas. O debate em publicações internas da UFMG sobre a necessidade de critérios mais claros e coletivos do uso de IA na pesquisa também é outra instrução dada pela comissão. “A capacidade de gerar dados, de sumarizar resultados, é muito atrativa. Ganha-se tempo, o trabalho diminui. Mas quais são os impactos disso?”, questionou Almeida.

Nas atividades extensão, por exemplo, recomenda-se avaliar riscos sociais como disseminação de preconceitos, desinformação e aumento das desigualdades, bem como estimular o debate social sobre potencialidades e limites do uso de IA, com o lançamento de editais de projetos de extensão voltados para a temática, priorizando atividades envolvendo escolas públicas e cursos on-line de letramento e capacitação voltados para a comunidade externa.

No âmbito da administração da Universidade, a comissão sugere o uso de ferramentas de IA de acordo com as normas de proteção de dados, mantendo o público informado sobre as etapas de processos administrativos realizados com esses recursos. Outras recomendações são a supervisão humana em atividades realizadas com auxílio de IA e que sejam evitados modelos que não dão acesso a seus mecanismos de funcionamento e aos métodos usados para chegar aos resultados. “Muitas vezes, o processo de tomada de decisões humano é substituído pelo uso de algoritmos, mas é importante ter controle sobre isso”, alertou Almeida.

A comissão que formulou as recomendações iniciais para o uso da IA na UFMG também teve a participação dos professores Antônio de Pádua, da Escola de Engenharia, Marco Antônio Sousa Alves, da Faculdade de Direito e Ricardo Fabrino, do Departamento de Ciência Política da Fafich, e das professoras Adriana Pagano, da Faculdade de Letras, Geane Alzamora, do Departamento de Comunicação da Fafich, e Zilma Reis, da Faculdade de Medicina.

Assista à apresentação: