Nas duas próximas semanas, a UFMG realizará eventos para lançar o guia Princípios e diretrizes para o uso responsável da IA na UFMG: orientações práticas. Trata-se de um documento destinado à consulta de estudantes, professores, servidores técnicos-administrativos e terceirizados que estudam ou trabalham na Universidade. O lançamento será realizado na quinta-feira, 13, às 11h, no auditório da Reitoria, no campus Pampulha, e na segunda-feira, 17, às 9h, no auditório do Bloco C, no campus Montes Claros. O documento estará disponível para consulta no site da Comissão Permanente de IA da UFMG após o evento em Belo Horizonte.
O documento tem o objetivo central de orientar a comunidade acadêmica sobre o funcionamento e as potencialidades da Inteligência Artificial (IA), apontando os riscos, indicando os cuidados éticos necessários e sugerindo boas práticas. O texto estabelece princípios basilares para o uso dessas tecnologias na UFMG, de modo a assegurar que o avanço tecnológico ocorra de forma ética e responsável.
O professor Marco Antônio Sousa Alves, da Faculdade de Direito e integrante da Comissão Permanente de IA da Universidade, explica que o objetivo é oferecer diretrizes práticas alinhadas às orientações da Organização das Nações Unidas (ONU) e de outros organismos nacionais e internacionais. “É um guia que observa a legislação brasileira e que respeita a missão, os valores e o arcabouço normativo que regem a UFMG, em diálogo com iniciativas de outras universidades brasileiras, bem como de conselhos, associações e órgãos de controle de diferentes áreas do conhecimento”, diz.
Sousa acrescenta que o documento visa à ampliação do debate e à participação de toda a comunidade. Além do lançamento da publicação, a Comissão pretende realizar eventos sobre o tema, considerando a necessidade de revisão e atualização contínuas das diretrizes. “É importante que cada unidade da Universidade incentive a discussão sobre os impactos da IA em seus respectivos campos do conhecimento, tendo em vista as especificidades do uso dessa tecnologia em diferentes domínios. O debate, o compartilhamento de experiências e o encaminhamento de sugestões são muito bem-vindos e são fundamentais para que estejamos à altura dos desafios de nosso tempo, de modo a prevenir danos e estimular o uso mais produtivo, adequado e responsável da IA no ambiente acadêmico.”
Usos diversos
O professor Marco Antônio Sousa Alves explica que o documento foi idealizado para todos que atuam nos campi da UFMG, porque, com base em consultas realizadas com a comunidade universitária, constatou-se que a IA já afeta significativamente práticas de ensino, aprendizagem, avaliação, pesquisa e gestão acadêmica. “Cada um desses campos apresenta demandas e desafios próprios, de modo que o documento procurou contemplá-los por meio da oferta de diretrizes e orientações específicas”, conta.
No caso dos estudantes, ele afirma que, quando utilizada de forma transparente, consciente e responsável, a IA pode contribuir de diversas maneiras para sua formação. “Tecnologias de IA oferecem, por exemplo, apoio na análise de dados e permitem o desenvolvimento de métodos de ensino inovadores, podendo contribuir também para promover a inclusão por meio de novas tecnologias assistivas, entre muitas outras possibilidades.”
A IA também pode ser usada na produção de trabalhos acadêmicos, no estímulo da criatividade e no desenvolvimento do pensamento crítico. “No que diz respeito à redação de trabalhos acadêmicos, as ferramentas de IA podem ser úteis em várias tarefas técnicas e operacionais, como a estruturação de tópicos, a revisão e correção gramatical, a tradução inicial de textos em língua estrangeira, a geração de resumos, a sugestão de títulos e palavras-chave, o apoio à preparação de apresentações ou relatórios, a busca por fontes (desde que checadas e validadas), a identificação de inconsistências no texto e a recomendação de reescrita para maior clareza e coesão textual, entre muitos outros usos possíveis”, enumera Marco Antônio.
No caso dos docentes, o professor da Faculdade de Direito explica que as diretrizes do documento incentivam a promoção de discussões em sala de aula sobre o uso da IA, com reflexões sobre seus pontos positivos e negativos. O documento sugere que os professores, especialmente aqueles mais familiarizados com a tecnologia, personalizem ou modifiquem ferramentas de maneira proficiente, ajustando sistemas abertos para criar soluções relevantes, adaptadas e acessíveis a usos específicos, contribuindo para a construção de um repositório de ferramentas educacionais.
“No que diz respeito ao processo de avaliação, há experiências em curso que incorporam práticas de uso de IA, demandando, por exemplo, que discentes avaliem criticamente respostas geradas por IA ou que dialoguem com chatbots, evidenciando, por meio de seus prompts, conhecimento e apropriação de temas e conceitos trabalhados em uma disciplina. Em um ecossistema epistêmico profundamente atravessado pela Inteligência Artificial, é importante que os professores repensem suas práticas avaliativas de modo a considerar percursos e processos, não se limitando apenas aos produtos finais”, afirma o professor.
As áreas administrativas e de gestão também têm sido impactadas pela IA. Alves afirma que as ferramentas vêm sendo usadas em diversas atividades, incluindo a administração de projetos, a execução de processos de planejamento, a organização de tarefas e a estruturação de sistemas de combate a fraudes. As diretrizes do documento estimulam, por exemplo, que os gestores desenvolvam chatbots para consulta a normas institucionais ou outros assistentes virtuais, com treinamento interno, linguagem adequada, segurança de dados e respeito à privacidade, para responder a dúvidas da comunidade acadêmica, possibilitando respostas rápidas, padronizadas e baseadas em documentação continuamente atualizada.
Apesar dos usos benéficos das ferramentas de IA, Marco Antônio alerta para os riscos e os cuidados que precisam ser tomados. “Diversos riscos estão presentes, e alguns cuidados específicos são necessários, envolvendo a máxima transparência possível e a adoção de normas e protocolos estritos de proteção de dados. A introdução da IA deve também ter em vista a promoção de condições de trabalho dignas, evitando a sobrecarga e a precarização do trabalho. Toda atividade realizada com auxílio de IA deve ser devidamente supervisionada, de modo a evitar distorções, como discriminações sociais e desinformação. No caso dos estudantes, é importante destacar que, apesar dos benefícios, o uso frequente dessas ferramentas não é recomendado, tendo em vista os possíveis impactos sobre o processo criativo, a autonomia, a motivação e o risco do desenvolvimento de dependência tecnológica”, conclui.
Construção coletiva
O documento Princípios e diretrizes para o uso responsável da IA na UFMG: orientações práticas é fruto de uma construção coletiva iniciada em novembro de 2023, quando foi instituída uma comissão encarregada de formular propostas para o uso responsável da IA. Presidida pelo professor Virgílio Almeida, do Departamento de Ciência da Computação (DCC) do Instituto de Ciências Exatas (ICEx), a comissão realizou um amplo levantamento de documentos e tendências globais sobre IA em instituições de ensino e pesquisa.
Como consequência do trabalho da comissão, o Conselho de Ensino, Pesquisa e Extensão (Cepe) da UFMG aprovou, em 2024, um documento pioneiro no Brasil com recomendações sobre o uso de Inteligência Artificial nas atividades acadêmicas. No mesmo ano, a Reitoria instituiu a Comissão Permanente de Inteligência Artificial da UFMG, encarregada de formular princípios e regras para o uso das ferramentas de inteligência artificial nas atividades acadêmicas. O documento agora lançado é fruto dos trabalhos dessa Comissão.
A elaboração do guia Princípios e diretrizes para o uso responsável da IA na UFMG: orientações práticas envolveu profissionais de diferentes áreas do conhecimento da Universidade. A Comissão Permanente de IA da UFMG é presidida pelo professor Ricardo Fabrino Mendonça, do Departamento de Ciência Política (DCP) da Faculdade de Filosofia e Ciências Humanas (Fafich).
Além de Marco Antônio Sousa Alves, participam da Comissão os professores Adriana Silvina Pagano, da Faculdade de Letras (Fale), André Goes Mintz, Fábia Pereira Lima e Geane Carvalho Alzamora, do Departamento de Comunicação Social (DCS) da Fafich, Antônio de Pádua Braga, do Departamento de Engenharia Eletrônica da Escola de Engenharia, Dorgival Olavo Guedes Neto e Virgílio Almeida, do Departamento de Ciência da Computação (DCC), Patrícia Nascimento Silva, da Escola de Ciência da Informação (ECI), Vilma Lúcia Macagnan Carvalho, do Departamento de Geografia do Instituto de Geociências (IGC), e Zilma Silveira Nogueira Reis, da Faculdade de Medicina.
Entrevista / Marco Antônio Sousa Alves
Sem viés punitivista
Portal UFMG: Por que as universidades públicas precisam de diretrizes sobre o uso da inteligência artificial (IA)?
Marco Antônio Sousa Alves: Entendemos que a IA tem muito a oferecer ao ensino, à pesquisa e à gestão acadêmica, mas comporta também inúmeros riscos. Por isso, é importante desenvolver um olhar crítico e a capacidade de utilizar de maneira consciente e responsável essa nova tecnologia. A pervasividade da IA torna imperativo que instituições de diversas naturezas discutam seus impactos e potenciais em diferentes níveis. É desejável que professores, pesquisadores, estudantes, gestores e servidores técnico-administrativos tenham uma compreensão básica sobre o que é e como funciona a IA, para que sejam capazes de explorar e operar com eficiência as principais ferramentas disponíveis, consigam avaliar a adequação do uso dessas tecnologias em suas atividades e possam identificar os benefícios e os riscos envolvidos, cultivando uma mentalidade crítica e atitudes responsáveis.
Portal UFMG: Quais são os riscos e danos envolvidos no uso indiscriminado ou abusivo desse tipo de tecnologia?
Marco Antônio Sousa Alves: Uma grande preocupação diz respeito às possibilidades de plágio, de infração aos direitos autorais, de perda da autonomia dos estudantes e pesquisadores, de violações de privacidade ou de usos potencialmente discriminatórios.
Daí a importância de diretrizes que possam auxiliar nossa comunidade a utilizar essas tecnologias de maneira transparente, crítica, adequada e responsável, em conformidade com as normas acadêmicas, com as leis vigentes e com preceitos éticos, fomentando a integridade na atividade acadêmica. Em vez de uma política sancionadora, com viés punitivista, as diretrizes apresentadas objetivam orientar a comunidade acadêmica sobre o funcionamento e as potencialidades da IA, evidenciando os riscos, os cuidados necessários e as boas práticas.
Portal UFMG: Além de propor diretrizes, a formação em IA deve ser incentivada?
Marco Antônio Sousa Alves: A IA é uma realidade, e ela é amplamente utilizada não apenas pelos estudantes que ingressam no ensino superior, mas também pelos pesquisadores da pós-graduação, pelos docentes e pelos demais servidores e gestores acadêmicos. Nas universidades, a IA, especialmente a IA Generativa (IAGen) e os Agentes de IA, introduzem profundas mudanças em diferentes âmbitos, passando pelas atividades de ensino, de pesquisa e de gestão.
As universidades têm muito a fazer para estarem preparadas e à altura dos desafios de seu tempo. A formação em IA assume grande importância. Isso porque a tecnologia se torna ainda mais poderosa quando usada de forma consciente e responsável, ou seja, quando o usuário tem mais clareza e domínio sobre os resultados que podem ser obtidos e os cuidados que se fazem necessários. Nesse sentido, a formação permanente, o aprofundamento teórico e prático, o debate com base em diferentes perspectivas, a experimentação constante, a avaliação crítica, a troca de experiências, o compartilhamento de boas práticas, tudo isso tem muito a contribuir para que possamos assumir algum protagonismo nesse processo, incentivando os bons usos, gerindo os riscos e mitigando os danos.
Por Luana Macieira