Fundamentos e Aplicações de Modelos de Linguagem

Descrição

Este projeto de pesquisa aplicada visa investigar e desenvolver soluções eficientes baseadas em Modelos de Linguagem de Grande Escala (LLMs) de código aberto, focando na mitigação de alucinações factuais e na redução do custo computacional. O objetivo central é capacitar estudantes de graduação no estado da arte do Processamento de Linguagem Natural (PLN), adaptando modelos de fundação para domínios de conhecimento fechados por meio de duas abordagens complementares: a implementação de uma arquitetura de Geração Aumentada por Recuperação (RAG), que ancora as respostas do modelo em documentos validados usando bancos de dados vetoriais, e a aplicação de técnicas de Ajuste Fino Eficiente em Parâmetros (PEFT), destacando-se o algoritmo LoRA (Low-Rank Adaptation), para viabilizar o treinamento local com baixo consumo de memória (VRAM). Ao final do ciclo, com a entrega de um protótipo funcional e interativo, o projeto busca provar a viabilidade de obter alta precisão utilizando modelos menores em hardware acessível, promovendo a autonomia tecnológica, a produção científica e o letramento em Inteligência Artificial Generativa no âmbito institucional.