--- library_name: transformers tags: [] --- # Legislação UFAM Este é um modelo baseado no [Llama-2-7b-chat-hf](https://huggingface.co/meta-llama/Llama-2-7b-chat-hf). Este modelo teve fine tuning a partir de um dataset de triplas (perguntas, contexto, resposta) relacionadas à [legislação acadêmica da Universidade Federal do Amazonas]( https://proeg.ufam.edu.br/normas-academicas/57-proeg/146-legislacao-e-normas.html) com o intuito de torná-lo capaz de responder perguntas relacionadas à legislação da UFAM em um sistema de RAG. O modelo teve fine tuning realizado a partir [deste dataset](https://huggingface.co/datasets/felipovysk/ufam-legis). O código usado para a geração do dataset, treino e teste do modelo encontra-se [neste Notebook](https://colab.research.google.com/drive/1x02d9vSqsorZUQ0KnSe6FatCEHAFWO3G?usp=sharing). ## Exemplos de Resultados: **Pergunta:** Quais são os documentos necessários para um aluno visitante interinstitucional solicitar ingresso em um programa de mobilidade? ``` O aluno visitante interinstitucional solicitando ingresso em um programa de mobilidade deverá apresentar os seguintes documentos: 1. Cópia do diploma de graduação, com validade constatada pelo respectivo registro civil; 2. cópia do certificado de profissão, se pertence ao mesmo curso ou área de estudos que o aluno vem a realizar; 3. cópia do documento que compro o status do aluno como interinstitucional, se ele for interinstitucional; 4. documento de apoio à solicitação de vaga, com a carga horário de trabalho do curso a ser realizado, bem como a informações básicas do curso, como o nome, o código curso, o período letivo e o local de realização; 5. documento de comprovação de validade do cartão de identificação, se o aluno possuir cartão de identificação. Esses documentos devem ser apresentados na própria da universidade a qual o aluno v ``` **Pergunta:** É obrigatório que o professor apresente o plano de ensino no início do período letivo? ``` Sim, é obrigatório que o professor apresente o plano de ensino no início do período letivo. A partir do artigo 1º do regimento geral, que indica que o professor deverá apresentar o plano de ensino no início do período letivo, como medida para garantir a congruência entre o plano de ensino e o ensino praticado, e para garantir que o professor esteja seguro dos objetivos e dos meios de ação estabelecidos no plano de ensino. Além disso, o artigo 4º do regimento geral estabelece que o chefe de departamento/coordenador acadêmico deverá sinalizar, em campo apropriado no SIE, a mensagem “PROFESSOR A CONTRATAR” para o professor que será responsável pela disciplina. Portanto, o professor deverá apresentar o plano de ensino no início do período letivo, e, simultaneamente, sinalizar o professor a ser responsável pela disciplina, acessando o chefe de departamento/ ``` **Pergunta:** Como ocorrem as eleições de reitor na UFAM? ``` Ocorrendo as eleições de reitor na UFAM através do processo constitucionalmente estabelecido, que inclui a nomeação e a eleição do reitor pela comunidade universitária, conforme previsto no art. 82, 83 e 84 da lei nº 9.394, de 20 de dezembro de 1996. Ao longo da história da universidade, o processo eleitoral do reitor teve variadas formas de exercício, com a criação, em 1966, do conselho departamental, que se tornou o órgão responsável pela eleição do reitor. Atualmente, a eleição do reitor da UFAM é feita pela comunidade universitária, mediante a nomeação e a eleição do candidato mais votado, mediante a obediência às normas constitucionais e regulamentares que regem a dolência. O processo eleitoral é regulamentado pelo regimento da universidade, que define as condições para a participação do eleitorado, ``` ## Detalhes do Modelo ### Dataset Para mais informações sobre o processo de criação do dataset, leia o [card do dataset](https://huggingface.co/datasets/felipovysk/ufam-legis). ### Fine tuning O modelo é baseado no modelo Llama-2-7b-chat-hf, com as seguintes configurações de quantização, e seguintes configurações de LoRA: ``` BitsAndBytesConfig( load_in_4bit=True, bnb_4bit_quant_type="nf4", bnb_4bit_compute_dtype="float16", bnb_4bit_use_double_quant=False, ) LoraConfig( lora_alpha=16, lora_dropout=0.1, r=64, bias="none", task_type="CAUSAL_LM", ) ``` Ele foi treinado com o uso do [SFTTrainer](https://huggingface.co/docs/trl/sft_trainer) com o conjunto de triplas (pergunta, contexto, resposta) [deste dataset]( https://huggingface.co/datasets/felipovysk/ufam-legis/tree/main), por 3 épocas, atingindo uma training loss de 1.055100.