metadata

dataset_info:
  features:
    - name: text
      dtype: string
  splits:
    - name: train
      num_bytes: 1007749.44
      num_examples: 720
    - name: test
      num_bytes: 279930.4
      num_examples: 200
    - name: eval
      num_bytes: 111972.16
      num_examples: 80
  download_size: 625570
  dataset_size: 1399651.9999999998
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*
      - split: test
        path: data/test-*
      - split: eval
        path: data/eval-*

Legislação UFAM

Este é um dataset que contém as legislações acadêmicas da Universidade Federal do Amazonas presente nesta página.

Ele é composto de 3 partes:

pdf: esta pasta contém todos os arquivos em pdf da página referenciada baixados com o uso em conjunto das bibliotecas requests e BeautifulSoup;
text: esta pasta contém o texto presente nos arquivos da pasta pdf, detectado usando a libtesseract;
data: esta pasta contém um Dataset de perguntas com contexto e resposta, no formato requerido pelo modelo Llama-2-7b-chat-hf:

<s>
[INST] Dado o seguinte contexto: {contexto}
Responda a seguinte pergunta: {pergunta} [/INST]
{resposta}
</s>

O Dataset presente em data foi gerado com o uso do modelo gpt-4o-mini da OpenAI, da seguinte forma:

Selecionamos aleatoriamente 3 trechos de legislação dos textos presentes na pasta text;
Submetemos esses 3 trechos em conjunto com o seguinte prompt para o modelo:

prompt = """\
Você é alguém associado à UFAM (estudante, professor ou funcionário). \
Você deve, dado um conjunto de até 3 artigos da legislação da UFAM separados \
por quebra de linha, gerar até 3 perguntas e as respostas dessas perguntas, \
e responder com um array JSON contendo objetos com as chaves 'question' e 'answer'. \
Se não for possível extrair nenhuma informação significativa das 3 linhas dadas como \
input, retorne um array vazio. Se fizer sentido, tente fazer perguntas que se utilizam \
de mais de uma linha da entrada. Responda com o JSON cru, sem nenhuma formatação adicional. \
Não cite nominalmente os artigos se não souber a lei da qual eles fazem parte, tanto na pergunta quanto na resposta. \
Não faça menção direta ou indireta ao contexto nas perguntas (não fale sobre a "legislação mencionada" ou algo do tipo).
Se alguma palavra não fizer sentido no texto, corrija-a."""

Repetimos o processo até termos 1000 exemplos de triplas (pergunta, contexto, resposta).
Essas triplas foram convertidas para o formato descrito acima.