SergioSCA/SCAOSS_AI_v1

Dataset Multimodal - Documentación

1. Descripción del Dataset

---

Este dataset contiene información extraída de 9 archivos PDF. Total de entradas: 295 Total de páginas procesadas: 295 Total de imágenes extraídas: 2072

2. Estructura del Dataset

---

Cada entrada en el dataset contiene la siguiente información:

• file: Nombre del archivo PDF de origen
• page: Número de página dentro del PDF
• text: Texto extraído de la página
• tokens: Tokens generados a partir del texto (guardados en dataset_tensors.pt)
• images: Lista de hashes de imágenes extraídas de la página (guardadas en dataset_tensors.pt)
• chapter: Título del capítulo al que pertenece la página
• chapter_summary: Resumen del contenido del capítulo

3. Archivos Generados

---

• dataset_multimodal.csv: Contiene toda la información excepto los tensores
• dataset_tensors.pt: Archivo PyTorch con los tensores de texto e imagen
• images/: Directorio con todas las imágenes extraídas

4. Cómo Usar el Dataset

---

Para cargar y utilizar este dataset en un modelo de aprendizaje profundo:

import pandas as pd
import torch

# Cargar el CSV
df = pd.read_csv('dataset_multimodal.csv')

# Cargar los tensores
tensors = torch.load('dataset_tensors.pt')
text_tokens = tensors['text_tokens']
image_tensors = tensors['image_tensors']

# Ejemplo de acceso a los datos
for i, row in df.iterrows():
    print(f"Archivo: {row['file']}, Página: {row['page']}")
    print(f"Texto: {row['text'][:100]}...")
    print(f"Tokens: {text_tokens[i]['input_ids'].shape}")
    print(f"Imágenes: {len(row['images'])}")
    for img_hash in row['images']:
        print(f"Imagen {img_hash}: {image_tensors[img_hash]['tensor'].shape}")

5. Notas Adicionales

---

• Los tokens de texto están limitados a una longitud máxima de 512 tokens.
• Las imágenes han sido redimensionadas a 224x224 píxeles y normalizadas.
• Asegúrese de tener suficiente memoria RAM al cargar el dataset completo.