Dockerfile

# Dockerfile para executar o modelo Qwen2-VL-2B-Instruct no Hugging Face Spaces

# Usar a imagem base do PyTorch com suporte a CUDA
FROM pytorch/pytorch:2.1.0-cuda11.8-cudnn8-runtime

# Instalar git e outras dependências necessárias
RUN apt-get update && apt-get install -y git

# Instalar dependências
COPY requirements.txt ./
RUN pip install --no-cache-dir -r requirements.txt && \
    pip install --no-cache-dir git+https://github.com/huggingface/transformers

# Definir variáveis de ambiente
ENV HUGGINGFACE_HUB_CACHE=/home/user/.cache/huggingface
ENV TRANSFORMERS_CACHE=/home/user/.cache/huggingface/transformers

# Criar usuário não-root
RUN useradd -m -u 1000 user
USER user
WORKDIR /home/user

# Copiar o código do modelo
COPY --chown=user:user app.py .

# Expor a porta para a API
EXPOSE 7860

# Comando para executar a aplicação
CMD ["uvicorn", "app:app", "--host", "0.0.0.0", "--port", "7860"]