lucianotonet commited on
Commit
57f8000
1 Parent(s): fdc2e14

Adiciona suporte ao NVIDIA Toolkit no Dockerfile

Browse files

Inclui a instalação do NVIDIA Container Toolkit para habilitar o suporte a GPUs. Ajustes na instalação de dependências e configuração do runtime visam otimizar o ambiente para aplicações que requerem aceleração gráfica. A remoção do comando que puxa o modelo no início evita possíveis conflitos de execução enquanto prepara o contêiner, aprimorando a robustez do processo.

Files changed (1) hide show
  1. Dockerfile +5 -2
Dockerfile CHANGED
@@ -1,7 +1,10 @@
1
  FROM ollama/ollama:latest
2
 
3
  # Instalar dependências necessárias
4
- RUN apt-get update && apt-get install curl -y
 
 
 
5
 
6
  # https://huggingface.co/docs/hub/spaces-sdks-docker-first-demo
7
  RUN useradd -m -u 1000 user
@@ -11,7 +14,7 @@ ENV HOME=/home/user \
11
  PATH=/home/user/.local/bin:$PATH \
12
  OLLAMA_HOST=0.0.0.0
13
 
14
- RUN ollama serve & sleep 5 && ollama pull lucianotonet/llamaclaude && pkill ollama
15
 
16
  # Expor a porta do Ollama
17
  EXPOSE 11434
 
1
  FROM ollama/ollama:latest
2
 
3
  # Instalar dependências necessárias
4
+ RUN apt-get update && apt-get install -y curl
5
+ RUN apt-get install -y nvidia-container-toolkit
6
+
7
+ RUN nvidia-ctk runtime configure --runtime=docker
8
 
9
  # https://huggingface.co/docs/hub/spaces-sdks-docker-first-demo
10
  RUN useradd -m -u 1000 user
 
14
  PATH=/home/user/.local/bin:$PATH \
15
  OLLAMA_HOST=0.0.0.0
16
 
17
+ # RUN ollama serve & sleep 5 && ollama pull lucianotonet/llamaclaude && pkill ollama
18
 
19
  # Expor a porta do Ollama
20
  EXPOSE 11434