Requisitos del servidor Sherpa AI Server#
Requisitos del sistema#
- OS: se recomienda Ubuntu 20.04+, sin embargo, generalmente no hay problemas con otras distribuciones de Linux, la compatibilidad ha sido verificada con RedOS, AstraLinux, AltLinux, Debian
- CPU: x86_64 con AVX2
- RAM: mínimo 16 GB, se recomiendan 32 GB+
- Disco: 100 GB+ de espacio libre
- GPU: NVIDIA con CUDA 11.8+ (recomendado)
- Red: Conexión a Internet estable
- Acceso: permisos sudo para la instalación
Importante:
- La instalación toma horas debido a la descarga de modelos de IA (10-50 GB)
- Después de la instalación, no se requiere Internet
Preparación del servidor#
Verificación de recursos#
A continuación se utiliza la sintaxis de Ubuntu, si el comando no es adecuado, deberá cambiar la sintaxis según su SO.
# Verifique los recursos del sistema
df -h # Espacio en disco
free -h # Memoria RAM
nvidia-smi # GPU (si está instalada)
💡 Comentarios sobre la verificación de recursos
df -h - muestra el uso del espacio en disco en un formato legible por humanos free -h - muestra información sobre la memoria RAM nvidia-smi - muestra información sobre la GPU NVIDIA (si está instalada)
Instalación de herramientas básicas#
# Actualice el sistema e instale herramientas
sudo apt update
sudo apt install -y ca-certificates curl tar
💡 Comentarios sobre la instalación de herramientas básicas
sudo apt update - actualiza la lista de paquetes disponibles desde los repositorios sudo apt install -y ca-certificates curl tar - instala las herramientas necesarias:
ca-certificates- certificados raíz para verificación SSLcurl- herramienta para descargar archivostar- utilidad para trabajar con archivos comprimidos-y- confirmación automática de la instalación
Instalación de Docker (omitir si ya está instalado)#
Sherpa AI Server funciona en contenedores Docker.
Instalación de Docker CE#
# Agregue la clave GPG oficial de Docker
sudo install -m 0755 -d /etc/apt/keyrings
sudo curl -fsSL https://download.docker.com/linux/ubuntu/gpg -o /etc/apt/keyrings/docker.asc
sudo chmod a+r /etc/apt/keyrings/docker.asc
# Agregue el repositorio de Docker
echo "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.asc] https://download.docker.com/linux/ubuntu \
$(. /etc/os-release && echo "${UBUNTU_CODENAME:-$VERSION_CODENAME}") stable" | \
sudo tee /etc/apt/sources.list.d/docker.list > /dev/null
# Instale Docker
sudo apt update
sudo apt install -y docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin
💡 Comentarios sobre la instalación de Docker
Agregar la clave GPG:
sudo install -m 0755 -d /etc/apt/keyrings- crea un directorio para las claves con los permisos correctossudo curl -fsSL https://download.docker.com/linux/ubuntu/gpg -o /etc/apt/keyrings/docker.asc- descarga la clave GPG de Dockersudo chmod a+r /etc/apt/keyrings/docker.asc- establece permisos de lectura para todos
Agregar el repositorio:
echo "deb [...]- agrega el repositorio oficial de Docker a la lista de fuentes APT- Utiliza variables de entorno para determinar la arquitectura y la versión de Ubuntu
Instalación de paquetes:
sudo apt update- actualiza la lista de paquetes después de agregar un nuevo repositoriosudo apt install -y docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin- instala Docker y componentes
Configuración y verificación#
# Agregue el usuario al grupo docker (opcional)
sudo usermod -aG docker $USER
# Verifique la instalación
docker --version
docker compose version
💡 Comentarios sobre la configuración de Docker
sudo usermod -aG docker $USER - agrega al usuario actual al grupo docker
-a- append (agrega a grupos existentes)-G docker- agrega al grupo docker$USER- variable con el nombre del usuario actual
docker --version - muestra la versión de Docker docker compose version - muestra la versión de Docker Compose
Resultado esperado: Docker ejecuta correctamente un contenedor de prueba.
Resultado esperado: Docker ejecuta correctamente un contenedor de prueba.
Instalación de soporte para GPU (NVIDIA + Toolkit) (omitir si ya está instalado)#
Si el servidor tiene una GPU NVIDIA, instale los controladores y el Container Toolkit:
💡 Instalación sin conexión: Si el servidor no tiene acceso a Internet, utilice la sección Instalación sin conexión de soporte para GPU (NVIDIA) a continuación.
Instalación de controladores NVIDIA#
# Elimine los controladores antiguos e instale los nuevos
sudo apt purge 'nvidia-*'
sudo apt autoremove
sudo apt install -y nvidia-driver-580
# Reinicie el servidor
sudo reboot
💡 Comentarios sobre la instalación de controladores NVIDIA
sudo apt purge 'nvidia-*' - elimina todos los paquetes de NVIDIA
purge- elimina paquetes y sus archivos de configuración'nvidia-*'- patrón para buscar todos los paquetes que comienzan con nvidia
sudo apt autoremove - elimina dependencias innecesarias sudo apt install -y nvidia-driver-580 - instala los controladores NVIDIA versión 580
sudo reboot - reinicia el sistema para aplicar los cambios
Verificación de GPU#
# Después de reiniciar, verifique la GPU
nvidia-smi
💡 Comentarios sobre la verificación de GPU
nvidia-smi - Interfaz de Gestión del Sistema para GPU NVIDIA
- Muestra información sobre la GPU, controladores, procesos
- Se utiliza para diagnóstico y monitoreo
Salida esperada:
NVIDIA-SMI 580.xx.xx
Driver Version: 580.xx.xx
Instalación de NVIDIA Container Toolkit#
# Agregue el repositorio e instale el toolkit
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | \
sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit.gpg
curl -fsSL https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \
sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit.gpg] https://#g' | \
sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list
sudo apt update
sudo apt install -y nvidia-container-toolkit
# Configure Docker para GPU
sudo nvidia-ctk runtime configure --runtime=docker
sudo systemctl restart docker
💡 Comentarios sobre la instalación de NVIDIA Container Toolkit
Agregar el repositorio de NVIDIA Container Toolkit:
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey- descarga la clave GPGsudo gpg --dearmor- convierte la clave a formato binariocurl ... nvidia-container-toolkit.list- descarga la configuración del repositoriosed 's#deb https://#deb [signed-by=...] https://#g'- agrega la firma de la clave a la configuración
sudo apt update - actualiza la lista de paquetes sudo apt install -y nvidia-container-toolkit - instala el toolkit
sudo nvidia-ctk runtime configure --runtime=docker - configura el runtime de Docker para NVIDIA sudo systemctl restart docker - reinicia el daemon de Docker para aplicar los cambios
Instalación sin conexión de soporte para GPU (NVIDIA)#
Si el servidor no tiene acceso a Internet, realice la instalación de los controladores NVIDIA y el Container Toolkit en modo sin conexión. La preparación de los paquetes se puede realizar paralelamente a la descarga de imágenes de Docker.
Preparación de paquetes en una máquina con Internet#
Requisitos: Máquina con Ubuntu/Debian y acceso a Internet.
Importante:
- La preparación de paquetes se puede realizar en cualquier máquina con Ubuntu/Debian (no necesariamente en el servidor de destino)
- Asegúrese de tener suficiente espacio en disco (alrededor de 1 GB para todos los paquetes)
- Todos los comandos se ejecutan en una sola sesión de terminal, preste atención al directorio actual
En la máquina con acceso a Internet (Ubuntu/Debian), prepare un archivo comprimido con los paquetes NVIDIA:
Descarga de controladores NVIDIA
Importante: Elija uno de los dos métodos: descargue el archivo .run desde el sitio web de NVIDIA o utilice paquetes .deb a través de apt download.Método 1: Descarga del archivo .run desde el sitio oficial de NVIDIA (recomendado para principiantes)
Vaya al sitio oficial de NVIDIA: https://www.nvidia.com/Download/index.aspx
Seleccione las opciones:
- Tipo de producto: GeForce / Quadro / Tesla (dependiendo de su tarjeta gráfica)
- Serie de producto: seleccione la serie de su tarjeta gráfica
- Producto: seleccione el modelo específico
- Sistema operativo: Linux 64-bit
- Tipo de descarga: Controlador de Linux
- Idioma: English (US)
Haga clic en "Search" y descargue el archivo del controlador (por ejemplo,
NVIDIA-Linux-x86_64-580.XX.XX.run)Cree un directorio para los paquetes y guarde el archivo .run:
mkdir -p nvidia-offline-packages/drivers # Mueva el archivo .run descargado a este directorio mv ~/Descargas/NVIDIA-Linux-x86_64-*.run nvidia-offline-packages/drivers/
Método 2: Descarga de paquetes .deb a través de apt (para usuarios avanzados)
Si está utilizando Ubuntu/Debian y desea usar paquetes .deb:
# Cree un directorio para los paquetes
mkdir -p nvidia-offline-packages/drivers
cd nvidia-offline-packages/drivers
# Descargue el controlador a través de apt download (si el repositorio está disponible)
# Primero, agregue el repositorio de NVIDIA (si aún no se ha agregado)
sudo add-apt-repository ppa:graphics-drivers/ppa
sudo apt update
# Descargue el paquete del controlador
apt download nvidia-driver-580
# Descargue las dependencias del controlador (ejecute el comando línea por línea)
# Primero, obtenga la lista de dependencias:
apt-cache depends nvidia-driver-580 | grep "Depends:" | cut -d: -f2 | tr -d ' ' > /tmp/deps.txt
# Luego, descargue cada dependencia:
while read dep; do
apt download "$dep" 2>/dev/null || echo "Dependencia omitida: $dep"
done < /tmp/deps.txt
# Elimine el archivo temporal
rm /tmp/deps.txt
Descarga del NVIDIA Container Toolkit
Sobre las claves GPG:
- Las claves GPG se utilizan para verificar la autenticidad de los paquetes al instalar a través de
apt install - Al instalar sin conexión a través de
dpkg -i, las claves GPG NO son necesarias - los paquetes se instalan directamente - Las claves GPG son necesarias solo si planea usar
apt installo configurar el repositorio para futuras actualizaciones - Para simplificar, puede omitir la descarga de las claves GPG e instalar los paquetes a través de
dpkg -i
# Regrese al directorio de paquetes
cd nvidia-offline-packages
# Cree un directorio para el Container Toolkit
mkdir -p toolkit
# Agregue el repositorio del NVIDIA Container Toolkit (si aún no se ha agregado)
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | \
sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit.gpg
curl -fsSL https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \
sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit.gpg] https://#g' | \
sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list
sudo apt update
# Descargue el paquete del Container Toolkit y todas sus dependencias
cd toolkit
apt download nvidia-container-toolkit
# Descargue las dependencias del Container Toolkit (ejecute el comando línea por línea)
# Primero, obtenga la lista de dependencias:
apt-cache depends nvidia-container-toolkit | grep "Depends:" | cut -d: -f2 | tr -d ' ' > /tmp/toolkit-deps.txt
# Luego, descargue cada dependencia:
while read dep; do
apt download "$dep" 2>/dev/null || echo "Dependencia omitida: $dep"
done < /tmp/toolkit-deps.txt
# Elimine el archivo temporal
rm /tmp/toolkit-deps.txt
# Opcional: Descargue la clave GPG y el archivo del repositorio (solo son necesarios si planea usar apt install en lugar de dpkg)
# Para la instalación sin conexión a través de dpkg -i, las claves GPG NO son necesarias
cd ..
mkdir -p keys
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey -o keys/nvidia-container-toolkit.gpg
curl -fsSL https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list -o keys/nvidia-container-toolkit.list
Empaquetado del archivo
# Regrese al directorio raíz de los paquetes
cd nvidia-offline-packages
# Asegúrese de que todos los archivos estén en su lugar:
# - drivers/ - contiene paquetes .deb o el archivo .run del controlador
# - toolkit/ - contiene paquetes .deb del Container Toolkit
# - keys/ - contiene claves GPG y archivos del repositorio (opcional, si existen)
# Cree un archivo comprimido con todos los paquetes
# Si el directorio keys/ está vacío o no existe, se puede crear el archivo comprimido sin él:
if [ -d "keys" ] && [ "$(ls -A keys)" ]; then
tar -czf nvidia-packages-offline.tar.gz drivers/ toolkit/ keys/
else
tar -czf nvidia-packages-offline.tar.gz drivers/ toolkit/
echo "Advertencia: Las claves GPG no están incluidas en el archivo (no son obligatorias para la instalación a través de dpkg)"
fi
# Verifique el tamaño del archivo comprimido
ls -lh nvidia-packages-offline.tar.gz
💡 Comentarios sobre la preparación de paquetes
Descarga de controladores:
- El sitio oficial de NVIDIA proporciona versiones actualizadas de controladores para todos los modelos de GPU
- La versión del controlador debe cumplir con los requisitos (se recomienda 580+)
- Los paquetes .deb son más convenientes para la instalación a través de dpkg (recomendado para Ubuntu/Debian)
- Los archivos .run son instaladores universales de NVIDIA, funcionan en cualquier distribución de Linux, pero requieren detener el servidor gráfico durante la instalación
Descarga del Container Toolkit:
apt downloaddescarga el paquete sin instalarlo- Las dependencias se descargan por separado para una instalación completamente sin conexión
- Las claves GPG y los archivos del repositorio son opcionales: solo son necesarios si planea usar
apt installen lugar dedpkg -i, o si desea configurar el repositorio para futuras actualizaciones
Tamaño del archivo: El tamaño esperado del archivo es de aproximadamente 200-500 MB dependiendo de las versiones de los paquetes.
Transferencia del archivo al servidor de destino#
Transfiera el archivo nvidia-packages-offline.tar.gz al servidor de destino de cualquier manera conveniente (SCP, SFTP, unidad USB, etc.). Se recomienda transferir el archivo junto con las imágenes de Docker.
Instalación en el servidor de destino#
Después de transferir el archivo al servidor de destino, realice la instalación:
Instalación de controladores NVIDIA desde paquetes .deb
Si ha descargado paquetes .deb de controladores:
# Descomprima el archivo
tar -xzf nvidia-packages-offline.tar.gz
cd nvidia-offline-packages
# Verifique la presencia de archivos .deb en el directorio drivers
ls -la drivers/*.deb
# Instale los controladores NVIDIA
cd drivers
sudo dpkg -i *.deb
# Verifique el resultado de la instalación
if [ $? -eq 0 ]; then
echo "Controladores instalados exitosamente"
else
echo "Se encontraron errores de dependencias, corrigiendo..."
# Si hubo errores de dependencias, instálelas desde la caché o corrija las dependencias
sudo apt install --fix-broken -y
# Si fix-broken no ayudó, intente instalar las dependencias manualmente
# Asegúrese de que todas las dependencias se hayan descargado en el directorio drivers
echo "Verifique que todas las dependencias se hayan descargado en el directorio drivers/"
ls -la *.deb
fi
# Reinicie el servidor para aplicar los controladores
echo "Reiniciando el servidor en 10 segundos... Presione Ctrl+C para cancelar"
sleep 10
sudo reboot
Si la instalación terminó con un error:
- Verifique qué paquetes no se instalaron:
dpkg -l | grep nvidia - Asegúrese de que todas las dependencias se hayan descargado:
ls -la drivers/*.deb | wc -l(debería haber varios archivos) - Intente instalar los paquetes uno por uno:
sudo dpkg -i nombre_del_paquete.deb
Instalación de controladores NVIDIA desde el archivo .run
Si ha descargado el archivo .run del controlador desde el sitio oficial de NVIDIA:
Importante antes de comenzar:
- Asegúrese de tener acceso al servidor a través de SSH o acceso físico (en caso de problemas)
- Si hay una interfaz gráfica instalada en el servidor, averigüe qué gestor de pantalla se utiliza (gdm3, lightdm, sddm)
- Para servidores sin interfaz gráfica, se pueden omitir los pasos para detener el servidor gráfico.```bash
Descomprima el archivo (si el archivo .run fue agregado al archivo)#
tar -xzf nvidia-packages-offline.tar.gz cd nvidia-offline-packages/drivers
Encuentre el archivo .run del controlador (por ejemplo, NVIDIA-Linux-x86_64-580.XX.XX.run)#
ls -la *.run
Haga que el archivo sea ejecutable#
chmod +x NVIDIA-Linux-x86_64-*.run
Determine qué servidor gráfico se está utilizando (ejecute uno de los comandos):#
Verificación para GNOME/GDM3:#
systemctl status gdm3 > /dev/null 2>&1 && echo "Se está utilizando gdm3"
Verificación para LightDM:#
systemctl status lightdm > /dev/null 2>&1 && echo "Se está utilizando lightdm"
Verificación para SDDM (KDE):#
systemctl status sddm > /dev/null 2>&1 && echo "Se está utilizando sddm"
Detenga el servidor gráfico (ejecute SOLO un comando correspondiente a su gestor de pantalla):#
Para Ubuntu con GNOME:#
sudo systemctl stop gdm3
O PARA Ubuntu con LightDM:#
sudo systemctl stop lightdm#
O PARA sistemas con KDE:#
sudo systemctl stop sddm#
O si no hay interfaz gráfica, omita este paso#
Instale el controlador (utilice los flags para una instalación automática)#
sudo ./NVIDIA-Linux-x86_64-*.run
--silent
--no-nouveau-check
--no-opengl-files
--disable-nouveau
Verifique el resultado de la instalación (debe haber un mensaje de éxito)#
echo $?
Si el servidor gráfico fue detenido, inícielo nuevamente (utilice el mismo comando que para detenerlo):#
sudo systemctl start gdm3 # o lightdm/sddm dependiendo de su sistema
Reinicie el servidor para aplicar los controladores#
sudo reboot
**Si la instalación terminó con un error:**
* Verifique los registros: `sudo cat /var/log/nvidia-installer.log`
* Asegúrese de que el módulo nouveau esté deshabilitado: `lsmod | grep nouveau`
* Intente la instalación con el flag `--no-opengl-files` si el error está relacionado con OpenGL
<details>
<summary>💡 Comentarios sobre la instalación del archivo .run</summary>
**Flags del instalador:**
* `--silent` - instalación automática sin preguntas interactivas
* `--no-nouveau-check` - omite la verificación del módulo nouveau (controlador abierto de NVIDIA)
* `--no-opengl-files` - no instala bibliotecas de OpenGL (importante para servidores sin GUI)
* `--disable-nouveau` - desactiva el módulo nouveau antes de la instalación
**Detención del servidor gráfico:**
* En servidores sin interfaz gráfica, este paso no es necesario
* Si el servidor gráfico no está detenido, la instalación puede fallar
* Después de la instalación, el servidor gráfico se puede reiniciar
**Método alternativo (sin detener la GUI):** Si no es posible detener el servidor gráfico, se puede utilizar la consola de texto:
1. Cambie a la consola de texto (Ctrl+Alt+F1)
2. Inicie sesión
3. Realice la instalación del archivo .run
4. Regrese al modo gráfico (Ctrl+Alt+F7 o reinicie)
</details>
**Verificación de la instalación de los controladores**
Después de reiniciar, verifique la instalación de los controladores:
```bash
# Verifique la GPU (este comando debe mostrar información sobre la tarjeta gráfica)
nvidia-smi
Resultado esperado: Debería ver una tabla con información sobre la GPU, por ejemplo:
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 580.XX Driver Version: 580.XX CUDA Version: 12.X |
|-------------------------------+----------------------+----------------------+
| GPU Name Persistence-M| Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap| Memory-Usage | GPU-Util Compute M. |
|===============================+======================+======================|
| 0 NVIDIA GeForce ... Off | 00000000:01:00.0 Off | N/A |
| ... |
+-----------------------------------------------------------------------------+
Si el comando nvidia-smi no funciona o muestra un error:
- Verifique que el controlador esté cargado:
lsmod | grep nvidia - Verifique los registros:
dmesg | grep -i nvidia - Asegúrese de que la GPU sea visible para el sistema:
lspci | grep -i nvidia
Instalación del NVIDIA Container Toolkit
Después de una instalación exitosa de los controladores, instale el Container Toolkit:
Importante:
- Docker debe estar instalado antes de instalar el Container Toolkit
- Asegúrese de que Docker esté en ejecución:
sudo systemctl status docker
# Regrese al directorio de paquetes (reemplace con la ruta real donde descomprimió el archivo)
# Por ejemplo, si el archivo se descomprimió en el directorio personal:
cd ~/nvidia-offline-packages
# O si está en otro lugar, indique la ruta completa:
# cd /ruta/completa/a/nvidia-offline-packages
# Verifique que todos los archivos estén en su lugar
ls -la toolkit/*.deb
# Opcional: Instale la clave GPG (NO es obligatorio para la instalación a través de dpkg)
# Las claves GPG son necesarias solo si:
# 1. Planea usar apt install en lugar de dpkg -i
# 2. Desea configurar el repositorio para futuras actualizaciones (cuando haya internet)
# Para una instalación simple fuera de línea a través de dpkg -i, se puede omitir este paso
if [ -f "keys/nvidia-container-toolkit.gpg" ]; then
echo "Instalando clave GPG (opcional)..."
sudo mkdir -p /usr/share/keyrings
sudo cp keys/nvidia-container-toolkit.gpg /tmp/nvidia-container-toolkit.gpg
sudo gpg --dearmor /tmp/nvidia-container-toolkit.gpg -o /usr/share/keyrings/nvidia-container-toolkit.gpg
sudo rm /tmp/nvidia-container-toolkit.gpg
echo "Clave GPG instalada"
else
echo "Clave GPG no encontrada - omitiendo instalación (no crítico para dpkg -i)"
fi
# Instale el Container Toolkit desde los paquetes locales
cd toolkit
sudo dpkg -i *.deb
# Verifique el resultado de la instalación
if [ $? -eq 0 ]; then
echo "Container Toolkit instalado exitosamente"
else
echo "Se encontraron errores de dependencias, corrigiendo..."
# Corrija las dependencias si es necesario
sudo apt install --fix-broken -y
# Si fix-broken no ayudó, verifique que todas las dependencias estén descargadas
echo "Verifique la presencia de todas las dependencias en el directorio toolkit/"
ls -la *.deb
fi
# Configure Docker para GPU
sudo nvidia-ctk runtime configure --runtime=docker
# Reinicie Docker para aplicar los cambios
sudo systemctl restart docker
# Verifique que Docker esté en ejecución
sudo systemctl status docker
# Verifique la instalación de la GPU en Docker
nvidia-smi
Si hubo problemas con la instalación:
- Verifique que Docker vea la GPU:
docker info | grep -i runtime - Verifique la configuración:
cat /etc/docker/daemon.json - Asegúrese de que nvidia-container-toolkit esté instalado:
dpkg -l | grep nvidia-container-toolkit - Verifique los registros de Docker:
sudo journalctl -u docker -n 50
💡 Comentarios sobre la instalación en el servidor de destino
Instalación de controladores:
dpkg -i *.deb- instala todos los paquetes .deb del directorioapt install --fix-broken- corrige dependencias utilizando la caché local de paquetes (si está disponible)- El reinicio es obligatorio para activar los controladores NVIDIA
Instalación del Container Toolkit:
- Al instalar a través de
dpkg -i, las claves GPG NO son necesarias - los paquetes se instalan directamente sin verificación de firma - Las claves GPG son necesarias solo si utiliza
apt installo planea configurar un repositorio para actualizaciones dpkg -i- un método más simple para la instalación fuera de línea, no requiere configuración de claves
Posibles problemas:
- Si
apt install --fix-brokenno funciona sin internet, asegúrese de que todas las dependencias estén descargadas en el directorio de paquetes - Verifique la compatibilidad de versiones de los controladores y el Container Toolkit con su versión de Ubuntu/Debian
Resultado esperado: Después de la instalación, el comando nvidia-smi debe mostrar información sobre la GPU, y los contenedores de Docker deben tener acceso a la GPU.