Guía de compra de servidores GPU: cómo especificar, adquirir y desplegar hardware de IA
Compra de infraestructura de IA y GPU · Publicado 2026-07-25
Comprar un servidor GPU se reduce a cuatro decisiones tomadas en el orden correcto: hacer coincidir la clase de GPU con la carga de trabajo, elegir el factor de forma (PCIe o SXM), decidir entre silicio nuevo y reacondicionado, y escoger una plataforma con la alimentación, la refrigeración y la conectividad que las GPU exigen. Con el orden correcto, el resto es pura mecánica de compras; con el orden invertido (la plataforma primero, la carga de trabajo al final) se compra o bien una máquina sobredimensionada o bien una que se estrangula térmicamente.
Esta es la guía central de nuestra serie sobre infraestructura de IA y GPU. Refleja cómo especificamos y cotizamos realmente sistemas GPU para compradores en AXISLINK, y enlazará a análisis más profundos sobre precios, normas de exportación y comparativas de modelos concretos a medida que esas guías se publiquen.
De un vistazo
- La carga de trabajo determina la clase de GPU; todo lo demás se deriva de ahí
- Los módulos SXM entregan todo el ancho de banda de interconexión; las tarjetas PCIe cambian velocidad por flexibilidad
- Las GPU de centro de datos reacondicionadas pueden recortar mucho el coste si la procedencia está verificada
- Un nodo de 8 GPU es un proyecto de alimentación y refrigeración, no solo una compra de servidor
- Los aceleradores de IA avanzados están sujetos a controles de exportación: planifique el cumplimiento antes de pedir
- Los plazos varían según el canal; el mercado secundario se mueve más rápido que las colas de asignación
Empiece por la carga de trabajo, no por la GPU
El mercado habla en números de modelo de GPU, pero la especificación empieza por lo que la máquina debe hacer. Correspondencia aproximada tal como está el panorama de la generación actual:
| Carga de trabajo | Lo que más importa | Clase de GPU típica |
|---|---|---|
| Entrenamiento y fine-tuning de LLM | Capacidad de memoria, ancho de banda de interconexión, escalado multi-GPU | Aceleradores de centro de datos tope de gama (clase H100/H200, SXM) |
| Inferencia de LLM a escala | Capacidad de memoria por dólar, rendimiento sostenido | Clase H100/A100 o tarjetas de inferencia con mucha memoria (clase L40S) |
| Difusión, renderizado, medios | Cómputo bruto, VRAM, ecosistema de controladores | Clase L40S o tarjetas de estación de trabajo (familia RTX 6000) |
| ML clásico, analítica, CV | Coste por GPU, simplicidad de nodo único | Tarjetas de centro de datos de generación anterior (A100, incluso clase V100) |
| VDI y estaciones de trabajo virtuales | Modelo de licencias, densidad por tarjeta | GPU diseñadas específicamente para virtualización |
Dos corolarios prácticos. Primero, los buques insignia de la generación anterior siguen siendo genuinamente útiles: un clúster A100 todavía entrena y sirve modelos serios, a una fracción del precio del tope de gama actual en el mercado secundario. Segundo, comprar una GPU mayor de lo que la carga de trabajo necesita no garantiza nada de cara al futuro si la interconexión, el almacenamiento o la red se convierten antes en el cuello de botella.
PCIe o SXM: la bifurcación del factor de forma
La misma generación de GPU suele comercializarse en dos formatos, y la elección condiciona todo el servidor.
| Tarjetas PCIe | Módulos SXM | |
|---|---|---|
| Instalación | Ranuras estándar en muchos modelos de servidor | Soldados a una placa base dedicada (clase HGX) |
| Ancho de banda GPU a GPU | Limitado; puentes de conexión en algunos pares | Interconexión de malla completa y gran ancho de banda |
| Alimentación y refrigeración | Menor consumo por tarjeta, refrigerable por aire en 2U | Consumo máximo; requiere chasis específico |
| Flexibilidad | Añadir o mover tarjetas entre sistemas | Configuraciones fijas de 4 GPU u 8 GPU |
| Mejor encaje | Inferencia, cargas mixtas, escalado gradual | Entrenamiento multi-GPU donde la eficiencia de escalado compensa |
La regla práctica honesta de nuestro trabajo de cotización: las máquinas de inferencia de nodo único y los equipos mixtos de investigación suelen ser configuraciones PCIe; los clústeres serios de entrenamiento multi-GPU son configuraciones SXM, y la prima paga rendimiento real de entrenamiento, no una cifra de ficha técnica.
Nuevo o reacondicionado: lo que el mercado secundario ofrece de verdad
Las GPU de centro de datos entran en el mercado secundario cuando los hiperescaladores y los laboratorios de IA renuevan sus flotas. Esa oferta hace que los aceleradores de la generación anterior sean drásticamente más baratos que los nuevos topes de gama, y así es como muchos equipos consiguen capacidad real. Lo que separa una buena compra reacondicionada de una apuesta:
- Procedencia: quién operó la tarjeta, en qué entorno y por qué se retiró
- Pruebas: resultados de burn-in por tarjeta, no por lote, con comprobaciones de memoria y térmicas
- Clasificación del estado declarada por escrito, con fotografías para el stock usado
- Garantía: una ventana de devolución declarada por el vendedor, ya que la cobertura del fabricante rara vez se transfiere
- Estado de firmware y licencias: existen tarjetas bloqueadas o vinculadas a un proveedor y deben declararse
Este es un negocio de procedencia. La razón por la que los compradores canalizan las compras reacondicionadas a través de una contraparte comercial responsable en lugar de un anuncio de marketplace es que la verificación, la clasificación y el recurso son el producto real; el silicio es el mismo en ambos casos. Nuestro stock de GPU y aceleradores indica el estado y la clasificación de forma explícita exactamente por esa razón.
La plataforma: el servidor alrededor de las GPU
Las GPU no funcionan solas. La decisión de plataforma es donde los presupuestos se rompen en silencio.
Chasis y densidad
Formatos habituales: servidores 2U que admiten de 2 a 4 tarjetas PCIe; torres y chasis de rack 4U/5U que admiten de 4 a 8 tarjetas PCIe con mejor flujo de aire; y plataformas HGX específicas de 6U-8U que llevan 8 módulos SXM (clase Dell PowerEdge XE9680, clase HPE Cray, sistemas Supermicro HGX). Un chasis en el que caben las tarjetas no es lo mismo que un chasis que las refrigera a carga sostenida.
La alimentación es la restricción oculta
Un nodo tope de gama de 8 GPU consume del orden de 10 kW bajo carga. Eso supera muchas salas de servidores de oficina y es una fracción significativa del presupuesto de un rack en colocation. Antes de pedir, confirme el presupuesto eléctrico del rack y la capacidad de las PDU, la capacidad de refrigeración para el calor realmente producido, y si la instalación factura por potencia aprovisionada. Más de una vez hemos recotizado a un comprador de un nodo de 8 GPU a dos nodos de 4 GPU únicamente por los límites eléctricos de la instalación.
CPU, memoria, almacenamiento, red
Reglas de equilibrio que se mantienen entre generaciones: memoria de sistema al menos igual a la memoria GPU total (el doble resulta holgado para entrenamiento); un scratch NVMe lo bastante rápido para mantener alimentadas las GPU; y, para entrenamiento multinodo, un fabric (Ethernet de alta velocidad o clase InfiniBand) a la altura de la ambición, porque una interconexión hambrienta deja ocioso un silicio caro.
Controles de exportación: planifique el cumplimiento antes de pedir
Los aceleradores de IA avanzados están sujetos a controles de exportación, sobre todo las normas del Bureau of Industry and Security de Estados Unidos que restringen el envío de las GPU de centro de datos de primer nivel a ciertos destinos. Lo que esto significa en la práctica para un comprador:
- La disponibilidad de aceleradores tope de gama difiere según el mercado de destino; los destinos restringidos no pueden recibir legalmente ciertos SKU
- Los vendedores pedirán información de usuario final y uso final en los modelos controlados; tómelo como señal de una contraparte legal, no como fricción
- La normativa cambia; lo que rige su envío es el conjunto de reglas vigente, no el resumen del año pasado
Lo decimos con claridad en nuestros propios términos: los pedidos pueden requerir información de usuario final, y rechazamos las operaciones que no puedan cumplirse legalmente. Una guía dedicada de esta serie desgrana las normas para compradores internacionales con más profundidad.
Canales de suministro y plazos
Tres grandes canales suministran sistemas GPU. La asignación OEM (pedir un sistema configurado por los canales de Dell, HPE, Supermicro o Lenovo) entrega sistemas nuevos con garantía, con plazos que se alargan cuando la demanda se dispara. El mercado secundario y reacondicionado se mueve más rápido y pone precios atractivos a las generaciones anteriores, con la calidad dependiendo por completo de la verificación. Las empresas comerciales como la nuestra abarcan ambos: buscamos GPU y plataformas nuevas o reacondicionadas, las verificamos y consolidamos, y las enviamos con documentación de exportación desde Hong Kong o China continental. Qué canal gana depende de si su restricción es el presupuesto, el plazo o la cobertura de garantía.
Un ejemplo resuelto del camino de decisión
Un comprador quiere hacer fine-tuning de modelos abiertos medianos y servirlos a unos pocos miles de usuarios. Camino de decisión: la carga de trabajo mezcla entrenamiento e inferencia; la capacidad de memoria importa más que la interconexión pico, así que de 4 a 8 aceleradores PCIe de clase H100/A100 ganan en coste a una placa base SXM; tarjetas A100 80GB reacondicionadas con procedencia documentada reducen a la mitad el presupuesto de silicio; la plataforma es un chasis 4U con alimentación redundante y scratch NVMe; la comprobación de la instalación confirma que el rack puede alimentarlo. Esa es una especificación completa y defendible, y cada paso es una conversación que mantenemos con compradores cada semana.
Preguntas frecuentes
¿Cuál es la diferencia entre un servidor GPU y un servidor normal?
Un servidor GPU se construye alrededor de la alimentación y la refrigeración de los aceleradores: fuentes de mayor potencia, flujo de aire diseñado para tarjetas o módulos a carga sostenida, y topología PCIe o SXM para conectarlos. Un servidor normal a veces puede alojar una o dos tarjetas; un servidor GPU está diseñado para la dotación completa.
¿Debería comprar o alquilar cómputo GPU?
Alquilar gana para trabajo puntual o exploratorio; comprar gana cuando la utilización es sostenida, cuando la gravedad de los datos o la privacidad importan, o cuando el precio de la GPU en la nube supera el coste amortizado del hardware para su ciclo de uso. Muchos equipos alquilan para prototipar y compran para producción. Una guía aparte de esta serie desarrolla la aritmética.
¿Son fiables las GPU de centro de datos reacondicionadas?
Las tarjetas de centro de datos están diseñadas para operación continua, y las tarjetas de flota bien retiradas, con resultados de prueba por tarjeta, tienen una vida útil larga. El riesgo se concentra en la procedencia y las pruebas, no en el concepto del silicio: compre stock clasificado, probado y documentado a un vendedor responsable.
¿Cuánta potencia necesita un servidor de 8 GPU?
Los nodos SXM tope de gama de 8 GPU consumen del orden de 10 kW bajo carga; las configuraciones PCIe menos, pero aún muy por encima del cableado de una oficina normal. Confirme la potencia y la refrigeración de la instalación antes de pedir, no después de la entrega.
¿Puedo ampliar un servidor de 4 GPU a 8 GPU más adelante?
En plataformas PCIe, solo si el chasis, las fuentes y el flujo de aire se dimensionaron para ello desde el principio. Las placas base SXM son configuraciones fijas. Si el crecimiento es probable, compre la plataforma mayor con menos tarjetas y vaya poblándola con el tiempo.
¿Está adquiriendo este hardware?
AXISLINK abastece a compradores empresariales de todo el mundo desde Hong Kong y China continental, con documentación de exportación y flete gestionados. Envíe sus requisitos y reciba una cotización formal, normalmente en 24 horas.
Solicitar cotización