Con una tarjeta gráfica o un acelerador de IA, una máquina que ya está funcionando gana capacidad de cálculo. Para centros de datos hay tarjetas PCIe como la H200 NVL con 141 GB de HBM3, la H100 80 GB y la Atlas 300I Duo, pensada para inferencia de vídeo. Estudios y laboratorios de IA encuentran gráficas de estación de trabajo y gaming, desde la RTX PRO 6000 de 96 GB hasta la RTX 5090. Y en el edge, un acelerador M.2 de 160 TOPS cabe dentro de un mini PC.
La tarjeta gráfica tiene salidas de vídeo, así que mueve pantallas además de calcular: la RTX 5090 y las RTX PRO son gráficas. Un acelerador como la Atlas 300I Duo solo calcula, en este caso 280 TOPS de inferencia INT8 con códecs de vídeo en la propia tarjeta, y va en una ranura del servidor sin monitor conectado.
Lo primero es la memoria, porque el modelo y su batch tienen que caber en la tarjeta. La H200 NVL lleva 141 GB de memoria ECC, la RTX PRO 6000 Max-Q 96 GB y la RTX PRO 5500 84 GB, mientras que la H100 tiene 80 GB y la RTX 5090, 32 GB. Después compruebe que el chasis tiene la ranura adecuada (PCIe 5.0 o Gen4) y la alimentación y la refrigeración que pide la tarjeta.
Para inferencia en el edge, muchas veces sí: la tarjeta M.2 suma 160 TOPS a un mini PC o a un controlador embebido a través de una ranura M.2, suficiente para analítica de visión o para un modelo de lenguaje pequeño en local. Entrenar o mover modelos grandes sigue pidiendo una GPU completa.
Depende del modelo. La RTX 5090, la Atlas 300I Duo y el acelerador M.2 se venden desde una unidad, la H200 NVL desde dos, la RTX PRO 5500 desde cinco y la RTX PRO 6000 Max-Q y la H100 desde diez. El mínimo figura en la página de cada producto.