Видеокарта или ИИ-ускоритель добавляет вычислительной мощности машине, которая у вас уже работает. Полка рассчитана на три типа покупателей. Командам дата-центров — PCIe-карты: H200 NVL со 141 ГБ HBM3, H100 80 ГБ и Atlas 300I Duo для инференса видео. Студиям и ИИ-лабораториям — профессиональные и игровые видеокарты, от RTX PRO 6000 на 96 ГБ до RTX 5090. Для периферийных решений — ускоритель M.2 на 160 TOPS, который встаёт в мини-ПК.
У видеокарты есть видеовыходы: она и выводит изображение на экраны, и считает. RTX 5090 и карты RTX PRO — видеокарты. Ускоритель вроде Atlas 300I Duo сделан только для вычислений — здесь это 280 TOPS инференса INT8 с аппаратными видеокодеками на плате — и стоит в слоте сервера без подключённого монитора.
Сначала смотрите на память: модель вместе с батчем должна поместиться на карту. У H200 NVL 141 ГБ, у RTX PRO 6000 Max-Q 96 ГБ, у RTX PRO 5500 84 ГБ памяти с ECC, у H100 80 ГБ, у RTX 5090 32 ГБ. Затем проверьте, что в корпусе есть подходящий слот (PCIe 5.0 или Gen4), а питания и охлаждения хватит на карту.
Для инференса на периферии — часто да. Карта M.2 добавляет 160 TOPS мини-ПК или встраиваемому контроллеру через слот M.2, и этого хватает на видеоаналитику или небольшую локальную языковую модель. Для обучения и больших моделей по-прежнему нужна полноценная видеокарта.
Зависит от модели. RTX 5090, Atlas 300I Duo и ускоритель M.2 продаются от одной штуки, H200 NVL — от двух, RTX PRO 5500 — от пяти, RTX PRO 6000 Max-Q и H100 — от десяти. Минимальный заказ указан на странице каждого товара.