Dell Pro Max GJG2K

DELL PRO MAX GB10 2 TB – 6144 JADIER CUDA A PAMÄŤ S PRIEPUSTNOSŤOU 273 GB/s

Dell Pro Max GB10 sa hodí nielen na spúšťanie hotových modelov AI, ale aj na ich dodatočné trénovanie pomocou firemných dát. Využívajú ho oddelenia zákazníckej podpory, e-commerce spoločnosti, firmy poskytujúce služby a výrobcovia s rozsiahlymi technickými dokumentáciami. Jedným z možných využití je dolaďovanie modelu pomocou metód LoRA a QLoRA, ktoré menia iba malú časť jeho parametrov. Model s veľkosťou až 70 miliárd parametrov si osvojí firemnú terminológiu, názvy produktov aj štýl odpovedí, takže pri každom použití už nepotrebuje dlhý prompt s kontextom.

UNIFIKOVANÁ PAMÄŤ NAMIETO OBMEDZENIA VRAM

Kľúčom je 128 GB unifikovanej pamäte s priepustnosťou 273 GB/s. Procesor a grafický čip využívajú rovnakú pamäť, takže model sa nemusí zmestiť do obmedzenej pamäte samostatnej grafickej karty, ako je to pri bežnej pracovnej stanici. Výpočty zabezpečuje superčip NVIDIA GB10 Grace Blackwell – jeho GPU s 6144 jadrami CUDA a jadrami Tensor 5. generácie dosahuje výkon až 1 PFLOP vo formáte FP4. Model možno dolaďovať lokálne bez toho, aby sa každá relácia účtovala podľa času využívania GPU v externej cloudovej službe.

PRIESTOR NA TRÉNINGOVÉ DÁTA A PRENOS 10 GbE

Na tréningové súbory dát, kontrolné body a hotové adaptéry slúži 2 TB disk M.2 NVMe PCIe Gen4. Počítač zaberá menej miesta ako hárok A5, váži 1,31 kg a napája sa pomocou externého 280 W zdroja Dell s konektorom USB-C. Dáta z súborového servera sa do počítača prenesú rýchlo cez port 10 GbE. Predinštalovaný systém NVIDIA DGX OS obsahuje CUDA, podporu kontajnerov a panel DGX Dashboard. Dolaďovaný model možno následne spustiť na tom istom počítači alebo ho presunúť na produkčný server.