ÐÇ¿Õ¡¤(Öйú)µç×Ó¹Ù·½ÍøÕ¾



ÔÚÏ߼ƼÛ
ÓïÑÔ

ÖÐÎÄ English

ÐÂÎŶ¯Ì¬

AI·þÎñÆ÷µÄºËÐÄÖ®GPU¼ÓËÙ¿¨

2024.10.17

AI·þÎñÆ÷ VS ͨÓ÷þÎñÆ÷


ͨÓ÷þÎñÆ÷


ͨ³£Å䱸2¸öCPU£¬¾ß±¸¸ü¼Ó×ۺϵļÆËãÄÜÁ¦¡¢´æ´¢ÄÜÁ¦ºÍÍøÂçÄÜÁ¦£¬ÒÔÂú×ã¸÷ÖÖÊý¾ÝµÄ´¦ÀíºÍ¼ÆËãÐèÇó£¬ÍùÍùÓÃÓÚ´«Í³µÄ¼ÆËãÈÎÎñºÍÍøÂçÓ¦Óᣠ


ÎÞ±êÌâ22.png

ͼԴ£º»ªÎª¹ÙÍø



AI·þÎñÆ÷



ͨ³£²ÉÓÃÒì¹¹ÐÎʽ£¬³ýÁË2¸öCPUÖ®Í⻹ÐèÅ䱸4-8ÕżÓËÙ¿¨,ÀýÈçCPU+GPU¡¢CPU+TPU¡¢CPU+ÆäËûµÄ¼ÓËÙ¿¨µÈ£¬AI·þÎñÆ÷¾ß±¸´óÁ¿µÄ²¢ÐмÆËãÄÜÁ¦£¬Òò´ËÐèÒª²ÉÓøü¸ßÐÔÄܵĴ¦ÀíÆ÷¡¢´óÁ¿µÄÄÚ´æºÍ´æ´¢×ÊÔ´ÒÔ¼°ÊÊÓÃÓÚAI¼ÆËãµÄ¼ÓËÙ¿¨¡£


ÔÚÓ¦Óó¡¾°·½Ã棬AI·þÎñÆ÷Ö÷ÒªÕë¶Ô´óÊý¾Ý¡¢¿Æѧ¼ÆËã¡¢È˹¤ÖÇÄܵȼÆËãÃܶȽϸߡ¢Êý¾Ý´¦ÀíÅÓ´óµÄ³¡¾°¡£ 


ÎÞ±êÌâ333.png

ͼԴ£º»ªÎª¹ÙÍø


GPU¼ÓËÙ¿¨ÊÇAI·þÎñÆ÷µÄ¹Ø¼ü


GPU¼ÓËÙ¿¨£¨OAM)£¬Ö÷ÒªÓÉGPUоƬ¡¢ÄÚ´æоƬ¡¢µçÔ´Ä£¿é¡¢É¢ÈÈÆ÷µÈ²¿¼þ×é³É£¬Í¨¹ýPCBÀ´Á¬½ÓºÍ´«ÊäÐźÅ¡£


GPU¼ÓËÙ¿¨¿ÉÒÔ·ÖΪÁ½ÖÖÀàÐÍ£ºSXM°æ±¾ºÍPCIE°æ±¾¡£SXM°æ±¾ÊÇָʹÓÃNVIDIA¹«Ë¾¿ª·¢µÄSXM½Ó¿ÚÁ¬½ÓGPUоƬºÍÖ÷°åµÄ¼ÓËÙ¿¨£»PCIE°æ±¾ÊÇָʹÓñê×¼µÄPCIE½Ó¿ÚÁ¬½ÓGPUоƬºÍÖ÷°åµÄ¼ÓËÙ¿¨¡£


0da2ddb428f26.png

SXM°æ±¾ VS PCIE°æ±¾


SXM°æ±¾Ïà±ÈPCIE°æ±¾¾ßÓиü¸ßµÄ´ø¿íºÍ¸üµÍµÄÑÓ³Ù£¬µ«Ò²ÐèÒª¸ü¸ß¼¶±ðµÄPCBºÍÉ¢ÈÈϵͳ¡£


GPU¼ÓËÙ¿¨ÊÇÄ¿Ç°PCBÐÐÒµÖи߶ËÇÒ°º¹óµÄ²úÆ·Ö®Ò»£¬¶ÔÖÆÔ칤ÒÕÒªÇó·Ç³£¸ß£¬Ò»°ã»áÓõ½5-7½×HDI£¬²ãÊýÔÚ20-26²ã¡£


GPU¼ÓËÙ¿¨¶ÔPCBµÄÒªÇóÖ÷ÒªÓÐÒÔϼ¸µã£º


BGAоƬ¸ßÃܶȲ¼¾Ö

GPUºÍÄÚ´æBGAоƬÓкܶàÒý½ÅºÜ¶à£¬ÐèÒª¶à²ãºÍ¶à½×HDI¹¤ÒÕÀ´ÊµÏÖ»¥Áª¡£


¸ßËÙÐźŴ«Êä

ÓÉÓÚGPU¼ÓËÙ¿¨ÉÏÓкܶà×é¸ßËÙÐźţ¬ÎªÁ˱£Ö¤ÐźŵĵÍËðºÄ´«ÊäÐèҪѡÔñ¾ßÓнϵ͵Ľéµç³£Êý£¨Dk£©¡¢½éµçËðºÄ£¨Df)¡¢±íÃæ´Ö²Ú¶È£¨Rz£©µÈ²ÎÊýµÄ¸ßËÙ°å²Ä½øÐмӹ¤¡£


¿É¿¿ÐÔ

ÓÉÓÚGPU¼ÓËÙ¿¨ÐèÒª³¤ÆÚÎȶ¨ÔËÐУ¬Òò´ËÔÚÑ¡Óðå²ÄµÄʱºòÐèÒª°å²Ä¾ßÓнϸߵĵ¼ÈÈϵÊý£¨K)ºÍ½ÏµÍµÄÈÈÅòÕÍϵÊý£¨CTE£©±£Ö¤PCBµÄÈÈÎȶ¨ÐÔ¡£


ͬʱÐèÒª°å²Ä¾ßÓнϸߵIJ£Á§»¯×ª±äζȣ¨Tg)¡¢½ÏµÍµÄË®·ÖÎüÊÕÂÊ£¨MOT)¡¢½ÏÇ¿µÄ»úеǿ¶ÈºÍÄÍ»¯Ñ§¸¯Ê´ÐÔ¡£


666666.png

7½×HDI 26²ã GPU¼ÓËÙ¿¨£¨¾Ö²¿Í¼£©

Ã÷Ñôµç·Éú²ú


GPUÄ£×é°åÊÇGPU¿ÉÀ©Õ¹µÄ¹Ø¼ü


GPUÄ£×é°å£¨UBB)£¬¼´Unit Base Board£¬ÓÃÓÚ´îÔضà¸öGPUÕûºÏΪ¾ØÕóƽ̨£¬ÎªGPUÖ®¼äºÍGPUÓëCPUÖ®¼ä£¬Ìṩ¸ßËÙµÄÊý¾Ý½»»»ÄÜÁ¦¡£


GPU-Board-Components.png

GPUÄ£×é°å£¨UBB) Óë GPU¼ÓËÙ¿¨£¨OAM£©

The NVIDIA DGX A100 GPU Board


GPU¼ÓËÙ¿¨£¬ÊÇÒ»ÖÖ»ùÓÚ¿ª·Å±ê×¼£¨Open Accelerator Module£©Éè¼ÆµÄGPUÄ£¿é£¬¿ÉÒÔ²åÈëµ½GPUÄ£×é°åÉÏ¡£


GPUÄ£×é°å£¨UBB) ¶ÔPCBµÄÒªÇóÖ÷ÒªÓÐÒÔϼ¸µã£º


²ãÊý

ÓÉÓÚGPUÄ£×é°åÐèҪͨ¹ý½»»»Ð¾Æ¬Á¬½Ó¶à¸öGPU¼ÓËÙ¿¨£¬²¢ÇÒÐèÒª¶à¸öµçѹµÄµçÔ´·ÖÅäÍøÂç(PDN)£¬Òò´Ë²ãÊýÒ»°ãÔÚ16²ãÒÔÉÏ¡£


¿×½á¹¹

ÓÉÓÚGPUÄ£×é°åµÄÃæ»ý±È½Ï´ó£¬Òò´Ë¿ÉÒÔÖ±½ÓʹÓÃͨ¿×À´ÊµÏÖ²»Í¬²ãÖ®¼äµÄ»¥Áª£¬Õë¶Ô¸ßËÙÐźŵĹý¿×¿ÉÒÔʹÓñ³×깤ÒÕÀ´¼õÉÙstub´øÀ´µÄÐźŷ´Éä¡£


¸ßËÙÐźŴ«Êä

GPUÄ£×é°åÉϵĽ»»»Ð¾Æ¬ºÍGPUÄ£×éÖ®¼äÓдóÁ¿µÄ¸ßËÙÐźÅÏߣ¬ÎªÁ˱£Ö¤ÐźŵĵÍËðºÄ´«Êä°å²ÄÐèҪѡÔñPPOµÈ¸ßÐÔÄÜÊ÷Ö¬²ÄÁÏ¡£


ÈÈÎȶ¨ÐÔ

GPUÄ£×é°åÓдóÁ¿µÄµçÔ´·ÖÅäÍøÂç(PDN)£¬Í¬Ê±»¹ÒªÊܵ½¶à¸öGPUÄ£×éºÍCPUĸ°æµÄÈÈ´«µ¼£¬ÐèҪѡÔñÓнϸߵĵ¼ÈÈϵÊý£¨K) ºÍ½ÏµÍµÄÈÈÅòÕÍϵÊý£¨CTE£©µÄ°å²Ä¡£


AI·þÎñÆ÷µÄCPUĸ°å


CPUĸ°å×é¼þ°üÀ¨CPU¡¢CPUÖ÷°å¡¢ÄÚ´æÌõ¡¢PCIe½»»»»ú¡¢Íø¿¨¡¢À©Õ¹¿¨ºÍ´æ´¢°å¡£ÒÔDGX A100 CPUĸ°åΪÀý£º

DGX-A100-CPU-motherboard.png

DGX A100 CPUĸ°å

ͼԴ£ºfibermall


CPUÖ÷°å

¸ºÔð°²×°CPUоƬ¡¢PCIE SwitchоƬ¡¢TPMÄ£¿éÒÔ¼°¸÷ÖÖ¹¦ÄÜ¿¨£¬CPUÖ÷°åÖ§³ÖAMD Rome 64ºË CPUºÍPCIE 4.0×ÜÏߣ¬PCB²ãÊýÒ»°ãΪ12-16²ã£¬²ÉÓÃͨ¿×Éè¼Æ£¬Ê¹ÓõÍËðºÄ°å²Ä¡£


CPUÄÚ´æÌõ

32¸öÄÚ´æÌõ£¬×î´óÖ§³Ö2TB RAM¡£


Íø¿¨

Mellanox ConnectXϵÁÐÓÐ10ÖÖÐͺţ¨8¸öµ¥¶Ë¿Ú200Gb/s IBºÍ2¸öË«¶Ë¿Ú200Gb/sÒÔÌ«Íø£©¡£


Riser¿¨

ÓÃÓÚÀ©Õ¹PCIe½Ó¿Ú¡£


Ó²ÅÌ°å

×°ÓÐÁ½¸ö 1.92TB M.2 NVMe Ó²ÅÌ¡£


ÎÄÕ²ο¼À´Ô´£º

Breaking down the Five Key Components of an AI Server-fibermall

AI·þÎñÆ÷/EGSƽ̨Éý¼¶À­¶¯¸ßËÙPCBÐèÇ󣬸ßËÙPCB²úÒµÁ´½âÎö-°²ÐÅ֤ȯ

ÉùÃ÷£ºÎÄÕÂÄÚÈÝÕûÀí×ÔÍøÂ繫¿ªËزģ¬°æȨ¹éÔ­×÷Õßƽ̨ËùÓУ¬½öÓÃÓÚÐÅÏ¢·ÖÏí£¬ÈçÓÐÇÖȨÇëÁªÏµÉ¾³ý¡£



ÉÏÒ»Ìõ£º µç¶¯´¬²°²úÒµ»¯»úÓö£ºÈýµçϵͳÓë²¹ÄÜÉèÊ©

ÏÂÒ»Ìõ£º ÈçºÎÉè¼Æ5GºÁÃײ¨»ùÕ¾£¿

·µ»ØÁбí
·Ö¹«Ë¾£ºµÂ¹úÃ÷Ñô  |  µÂ¹úÃ÷Ñô£¨¹¤³§£©  |  ÃÀ¹úÃ÷Ñô  |  ²É¹ºSRMƽ̨
°æȨ?2024 ÐÇ¿Õµç×Ó¹Ù·½ÍøÕ¾,ÐÇ¿Õµç×ÓÍøÕ¾¹ÙÍø. ÔÁICP±¸5454284072ºÅ     ¼¼ÊõÖ§³Ö£ºÉ³Ä®·ç
¡¾ÍøÕ¾µØͼ¡¿¡¾sitemap¡¿