Kouran sant done AI fè fas a de obstak debaz nan dekale, ak echèl tradisyonèl - moute ak echèl - soti modèl yo ap konbat yo satisfè giga - Echèl AI demand:
Echèl - moute limit: Reyalize pa amelyore sistèm sèl oswa manto (egzanp, ogmante konte GPU oswa amelyore sèl - pèfòmans aparèy), men contrainte pa plafon pouvwa soti nan enfrastrikti tankou refwadisman dlo. Sant done ki egziste deja gen limit fizik pou opinyon pouvwa ak dissipation chalè, anpeche ogmantasyon enfini nan dansite kalkile pou chak etajè oswa sant done.
Echèl - soti limit: Elaji pa ajoute manto ak serveurs nan grap echèl, men limite pa espas fizik la nan yon pidevan sèl, enpoze bouchon difisil sou kapasite ekipman yo.
Simonte dilèm sa a, Nvidia pwopoze nouvo dimansyon "echèl - atravè," optimize kominikasyon rezo ant sant done jewografik gaye pou fè distribye AI grap kolabore kòm youn. NVIDIA fondatè ak CEO Jensen Huang dekri sa a kwa - rejyonal AI Super faktori kòm enfrastrikti kle pou AI Revolisyon Endistriyèl la, ak Spectrum - XGS kòm Teknoloji Nwayo Enabler.
Nwayo teknoloji nan spectre - xgs
Spectrum - XGS se pa yon platfòm pyès ki nan konpitè antyèman nouvo men yon evolisyon nan spectre ki deja egziste Nvidia a - x ekosistèm Ethernet. Depi lansman 2024 li yo, Spectrum - x te delivre 1.6x pi wo jeneratif pèfòmans rezo AI pase Ethernet tradisyonèl via spectre la - 4 achitekti a SN5600 switch ak BlueField - 3 DPUs, vin chwa a prensipal pou AI done yo santral lè l sèvi avèk NVIA NV EDIA. Zouti a nan spectre-xgs manti nan twa innovations algorithmic ak sinèji pyès ki nan konpitè ki adrese latansi kominikasyon, konjesyon, ak defi senkronizasyon nan kwa-rejyonal GPU grap.
1.Core Algoritm: Adaptasyon dinamik nan Long - Distans Rezo Karakteristik
Spectrum - Nwayo XGS a se yon seri "distans - okouran algoritm optimize rezo" ki analize paramèt kle nan kwa - done - kominikasyon sant nan reyèl -} tan, modèl trafik, Konkwès, Konkwès, Konkwès, Konkwès, Konkwès, Konkwès, Konkwès, Konkwès, Konkwès, Konkwès, Konkwès, Konkwès, Konkwès, Konkwès yo, Konkwès yo, Konkwès, Konkwès, Konkwès, Konkwès, Konkwès, Konkwès Center, Center Center {{4}
Distans - Kontwòl konjesyon adaptasyon:Kontrèman ak tretman inifòm tradisyonèl Ethernet nan tout koneksyon, Spectrum - XGS algoritm otomatikman ajiste limit konjesyon ki baze sou distans aktyèl ant sant done (kounye a sipòte deplwaman jiska dè santèn de kilomèt), evite pèt pake oswa rasanbleman nan lontan -}}}}}.
Jesyon egzak latansi:Atravè pou chak - pake amann - Grenne routage adaptasyon, li elimine jitter latansi soti nan retransmisyon pake nan rezo tradisyonèl yo. Jitter se yon danje kritik nan AI grap: Si yon sèl GPU ram akòz reta, tout GPU kolabore dwe rete tann, dirèkteman afekte pèfòmans an jeneral.
Fen - pou - fen telemetrik: Reyèl - Koleksyon tan nan plen - done pèfòmans lyen soti nan GPUs switch ak kwa - done - lyen sant bay milisgond - nivo fidbak pou algoritm ajisteman.
2. Sinè pyès ki nan konpitè: swe Spectrum - x segondè ekosistèm lan - Fondasyon Pleasant
Spectrum - XGS reyalize pèfòmans optimal lè konbine avèk pyès ki nan konpitè NVIDIA espesifik:
Spectrum - X switch: Kòm zo rèl do a rezo kache, bay segondè dansite pò ak ki ba - voye latansi.
ConnectX-8 Supernic: 800 GB/s AI - adaptè rezo dedye pou segondè - vitès done transfè ant GPUs ak switch.
Blackwell Achitèk Materyèl: Tankou B200 GPUs ak GB10 Superchips, pwofondman entegre ak Spectrum - xgs diminye fen - a - latency fen. NVIDIA valide nan NCCL (Kolektif Kominikasyon Bibliyotèk) referans: Spectrum - xgs ranfòse pèfòmans kominikasyon ant kwa - done - GPUs pa 1.9x pandan y ap kontwole fen - { Santi reponn ak lag - gratis pou entèraksyon itilizatè, satisfè reyèl - tan kondisyon pou AI enferans.
Plen - chemine optimize pou AI fòmasyon ak efikasite enferans ak spectre - xgs
Spectrum - XGS se pa yon teknoloji izole men yon adisyon kle nan Nvidia a plen - chemine AI ekosistèm. Nan lage sa a, NVIDIA tou devwale lojisyèl - pèfòmans nivo amelyorasyon ki synergize ak spectre - XGS pou pyès ki nan konpitè - algorithm - kolaborasyon lojisyèl:
Dynamo Software Upgrade: Optimized pou Blackwell Achitèk (egzanp, B200 sistèm) ranfòse AI modèl pèfòmans dediksyon pa jiska 4x, siyifikativman diminye kalkile konsomasyon pou gwo modèl enferans.
Spéculatif dekodaj teknoloji: Sèvi ak yon modèl ti bouyon predi pwochen siy la pwodiksyon nan modèl la AI prensipal davans, diminye kalkil modèl prensipal la ak amelyore pèfòmans dediksyon pa yon lòt 35%. Sa a se espesyalman adapte pou senaryo enferans konvèsasyon nan modèl lang gwo (LLMs).
Direktè Depatman Computing NVIDIA a Computing Dave Salvator deklare ke objektif debaz la nan optimizasyon sa yo se echèl anbisye aplikasyon AI AI. Si fòmasyon billions - modèl paramèt gwo oswa sipòte sèvis AI enferans pou dè milyon de itilizatè similtane, konbinezon an nan spectre - XGS ak ekosistèm nan lojisyèl delivre pèfòmans previzib.
Aplikasyon bonè ak enpak endistri nan spectre - xgs
Premye Itilizatè yo: Coreweave Pyonye Cross - Domèn AI Super faktoriFounisè sèvis GPU Cloud CoreWeave se nan mitan premye moun ki abite yo nan spectre - xgs. Ko konpayi an - fondatè ak CTO Peter Salanki te note ke teknoloji sa a pral pèmèt kliyan li yo jwenn aksè nan giga - kapasite AI AI, avans akselere nan tout endistri yo. Pou egzanp, sipòte ultra - gwo - Echèl AI pwojè tankou inisyativ la Stargate soti nan Oracle, SoftBank, ak Openai.
Tandans endistri: Ethernet ranplase Infiniband kòm AI rezo endikapMalgre ke Infiniband ki te fèt sou 80% nan mache a rezo AI AI nan 2023, endistri a se rapidman chanje nan Ethernet. Chwa Nvidia a yo devlope Spectrum - xgs sou Ethernet aliyen ak tandans sa a:
Konpatibilite ak avantaj pri:Ethernet se estanda inivèsèl la pou sant done mondyal, plis abitye nan enjenyè rezo, ak pi bon mache deplwaye pase Infiniband.
Pwojeksyon echèl mache:Dell'oro Gwoup Done montre Ethernet Done Center switch mache a pral rive nan prèske $ 80 milya dola sou senk ane kap vini yo.
Pwòp kwasans Nvidia a: 650 rapò gwoup endike NVIDIA kòm "pi rapid - machann k ap grandi" nan 2024 mache a sant done switch, ak revni biznis rezo li yo rive $ 5 milya dola nan Q 2 2024 (ki fini 27 avril), moute 56% ane - sou -}}}} ane.
Lansman Spectrum - xgs finn plen - Estrateji monopòl nan enfrastrikti AI, pandan y ap lite nouvo dinamik konpetitif:
Nvidia a plen - Layout chemine: Soti nan GPUs (Blackwell), konekte (NVLink/NVLink switch), rezo (Spectrum - x/spectre - xgs, quantum - x infiniband) nan lojisyèl (cuda, tensorm {{3} fòme yon bouk fèmen ki kouvri "kalkile - konekte - lojisyèl" pou AI enfrastrikti. Spectrum - xgs synergizes ak nvLink pou twa - Nivo Eskalad: Intra - etajè (nvLink), andedan - done - sant (spectre {{12} x), ak 11}} sant (Spectrum - {ak 11}}, ak {} Cross - done - sant (spectre - xgs).
Repons konpetitè yo: Pi bonè Broadcom a Sue teknoloji aksyon menm jan ak objektif ak Spectrum - XGS, vise yo optimize pèfòmans Ethernet yo fèmen espas sa a ak Infiniband. Anplis de sa, fournisseurs tankou Arista, Cisco, ak Marvell ap akselere AI - switch Ethernet dedye, ak konpetisyon ki konsantre sou pèfòmans - pri - konpatibilite ekosistèm.
Valè debaz la nan Spectrum - Xgs manti nan pouse AI done sant dekale soti nan "sèl - kontrent sit" nan "kwa - kolaborasyon rejyonal yo." Kòm pouvwa ak peyi vin limit difisil pou sant done sèl, kwa - City ak Cross - Peyi ai Super faktori yo ap vin fòm nan debaz sipòte pwochen - aplikasyon pou AI jenerasyon (egzanp, jeneral entèlijans atifisyèl, gwo - grap ajan echèl).
Kòm rezo NVIDIA a Depatman Senior Vis Prezidan Gilad Shainer previewed nan Konferans Chips Hot: "Cross - done - sant fib optik rezo yo te egziste depi lontan, men algoritm lojisyèl tankou Spectrum -.
