27. desember publiserte IEEE Spectrum et blogginnlegg som rapporterte at startups Point2 og AttoTude har utviklet en "aktiv RF-kabel"-løsning som bruker radiofrekvens (RF)/terahertz (THB) teknologi. Denne løsningen kombinerer den lave kostnaden for kobberkabler med den lange-fordelen med fiberoptikk for å gi høy-utvidet tilkobling for rack-monterte AI-systemer.
Hastigheten til å trene AI-modeller avhenger av «skalere-ut» og «skalere-opp».
"Scale-out" kobler sammen flere datamaskiner via et nettverk for samarbeidende databehandling, som vanligvis krever lang-overføring og hovedsakelig er avhengig av fiberoptikk. «Oppskalering» på den annen side innebærer å pakke flere GPU-er inn i en superdatamaskin, slik at de kan samarbeide som en gigantisk hjerne, primært avhengig av kobberkabler for korte-forbindelser med høy-tetthet.
Point2s kabel består av åtte e-rørfibre, som hver er i stand til å overføre over 200 gigabit data per sekund.
Med Nvidias plan om å øke antall GPUer per system fra 72 til 576 innen 2027, skyter dataoverføringshastighetene til terabit-nivåer. På dette tidspunktet møter kobberkabler den fysiske grensen for "hudeffekten".
Hudeffekten refererer til fenomenet der, når vekselstrøm flyter gjennom en leder, jo høyere frekvens, jo mer har strømmen en tendens til å flyte på overflaten (huden) av lederen, noe som resulterer i sløsing med plass i midten og økt motstand.
Konfrontert med de fysiske flaskehalsene til kobberkabler og de høye kostnadene ved fiberoptikk, har startups Point2 Technology og AttoTude tatt en annen tilnærming, ved å bruke radiobølgeteknologi for å overføre data.
Point2 er i ferd med å masseprodusere-en polymerbølgelederkabel kalt "e-Tube", som inneholder en brikke som konverterer elektriske signaler til millimeter-bølgesignaler. Dens 1,6 Tb/s-versjon inneholder åtte tynne kjerner, hvor hver bølgeleder bruker både 90 GHz og 225 GHz frekvensbånd for å overføre data.
De pluggbare modulene i begge ender av kabelen kan konvertere digitale signaler direkte til modulerte millimeter-radiofrekvenssignaler. En enkelt kabel kan gi en total båndbredde på 1,6 Tb/s og en overføringsavstand på opptil 7 meter, tilstrekkelig for rackmontert-utvidelsesbehov.
e-Rørkabelen, som sender 1,6 terabit per sekund, har et tverrsnittsareal bare halvparten av en 32-gauge kobberkabel, men overføringsavstanden er 20 ganger større. (Bildekilde: Point2) RF-kabler løser ikke bare avstandsproblemet, men oppnår også gjennombrudd i energieffektivitet og kostnader. Point2-data viser at systemets strømforbruk og kostnad er bare en-tredjedel av optiske overføringsløsninger, med ventetid så lav som en tusendel.
I motsetning til dette, mens produsenter som Credo har introdusert aktive kabler (AEC) med innebygde- "retimers" for å forlenge kobberkabelens levetid, øker dette strømforbruket og kompleksiteten.
Et annet selskap, AttoTude, utforsker også lignende konsepter, men retter seg mot et høyere frekvensområde. Systemet integrerer et digitalt grensesnitt, en terahertz-signalgenerator og en mikser, som muliggjør datakoding på bærebølger fra 300 til 3000 GHz og overføring via en smal dielektrisk bølgeleder.
Selskapet har med suksess demonstrert en overføringshastighet på 224 Gb/s ved 970 GHz ved bruk av en 4-meter-lang bølgeleder, og forventer en fremtidig mulig overføringsavstand på omtrent 20 meter, noe som viser teknologiens potensial for langdistanseapplikasjoner.
AttoTude-grunnlegger Dave Welch påpeker at fotonikkteknologi lider av pålitelighetsproblemer som "link oscillation" og krever ekstremt høy produksjonspresisjon; mens radiofrekvensteknologi (RF), basert på modne elektroniske produksjonsprosesser, gir høyere pålitelighet og ikke krever mikrometer-nivåjusteringspresisjonen til optiske fibre.
Selv om RF-kabler i utgangspunktet vil vises i pluggbart grensesnitt, er det endelige målet for begge selskapene å integrere RF-sendere direkte i GPU-pakken. Nvidia og Broadcom forsøker for tiden å-sampakke optiske moduler med prosessorer (CPO), men står overfor betydelige produksjons- og varmeavledningsutfordringer.
Radiofrekvensløsninger (RF) gir, på grunn av deres lengre bølgelengder, langt større toleranse for pakkingsopprettingspresisjon enn fiberoptikk og reduserer kravene til varmespredning betydelig. Med koblingsgiganter som Molex og Foxconn på markedet, forventes denne "radiobølgeleder"-teknologien å erstatte noen kobberkabler og optiske fibre i fremtidige AI-datasentre, og bli en ny arterie for utvidelse av datakraft.
