Kompania Chip-Chip-e drejtuar nga Jim Keller TenSTorrent ka lëshuar procesorin e saj të gjeneratës së ardhshme Wormhole për ngarkesat e punës të AI, të cilën pret të ofrojë performancë të mirë me një çmim të përballueshëm.Kompania aktualisht ofron dy karta shtesë PCIE që mund të strehojnë një ose dy përpunues të krimbave, si dhe stacione pune TT-Loudbox dhe TT-Quietbox për zhvilluesit e softuerëve. Të gjitha njoftimet e sotme kanë për qëllim zhvilluesit, jo ata që përdorin bordet e krimbave për ngarkesa tregtare.
"Alwaysshtë gjithmonë mirënjohëse të marrësh më shumë produkte tona në duart e zhvilluesve. Sistemet e zhvillimit të lëshimit duke përdorur kartat tona WormHole ™ mund të ndihmojnë zhvilluesit të shkallëzojnë dhe të zhvillojnë softuer me shumë chip AI," tha Jim Keller, CEO i TenSTorrent.Përveç këtij fillimi, ne jemi të ngazëllyer për të parë përparimin që po bëjmë me kasetë dhe fuqinë e produktit tonë të gjeneratës së dytë, Blackhole. "
Secili procesor i krimbit përmban 72 bërthama Tensix (pesë prej të cilave mbështesin bërthamat RISC-V në formate të ndryshme të të dhënave) dhe 108 MB SRAM, duke ofruar 262 FP8 TFLOPS në 1 GHz me një fuqi të projektimit termik prej 160W. Karta N150 e krimbit me një çip është i pajisur me memorie video GB GDDR6 GB dhe ka një gjerësi bande prej 288 GB/s.
Procesorët e krimbave ofrojnë një shkallëzim fleksibël për të përmbushur nevojat e ndryshme të ngarkesave të punës. Në një konfigurim standard të stacionit të punës me katër karta Wormhole N300, procesorët mund të kombinohen në një njësi të vetme që shfaqet në softuer si një rrjet bazë i unifikuar, i gjerë Tensix. Kjo konfigurim lejon përshpejtuesin të trajtojë të njëjtën ngarkesë pune, të ndahet midis katër zhvilluesve ose të shkojë deri në tetë modele të ndryshme të AI njëkohësisht. Një tipar kryesor i kësaj shkallëzimi është se mund të funksionojë në vend pa pasur nevojë për virtualizim. Në një mjedis të qendrës së të dhënave, përpunuesit e krimbave do të përdorin PCIE për zgjerim brenda makinës, ose Ethernet për zgjerim të jashtëm.
Për sa i përket performancës, kartela N150 e krimbit me një çip TenSTORRENT (72 bërthama Tensix, frekuencë 1 GHz, 108 MB SRAM, 12 GB GDDR6, 288 GB/S Bandwidth) e arritur 262 FP8 TFLOPS në 160W, ndërsa Bordi i Krimbit të Dual-Chip N300 (128 Tensix Cores, 1 GHZ Frekuenca, 192 MB SRAM, ndërsa Bordin e Krimbave të Dual-Chip N300 (128 Tensix Cores, 1 GHZ, 192 MB SRAM, ndërsa GREP-CHIP CHIP CHIP. GB GDDR6, 576 GB/S Bandwidth) jep deri në 466 FP8 Tflops në 300W.
Për të vendosur në kontekst 300W nga 466 FP8 Tflops, ne do ta krahasojmë atë me atë që udhëheqësi i tregut të AI po ofron Nvidia në këtë fuqi të projektimit termik. A100 i NVIDIA nuk e mbështet FP8, por ai mbështet Int8, me performancën kulmore të 624 majave (1.248 maja kur janë të pakta). Në krahasim, H100 i NVIDIA mbështet FP8 dhe arrin performancën kulmore prej 1.670 TFLOPS në 300W (3,341 TFLOPS në SCARSE), e cila është dukshëm e ndryshme nga krimbi i TenSTorrent's N300.
Sidoqoftë, ekziston një problem i madh. Wormhole N150 i TenSTorrent me pakicë për 999 dollarë, ndërsa N300 shet për 1,399 dollarë. Për krahasim, një kartë grafike e vetme NVIDIA H100 paketohet për 30,000 dollarë, në varësi të sasisë. Sigurisht, ne nuk e dimë nëse katër ose tetë përpunues të krimbave në të vërtetë mund të japin performancën e një H300 të vetme, por TDP -të e tyre janë përkatësisht 600W dhe 1200W.
Përveç kartave, TenSTORRENT ofron stacione pune të para-ndërtuara për zhvilluesit, duke përfshirë 4 karta N300 në TT-Counbox me bazë më të përballueshme me Xeon me ftohje aktive, dhe TT-Quietbox të përparuar me funksionin e ftohjes së lëngshme me bazë EPYC).
Koha e Postimit: Korrik-29-2024