2024. május 29., szerda

Gyorskeresés

Következő projekt, CMP 100-210 avagy TitanV/V100 mining edition

Írta: |

[ ÚJ BEJEGYZÉS ]

Ebayen találtam egy eléggé érdekes kártyát. CMP 100HX néven ami nem mond sokat számomra, így keresgéltem de alig van infó. Másik nevén CMP 100-210 12Gb, de létezik belőle CMP 100-200 6Gb típus is.

Annyit tudok róla hogy a 200-as vezió gyakorlatilag egy Titan V fele ramra butítva, a 210-es pedig egy Tesla V100 12Gb ramra butítva.

Így gondoltam egyet és meg is rendeltem a 210-est mert bár esélyes hogy a 6Gb-os verzió unlockolható 12Gb-ra de szinte semmi infó nincs így nem akartam még több kérdőjelet tologatni a projektben és a biztos 12Gb-os verziót választottam. A kártya már úton van de közben gyűjtögetem az infókat, drivereket, mindent ami szükséges lesz beüzemelni.
A kártya amúgy 50eft + 9eft szállítás volt de még vámolni is fogják szóval olyan 30%-ot még erre rá kell számolni (nem volt se vám se áfa). Innen vettem: https://www.ebay.com/itm/126340047513


Na de mit is látunk? Látszólag egy totál szabvány Tesla V100 a szokásos hűtővel (de a műanyag díszléc hiányzik hozzá). Ugyan ezen hűtő van a K80, M40, M60, M100, P40....stb szóval szokásos átfújós szerverhűtés így kell hozzá építenem egyedit hogy normál gépben is tudjam használni.
Most egy kompakt készül hozzá: [link] ventinek egy teljesen szabványos és olcsó Foxconn PVB120G12H-P01 lesz ami megtalálható Dell Optiplex 9010 7010 390 790 990 SFF gépekben azaz nagyon elterjedt. Csodát nem kell várni mert ezzel esélyes hogy nem lesz halk maxra terhelve.

Tápcsati is a teslákon megszokott 8pin eps amely 330w max, igazából egy vagy kettő 6+2pin pcie tápcsati elég lesz hozzá, bőven túl van biztosítva a szabvány.
Viszont nem szándékozom a full 250w módban használni a kártyát, totál fölösleges kiélezni ha fele TDP-vel kb 10-20% teljesítményt veszítek csak. Azaz Cuda módra ChatGPT LLM munkára a kártya elég nagy része nem is lesz kihasználva, leginkább a Vram ami dolgozni fog.
Azaz nvidia-smi-vel lövöm be majd a szükséges TDP-t
nvidia-smi -pm ENABLED
nvidia-smi -pl 125

Mit is várok a kártyától? Sajnálatos módon rengeteg buktató van és nagyon kevés az infó. Techpower up adatbázisában sem szerepel, valószínűleg a GPU-Z sem fogja felismerni. Ezen kártyákat közvetlenül nvidiától lehetett egyedi módon rendelni nagyobb bányászfarmokra USA piacon, sima átlag user nem vehetett ilyet. Ilyen kártya még a CMP 170HX ami inkább kínában terjedt el és az GA100 erősen nyesett verziója.

Optimista leszek:
Titan V drivere jó hozzá mindenféle mókolás nélkül, tensor magok is működnek rajta, esetleg még játékra is alkalmas lesz (legkevésbé valószínű)
Pesszimista leszek:
windows driver nem lesz hozzá, nvidia letiltotta a tensor magokat (sajnos esély megvan rá), pcie limitált lesz 1x 1.1 módban (bár ez nem akkora tragédia)

Nézzük a specifikációt, azaz feltételezzük hogy nincs nyesve a kártya.
GV100 GPU, ez a Volta GPU pont számításokra és AI-ra optimalizálva.
CORES: 5120
TMUS :320
ROPS :128 (vagy 96?)
Tensor cores :640
MEMORY SIZE : 12 GB
MEMORY TYPE: HBM2
BUS WIDTH: 3072 bit
Bandwidth 651.3 GB/s

Látható hogy hízott egy jószág, ez még a Pascal és Turing közé helyezhető szóval nem mai darab. Nem játékra készült de ha be kellene lőni akkor valahol a 2080Ti szinten helyezkedik el teljesítményben (eleve több feldolgozója van). Akár lehetne vele játszani is amenyiben megvan hozzá a szükséges feltört driver mert alapesetben csak számításokra alkalmas ezen bányász verzió. Érdemes megemlíteni hogy bár vannak (elmélteben működő) tensor magja de úgy tudom csak nem hivatalosan támogat ray tracinget, ha bekapcsoljunk akkor 2080Ti szint alatt fog teljesíteni mert ez még a korábbi tensor magokat tartalmazza.
Ramsávszél a kiadásakor soknak számított, ma már HBM-hez képest inkább kevés. Hogy viszonyítani lehessen a korabeli 1080Ti 3584 feldolgozós volt, a 2080ti pedig 4352 feldolgozós de itt valamivel kevesebb az órajel a feldolgozóknál.

Összeségébe várom hogy nekikezdtjek mert egy aránylag rika GPU-val szerelt kártya, ugyanakkor számítanom kell rá hogy nvidia igen sokat megtett azért hogy ne legyen alkalmas bányászaton kívül másra hiába van ott minden ami kell.

UPDATE:
Előzetes infók alapján 16Gb-os a kártya, teljes sávszélt megkapta, valamint nincsenek nyesve a magok és a tensor feldolgozók is ott vannak.
UPDATE 2.
Lassan megérkezik, áfát nem kellet rá fizetnem mert német címről jött.
most már csak 2x-es áron érhető el. [link]

Hozzászólások

(#1) strike-force


strike-force
őstag

En varom, nagyon "fingers crossed" ahogy a német mondja! :D

R7-5800X / 32GB / RTX3070 / POCO_F3 (8/256) / i12 64GB - Just realize it!

(#2) MasterDeeJay válasza strike-force (#1) üzenetére

Érdekes lesz mert ezen kártyáknak USA piac volt a céljuk azaz elvileg de tényleg csak elmélkedés alapján kevésbe lehetnek tiltogatva. Kínának nem akartak eladni olyan tech-et amely továbbhasználható más célra.
Ami buktató lehet és attól tartok a leginkább hogy le lesz tiltva róla jópár számoláshoz szükséges feature. Volta kártyák tipikusan számolásra lettek alkotva azaz nem 3D-re.
Ugyanakkor abban is reménykedek hogy egy egyszerű bios cserélve V100-assá varázsolom, ne adj isten még az extra vram is feloldóik, már ha találok egyáltalán v100-as biost ami hasonló.
Rengeteg tényező van. Az sincs kizárva hogy semmire nem lehet használni mert mondjuk csak linux alatt megy csak bányászprogikkal.
Tehát ami tiltva lehet:
tensor magok (kritikus, részeben értemét veszíti a projekt)
float számolások lassítva lennének. (szintén kritikus)
Pcie sávok 1x vagy 4x-re limitálva 1.1 módban (részemről nem befolyásoló tényező, játékoknál esetleg de nem arra kell, ez egyébként nagyon esélyes hogy így lesz)
Windows driver nincs hozzá (99% hogy tesla vagy titan V drivere moddolva ráeröltethető)

[ Szerkesztve ]

Vintage Story PH szervere újra fut!

(#3) MasterDeeJay

Lassancskán jönnek az infók:
Úgy néz ki 16Gb-os lesz azaz nincs nyesve az ram vezérlője. 4096bit megmaradt a tesla V100 felépítéséből. Ez ugye egy jó hír mert így máris a TitanV fölé kerülhet teljesítményben. 897.0 GB/s a sávszél nem pedig 651.3 GB/s. Valamint működik képgenerálásra (stable diffusion) is de nincs infó hogy mennyire gyorsan.
https://forums.servethehome.com/index.php?threads/nvidia-cmp-100hx-cmp100-210-tensor-cores-working.43491/

Vintage Story PH szervere újra fut!

(#4) MasterDeeJay

Dupla pontosságban nyesve van bár lehet csak driveresen. Pcie sávszélek sem teljesek.
Tensor magok fizikailag ott vannak (640db) RT-t hivatalosan nem támogat (nincs RT core, tensor magokkal elvileg lenne gyakorlatban kérdéses), az még kérdeéses de nekem nem lesz rá szükség, nem játékra kell.
Ramsávszél és ramok teljes értékűek.
Memory read a pcie 1x 1.1 miatt ilyen gyenge, számításokban nem lesz jelentősége mivel nagyrészt nem fog a cpu-val beszélgetni. (LLM modell ha lesz akkor olyan ami belefér a vramba az meg eleve rohadt gyors)


[ Szerkesztve ]

Vintage Story PH szervere újra fut!

(#5) MasterDeeJay

Kártya jövő hétre itt lesz nyomkövetés alapján.
Techpowerupra felkerültek a specifikációk kérésemre az összeszedett infók alapján. (nem teljesen pontos mert tápja csak 1db 8pin eps de javíttatom)

https://www.techpowerup.com/gpu-specs/cmp-100hx-210.c4202

[ Szerkesztve ]

Vintage Story PH szervere újra fut!

(#6) MasterDeeJay

Megérkezett, hűtéssel azt hittem vannak bajok de a fenét. Meglehetősen hűvös kártya. Elég volt a blower hűtőt csak rádrótozni. (nyomtatott még nem készült el)


Vintage Story PH szervere újra fut!

(#7) 5leteseN válasza MasterDeeJay (#6) üzenetére


5leteseN
aktív tag

:C :C :C

Nincs a frekije túlhúzva, van benne tartalék bőven.
A megbízható működés miatt valószínűleg ez is "túl van feszelve", ahogy szokott lenni ennél a felhasználási módnál! :K

Jöhet, jöhet!

[ Szerkesztve ]

(#8) MasterDeeJay válasza 5leteseN (#7) üzenetére

Beállítva a nagyobb órajelű verziót nem stabil. Feszelve inkább alul lesz, bányászatra gpu terhelés kevésbé fontos.
Tdp limit sem 300w hanem inkább 200w.
Van benne tartalék.
Gyári órajeleken 2080ti/3070 szint ai és képgenerálás alatt. Emelt órajelekkel ez lenne kb titan rtx, 3070ti.

Titan V driverrel gyári órajeleken:
Ray tracinget tud, azaz quake 2 rtx fut rajta de nem játszható pcie sávszél miatt.

Tehát feladatok:

Hűtés javítása (bár 60 fok a max de azért hangos, nincs kész a nyomtatott hűtő csak rádtrótoztam a ventit kivülről)

Pcie sávok javítása (szét kell szednem megnézni az smd-ket)

Aláírt driver moddolás hogy kiírja a nevét rendesen.

Bios csere nagyobb TDP és órajelek

Hozzáteszem már most alkalmas arra amire vettem, stable diffusuion, koboldcpp, foocus megy rajta rendesen. Minden más extra lesz.

[ Szerkesztve ]

Vintage Story PH szervere újra fut!

(#9) MasterDeeJay

Pcie 1x mód oka valszínű ez:

Hiányzik 2x2 smd

Vintage Story PH szervere újra fut!

(#10) 5leteseN válasza MasterDeeJay (#9) üzenetére


5leteseN
aktív tag

Onnan hiányzik egy IC(jobb alsó sarok), vagy "valamik"?

További hozzászólások megtekintése...
Copyright © 2000-2024 PROHARDVER Informatikai Kft.