Hirdetés
- SzDavid99: Van 20 perced? Akkor tanulj meg koreait olvasni!
- sziku69: Szólánc.
- sziku69: Fűzzük össze a szavakat :)
- Luck Dragon: Asszociációs játék. :)
- mefistofeles: A furcsa hobbi.....
- btz: Internet fejlesztés országosan!
- Brogyi: CTEK akkumulátor töltő és másolatai
- Mr Dini: Mindent a StreamSharkról!
- gban: Ingyen kellene, de tegnapra
- D1Rect: Nagy "hülyétkapokazapróktól" topik
Új hozzászólás Aktív témák
-
válasz
S_x96x_S
#49903
üzenetére
[link]
"NVIDIA just did the impossible. They trained a 12B-parameter language model on 10 trillion tokens entirely in 4-bit precision. It’s called NVFP4, and it might redefine how frontier AI models are trained. Here’s why this matters: • NVFP4 delivers 2–3× faster math throughput and 50% less memory vs FP8 • Accuracy? Practically identical. (MMLU-Pro: FP8 = 62.62%, NVFP4 = 62.58%) • Stability issues? Solved using Random Hadamard transforms, stochastic rounding, and 2D scaling • Trained entirely on NVIDIA Blackwell GPUs the first 4-bit run stable across 10T tokens This is the first successful demonstration of large-scale 4-bit pretraining without losing accuracy. The next generation of frontier models will be faster, cheaper, and greener without compromise." -
Raymond
titán
válasz
S_x96x_S
#49904
üzenetére
Kontextusba helyezve a szamokat, itt a CB cikke a temaban:
Oracle-AI-Systeme: AMD bejubelt 50K MI450, während Nvidia 800K GPUs liefert
AMD feiert heute den Verkauf von 50.000 Instinct MI450 an Oracle. Deren zweites System setzt allerdings auf bis zu 800.000 Nvidia-GPUs und zeigt einmal mehr, wer der Platzhirsch beim Thema AI wirklich ist. Der AI-Supercomputer mit Nvidia-GPUs für die Cloud soll „10X the amount of zettaFLOPS of peak performance“ bieten
-
válasz
S_x96x_S
#49903
üzenetére
Na így mindjárt más tehát nem a teljes MI450 lesz 2 nm csak részben. Mindjárt ésszerűbb döntésnek tűnik már amennyire én laikusan ezt meg tudom ítélni.Ahol fontos ott 2 nm ahova elég ott 3.
FP4 ben Toms's szerint
". AMD's Helios rack-scale solution with 72 Instinct MI450 GPUs will also carry more HBM4 memory (31TB vs 21TB) and offer more memory bandwidth (1,400 TB/s vs 936 TB/s) compared to Nvidia's Rubin-based NVL144 machine. However, Nvidia's next-generation rack-scale solution will offer tangibly higher FP4 (well, NVFP4) performance compared to AMD's Helios (3,600 PFLOPS vs 2,900 PFLOPS), so it remains to be seen which of the systems will be faster and more power efficient, especially given uncertainties with UALink scale-up interconnections for the Instinct MI450-series GPUs." -
#49905
Alogonomus
őstag
b.
#49902
-
S_x96x_S
addikt
50e MI450-es eladva az Oracle Cloud-nak
"Az Oracle Cloud Infrastructure 50 ezer AMD grafikus processzort telepít 2026 második felétől, ami újabb jele annak, hogy a felhőszolgáltatók egyre inkább alternatívákat keresnek az Nvidia piacvezető GPU-ival szemben a mesterséges intelligencia területén"[1]
-
S_x96x_S
addikt
az AMD a chipletes technológiája miatt jobban tudja
a költségeket optimalizálni és csak az XCD lesz 2nm-es.
( Amúgy az Intel is gyárt valamit majd a TSMC 2nm-en )> INT4 ben eleve magasabb teljesítményt nyújt az Nvidia
De mennyi lesz - az Mi450 és a Vera Rubin - INT4 teljesítménye?
( az AMD szerint - FP4 -ben hasonló lesz a teljesítmény ( ~1x ) ,
csak az AMD-s konfigban 1.5x több memória lesz ) -
válasz
S_x96x_S
#49901
üzenetére
Hát árban biztos hogy óriási különbség van a N3P és egy induló 2 nm között- Állítólag 30 ezer dolláros wafferárakat mond a TSMC amire még az Apple is húzza a száját, 60 % os kihozatali aránnyal.
INT4 ben eleve magasabb teljesítményt nyújt az Nvidia és ott a stabil gyors hálózati összeköttetésük, ami az OPEN AI nak létfontosságú, cseréba AMD több memót ad és magasabb sávszélt. Broadcom meg elvileg energiahatékonyságban kiemelkedő.Szóval valószínűleg ha az AMD bevállalja a 2 nm-t ilyen áron azzal az energiahatékonyságban akar versenyezni hogy megágyazzon a gyorsítóinak,de szerintem ez a jövőnek szól és nem annak,mert valóban most annyira jó üzleti döntés a 2nm mivela 3 nm 80-90 % os kiozatallal olcsóbban elérhető. Ráadásul Samsung 20 ezer dollárral azért elég keményen beleállt az egyedi 2 nm gyártással és érkezik jobról az Intel is 1 év múlva. -
S_x96x_S
addikt
> "10 gigawattnyit az Nvidiával"
A filozófikus kérdés,
hogy az AMD 6 gigawattból - ki tudja -e hozni ugyanazt a teljesítményt mint az nvidia 10 gigawattból.
(Valószínüleg nem)
Amire viszont kiváncsi leszek, hogy
az AMD 1 gigawatt teljesítménye és az nvidia 1 gigawatt teljesítménye között milyen arány van.
~ "Tokens per Provisioned Gigawatt"úgy néz ki, mind az AMD és az Nvidia is támogatja a
https://inferencemax.semianalysis.com/ benchmarkot.
( https://github.com/InferenceMAX/InferenceMAX )
úgyhogy jövőre meg fogjuk tudni.-------
Pontosítás: az MI450 -ben Kepler szerint
csak az XCD lesz N2P (2nm), a többi N3P.XCD (Accelerator Core Die) - TSMC N2P (2 nm)
AID (Active Interposer Die) - TSMC N3P process.
MID (Media Interface Die) - TSMC N3P process.
Új hozzászólás Aktív témák
A topikban az OFF és minden egyéb, nem a témához kapcsolódó hozzászólás gyártása TILOS!
Megbízhatatlan oldalakat ahol nem mérnek (pl gamegpu) ne linkeljetek.
- Milyen hagyományos (nem okos-) telefont vegyek?
- Okos Otthon / Smart Home
- Xbox tulajok OFF topicja
- Milyen légkondit a lakásba?
- Spórolós topik
- NFL és amerikai futball topik - Spoiler veszély!
- Debrecen és környéke adok-veszek-beszélgetek
- Trollok komolyan
- Windows 10
- Polgári repülőgép-szimulátorok
- További aktív témák...
- Bomba ár! HP EliteBook 745 G6 - Ryzen PRO 5 I 8GB I 256GB SSD I HDMI I 14" FHD I Cam I W10 I Gari!
- ÁRGARANCIA!Épített KomPhone i5 10400F 16/32GB RAM RTX 3050 6GB GAMER PC termékbeszámítással
- GYÖNYÖRŰ iPhone 12 mini 64GB Black -1 ÉV GARANCIA - Kártyafüggetlen, MS2955
- GYÖNYÖRŰ iPhone 13 256GB Pink -1 ÉV GARANCIA - Kártyafüggetlen, MS3425, 94% Akkumulátor
- Új állapotú, csúcstechnológiás Roborock Saros Z70 robotporszívó
Állásajánlatok
Cég: PCMENTOR SZERVIZ KFT.
Város: Budapest
Cég: Promenade Publishing House Kft.
Város: Budapest