Igazából a chiplet mindenképpen kell mindenkinek. Aki top GPU-ban gondolkodik, muszáj chiplettel összeraknia. Már nincs választási lehetőség 3 nm-en és alatta. Az 4/5 nm volt az utolsó node, ahol tervezhető volt relatíve nagy kiterjedésű lapka. Ma még ez választás kérdése volt, holnap már kötelező a chiplet.

[ Szerkesztve ]

Senki sem dől be a hivatalos szóvivőnek, de mindenki hisz egy meg nem nevezett forrásnak.

> Az a baj, hogy az AMD az alsó és közép kategóriában akar versenyezni,

inkább az AI-ban akar versenyezni az AMD.

az MI300 versenytárs az nVidia H100 ~ $35.000 - $45.000 -ért kapható.
és nem csak egy kell belőle ..

és ha jól értem,
MI300 -ból már több pénz vár az AMD mint EPYC-ből.

Mottó: "A verseny jó!"

Igen, de az AMD azért vár ettől többet, mert az MI300 az nem csak gyorsító, hanem APU. És egy csomó cég számára sokkal egyszerűbb lesz EPYC+gyorsító helyett MI300-at rendelni, tehát nem is kell majd gyorsítóban gondolkodniuk. Így könnyű több pénzt várni az EPYC-hez viszonyítva, mert a MI300 nem csak gyorsító.

A MI300X pedig azért kapós, mert van rajta 192 GB memória. Egyszerűen baromira megéri ugrani rá bármiről, mert ennyi memóriával sokkal olcsóbb lehet az üzemeltetés. De ez ugyanúgy áll majd mindenre, ha az NV hoz valamit mondjuk 384 GB memóriával, akkor arra is ugrik majd mindenki, és ha az AMD hoz valamit 512 GB-tal, akkor arra is. Minden ilyen lépés csökkenti az üzemeltetési költségeket. Tehát egy hardverváltást záros határidőn belül ki lehet termelni.

[ Szerkesztve ]

Senki sem dől be a hivatalos szóvivőnek, de mindenki hisz egy meg nem nevezett forrásnak.

Rick bacsi mondta, AMD EVP egy adott interju soran:

Es ugyan van 500-600W 4090 BIOS, de a legtobb 450W, jatek alatt pedig ennel is kevesebbet fogyaszt (TPU atlaga 420W), az UV potencial pedig remek. (itteni topikbol egy pelda)
"87% powerlimit, +120mhz, igy 3030, 3045 mhz ingame, 360w korul megall god of war kozben 4k 117 fps mellett."

Szoval cseppet sem ertem Rick bacsi hebegeset a 600W-rol.

Ezzel viszont az AMD azt kockaztatja, hogy csokken(het) az EPYC+gyorsito iranti kereslet, ha ezek a cegek kivaltjak ezt a kombot.
Arban igy mennyiben kulonbozik a dolog?

Árban drágább csak Instinct MI300A-t venni, mint EPYC+gyorsítót, viszont nem a hardver ára a lényeges a cégeknek, mert az valójában a teljes beruházási költség nem túl nagy része. Amiben erős az MI300A, az a jobb fogyasztás és AI-hoz sokkal jobban illő felépítés. Tehát a TCO-ban már gyorsan visszahozza a hardver az árát, és egy éves távon már az MI300A az olcsóbb. Tehát ha legalább egy évig megtartja a vásárló a hardvert, akkor jobban megéri MI300A-t venni, mint EPYC+gyorsítót.

Alapvetően ez az a két dolog, ami miatt most rácuppant a piac az MI300-ra. Az MI300X-nél a memóriakapacitás a kulcs, míg az MI300A-nál a TCO, meg az a tény, hogy APU-ról van szó.

#62256 b. : Nyilván az MI300A nagy előnye, hogy nem kell átírni a szoftvereket ARM-ra. De ez csak ideiglenes előny, idővel, teszem azt úgy 3-4 éves távon elvész. Az NV-nél a Grace+Hopper ennek az iránynak a nulladik generációja. Ez a bevezető, hogy elkezdődjenek a szoftveres munkálatok.

[ Szerkesztve ]

Senki sem dől be a hivatalos szóvivőnek, de mindenki hisz egy meg nem nevezett forrásnak.

> Ha jól tudom a hardveres költség mellett a szoftveres háttér jobban számít a
> megrendelőknek.

azért pár dolog már most is működik. pl. PyTorch
és remélhetőleg az AMD még nagyobb fókuszt tesz a szoftverre ...

"""
With PyTorch 2.0 and ROCm 5.4+, LLM training works out of the box on AMD MI250 accelerators with zero code changes when running our LLM Foundry training stack.

Some highlights:
- LLM training was stable. With our highly deterministic LLM Foundry training stack, training an MPT-1B LLM model on AMD MI250 vs. NVIDIA A100 produced nearly identical loss curves when starting from the same checkpoint. We were even able to switch back and forth between AMD and NVIDIA in a single training run!
- Performance was competitive with our existing A100 systems. We profiled training throughput of MPT models from 1B to 13B parameters and found that the per-GPU throughput of MI250 was within 80% of the A100-40GB and within 73% of the A100-80GB. We expect this gap will close as AMD software improves.
- It all just works. No code changes were needed.

"""
https://www.mosaicml.com/blog/amd-mi250

[ Szerkesztve ]

Mottó: "A verseny jó!"

20-30% % azért elég jelentős lemaradás A váltáshoz ennél több kell, konkrétan jobbnak kellene lenni. A memórakapacitás viszont előny de a koherens megoldások erre tudnak nyújtani megoldást mindkét oldalon.

[ Szerkesztve ]

"A számítógépek hasznavehetetlenek. Csak válaszokat tudnak adni." (Pablo Picasso) "Never underrate your Jensen." (kopite7kimi)

7600 as nem igazi RDNA 3 kártya nem chipletes egy csomó dolog kiherélt benne kb egy 6670xt.

7900xt-7900xtx meg most majd az új karik (7700-7800) azok amik igazán számítanak szerintem RDNA3 kapcsán. Ott pedig 30W difi van meg, sokkal több ram (+8gb), olcsóbb ár, jó sokféle jó hűtés, jobb raszter, és 20% al rosszabb RT. 4090 től vannak igazán lemaradva de az akkora fizikailag túlzással mint Paks és fogyasztás sokszor 500W, dupla ár s így hoz 30-40% ot + nem egy kateg.

Ha bukó lesz a 7700-7800 azt viszont megfogják érezni Lisáék.

[ Szerkesztve ]

Az architektura RDNA3, az AMD RDNA3-kent hivatkozik ra, mirol beszelsz, hogy nem igazi RDN3 kartya?

RDNA3 kártya Az, hogy a cache mérete kisebb, nem változtatja meg az architektúrát, sem a chiplet, hiszen ugyanazok az egységek vannak benne, csak fizikailag más helyen. A chiplet minimálisan még csökkenti is a teljesítményt, ezt kimérte a Chips and cheese, mert van egy felesleges interfészed, ami növeli a késleltetést.

[ Szerkesztve ]

3-3.5Ghz-el, és kicsit ügyesebb driverrel bőven ~40%-al erősebb lenne, ami a mostani CU-számmal is igencsak versenyképes lehetne. Nem is elrugaszkodott szám ez, hiszen a jobb Navi21-ek már 7nm-en súrolták a 3Ghz-et.

Az is érdekes adalék, hogy a CU órajel tartománya el lett választva a GPU többi részéről. Ez utalhat arra is, hogy arra számítottak, hogy a CU-kat sikerült ezáltal magasabb órajelen járatni, de a gyakorlatban ez fordítva sült el, a 7900XTX gyári front-end órajele 2.5Ghz lett, míg a shader órajel csak 2.3Ghz.

Nagyon érdekes még amit itt írnak: [link] ("Frontend Clock Behavior" rész) . Jól látszik a grafikonon, hogy alacsony órajelen egyforma órajelen járatja a 7900 is a frontend/shader tömböt (itt hirtelen nem a frontend a limit?! ), de nagyobb órajelen "lemaradnak" a shaderek... A "hivatalos" magyarázat számomra kevéssé meggyőző, főleg shaderből implementált RT-vel.

#62233 b.: "Jensen több éve már azt mondta hogy 3 nm gyártás felett és megfelelő tokozás hiányában nem érdemes Chipletes GPU -ban gondolkodni. Igaza volt."
Persze, ő mindenki előtt látta, hogyan fog alakulni a kereslet/kínálat (=árazás) a modern gyártástechnológiákon. Ez is kevéssé hihető. Sokkal inkább szerecséje volt, hogy igen hamar olcsó lett az 5nm, így az AMD nem tudta kihasználni a chipletezésből származó előnyöket a Navi31-32-nél, és így az Nv büntetlenül gyárthat ormótlan nagy 5nm GPU-kat, mint pl. a 4090-esé, 609 mm²-el. Volt, amikor nem jött be ez a taktika, abból lettek pl. a Fermi-s mémek, mint pl. ez a gyöngyszem: [link] .

"Azt gondlom az Nvidia első chipletes GPu -i már rég tervező asztalon megszülettek"
Azért ide némi adalék, hogy míg a Navi31 esetén már a memória-alrendszer jelentős részét sikeresen leválasztották az L3-al együtt, addig Nv-nél az L2 növelésével éppen a GPU "növekedett" méginkább. Ez nem tűnik a chiplet felé való lépkedésnek...

#62262 Busterftw : Jelentős butítást kapott, hiába RDNA3, nem kapta meg a nagyobb modellek másfélszer akkora regiszterét a CU, hanem maradt az RDNA2-es méretnél....

[ Szerkesztve ]

A 7600 egy RDNA3 kártya, a Navi33 egy RDNA3 GPU. Pont.

#tarcsad

Nem állítottam be őket vesztesként. Csupán azt próbáltam kiemelni, hogy az érvelésed gyenge lábakon áll, hiszen nem tudhatta senki előre, hogyan fog alakulni az 5nm árazása. Így "vakon" bevállalni egy 600mm²-es csipet a megjelenésekor brutálisan drága 5nm-en minimum bátor húzás volt.

Illetve, amire utaltam még, hogy játékos felhasználású GPU-ból az AMD már lerakott az asztalra egy alapvetően igen jól működő, konkrét megvalósítást, míg az Nv Ada architektúrájában semmi nyoma, hogy akár csak elmozdultak volna MCM irányba.

Azért Linus videója a témában eléggé odavert pár hete, pedig hát ő ugye nem annyira hardcore HW szakértő, főleg NEM PC ügyileg, mint szeretné elhitetni magáról. Az AI vitában nem látom visszaköszönni, hogy NVidia AI kutatásokra mennyit költ és ennek mennyi rengeteg eredménye van. Ilyen hülyeségeket kell olvasni szakmai fórumokban is, hogy az Nvidia "felült" az AI hype-ra, mert most az a menő. Mint ha közük se lenne hozzá. A 2 minutes papper csatornán bemutatott AI technológiák nagyobbik fele mind NV kutatási téma és vagy szoftver fejlesztés. Na és én ezt a felét hiányolom AMD oldaláról, nyilván ott is folynak kutatások, de úgy látszik kivűlről nincsenek ennyire mélyen benne.

"Figyelj arra, aki keresi az igazságot és őrizkedj attól, aki hirdeti: megtalálta." - (André Gide)

En ezt ertem, ettol meg az RTX 4060 nem lesz Ampere, mert hasrautve szerinte csak.

[ Szerkesztve ]

Az architektúra alapjainak sokszor előbb kell készen lennie, mint ahogy elérhető lenne a gyártástechnológia, hát még annak árazása... Szóval kötve hiszem, hogy amikor elkezdték tervezni az Ada-t, akkor már tudták volna, mennyibe fog kerülni az 5nm-es gyártás.
Érdekesség egyébként, hogy párszor előfordult a történelemben, hogy az Nv-nél megbosszulta magát, hogy ki akarták maxolni a gyártástechnológiát. Gondolok itt a GTX280-ra és a GTX480-ra, mindkettőnél túllőtek a célon, amivel igen kellemes piaci helyzetbe hozták a konkurens HD4870 és HD5870 kártyákat.

"az RDNA1 architektúrájában"
Abban nem. De az RDNA2-ben igen. (L3 beépítése az L2 növelése helyett.)

"hogy TSMC kb mekkora árazást ad a wafferre hisz ez nem napi árfolyam"
Nem hinném, hogy bármelyikünk ebbe belelátna, de a pletykált, rendkívül alacsony Wafer-árak szinte biztosan nem jöhettek volna létre az előre nehezen jósolható meredek kereslet (és ebből fakadóan gyártósor kihasználtság) csökkenés nélkül.

Gondolom emlèkeztek a Rx 480 vs Rx 580 esetre is. De lehetne mèg sok más âtnevezèses esetet mondani. A marketingben lehet az lesz oda is van írva se valójàban kb egy àtnevezès a az addig kiadott Rdna3 újdonsàgok jó rèsze se jellemzi ki van spóroltatva. Le van butítva ahogy HSM is írta.

[ Szerkesztve ]

"az addig kiadott Rdna3 újdonsàgok jó rèsze se jellemzi ki van spóroltatva"

OK, jatszunk akkor. Melyik RDNA3 tulajdonsagok vannak belole kisporolva?

Privat velemeny - keretik nem megkovezni...

Nagyjából ezt számolgattam ki én is [link] . (Nem láttam még a videót, amikor ezeket számolgattam.)
Egyébként, a mostani wafer-árakon az AD103 szerintem eléggé eltalált lett.
A 4090 óriás csip méretét kicsit meredeknek látom még a sok tiltás mellett is, de ettől függetlenül az is nyilván igen jó lett, bár megnéztem volna a bolti árát az eredetileg belengetett közel 20 000$-os 5nm wafer árakon.

[ Szerkesztve ]

Csak ugye b. gpu-król beszél, gpu találgatósban.
Ha az AI bejön az AMD-nek még nem jelent semmit.

Az Epyc és a Ryzen is bejött nekik, mégsincs az Nvidia gpu piacon a visszapillantó tükörben, ahogy az Intel sem a CPU piacon.
Az AMD ezzel szemben az Epyc és Ryzen sikerei után egyre jobban lecsúszott a GPU piacon.

Szóval értem en a lelkesedést , de fordítottan is igaz a corporate strategic blindness.

Emlékszünk, itt szó sincs ilyesmiről.
A 7600 egy agyonvágott RDNA3, ahogy a 4060 is egy agyonvágott Ada.

> Csak ugye b. gpu-król beszél, gpu találgatósban.
> Ha az AI bejön az AMD-nek még nem jelent semmit.

Nem pontosan értelek .. miért ne jelentene ?

A GPU már nem csak a gaming -ről szól ..
még az "NVIDIA H100 Tensor Core GPU" is GPU,
ugyanazok az építőelemek .. az AI-nál és a GPU-nál
az MI300 lényegében egy big APU .. És a Grace is az.

persze kezd ketté válni .. ahogy az AMD- is szétszedte CDNA - RDNA -ra.
de még mindig GPU : "AMD Instinct is AMD's brand of professional GPUs"

> Szóval értem en a lelkesedést , de fordítottan is igaz a corporate strategic blindness.

persze ez fordítva is igaz.
Az AMD a szoftvert és az ökoszisztémát nézte be .
Az nVidiának a CUDA bejött .. 100% - ban odatették a fókuszt és az erőforrást ..
és bár az AMD-nek volt pár kisérletezése és prototípusa, de nem annyira tette oda magát ..
és most meg kell küzdenie ezzel - be kell hozni a hátrányt - ami nem olyan könnyű ..

És nem csak az AMD-nek,
hanem a piacnak is, mert a verseny jó - de a monopólium verseny ellenes ..

--> NVIDIA's CUDA Monopoly
és a mai Hacker news - ahol ezt a témát járják körbe - érdemes beleolvasni !
--> https://news.ycombinator.com/item?id=37031451

[ Szerkesztve ]

Mottó: "A verseny jó!"

(piac)
azért mások is gondolkodnak chiplet cloud-ban
és az AMD-nek igencsak szüksége lesz a Xilinx -es gyorsítók beintegrálására
hogyha versenyben akar maradni ...
mert csak a GPU nem mindenre optimális ( főleg ha a TCO-t is nézzük. )

---------------

CHIPLET CLOUD CAN BRING THE COST OF LLMS WAY DOWN
(July 12, 2023)
https://www.nextplatform.com/2023/07/12/microsofts-chiplet-cloud-to-bring-the-cost-of-llms-way-down/
"If Nvidia and AMD are licking their lips thinking about all of the GPUs they can sell to the hyperscalers and cloud builders to support their huge aspirations in generative AI – particularly when it comes to the OpenAI GPT large language model that is the centerpiece of all of the company’s future software and services – they had better think again.
..... "

Mottó: "A verseny jó!"

"Nem pontosan értelek .. miért ne jelentene ?"
Ugy ertem, hogy az AI gyorsitok sikere nem jelenti automatikusan azt, hogy consumer gpu piacon is sikert ernek el. Ugyan GPU, de ez egy teljesen mas szegmens. (lasd Epyc/Ryzen siker/pelda)

Jo lora tettek az Epyc-kel, mostanra sikeres a szerver uzletag, viszont ettol az AMD nem lett jobb pozicioban GPU vonalon (consumer).

"de a monopólium verseny ellenes .."
Ha jol tudom ez jogilag nem igy van, a monopolium onmagaban nem versenyellenes, csak ha visszaelnek vele.

RDNA4 hírek - RedGamingTech

Azt mondja, hogy a N43 és N44 monolitikusak. Ez még az RDNA3 chipletezéshez képest is visszalépést jelent. (Ez persze nem biztos, hogy rossz ezekre a lapkákra nézve)
Azt gondolnám, hogy ha az RDNA3 folytatásához hasonló a GCD feldarabolásán alapuló multi-GCD chipletezéssel próbálkoztak volna, akkor legrosszabb esetben is az RDNA3 esetén is látott megoldáshoz fallbackelnének.
Ha a megmaradt lapkák valóban monolitikusak lesznek, akkor gyanítható, hogy valami egész más nem sikerült.

RDNA5 2025Q4!!!! Ez döbbenet.

Ami miatt írom az mégsem ez, hanem egy állítólagos 400mm2-es RDNA3 (Navi36) lapka megemlítése - persze sajnos azzal a megjegyzéssel, hogy ennek kiadása valószínűtlen. Lehet, hogy az AMD-s urak erről beszéltek, mint 600W-os GPU. De lehet, hogy ez is csupán egy olyan dolog, hogy megemlítek valamit, azzal, hogy az nem fog megjelenni és aztán amikor tényleg nem jelenik meg, akkor jutott is - maradt is alapon nem lehet engem felelősségre vonni.

Találgatunk, aztán majd úgyis kiderül..

"RDNA5 2025Q4!!!! Ez döbbenet."

RGT, a MLiD unokatestvere/bajtarsa

Eloszor az RDNA3 maradekat kene kiadni utanna megnezni mikorra sikerul az RDNA4 es aztan lehet arrol spekulalni hogy az akkori allas szerint mi a realisztikus egy RDNA5-nel.

Privat velemeny - keretik nem megkovezni...

> Ez ujdonsag lenne a vasarloknak mert egyelore
> ugy nez ki az iden max az El Capitan-ba n lesz csak MI300 az ev vegeig.

valószínüleg a vásárlók típusától is függ ..
mert a magyar nagykerekbe még tényleg nem várnám ..
de az AWS/Azure/Google Cloud -ban már mintaképpen "feltünhet" ..

Azért Lisa Su óvatosan optimista volt a befektetők felé,
és bár a tervezett MI300 -as idei bevételek nagy része tényleg El Capitan ( ~ supercomputing ) ; de nem az egész ...
( Persze ha ezek minde előre fizetős ügyfelek az már más tészta )

Mindenesetre Q4 Mi300 ramp -ot nagyon nyomja a menedzsment,
de jelentős felfutás csak 2024-ben várható.
Aztán majd meglátjuk mit hoz a valóság,
nem lehetetlen, hogy neked lesz igazad és a szkepticizmus indokolt ..
de akkor az AMD befektetők morcosak lesznek ..

--------------

Lisa Su - 1 hetes véleménye - A "Q2 2023 Earnings Call Transcript" -ből szemezgetve:

"
Yes, sure. So, it is a large ramp, Stacy, into the fourth quarter. I think the largest piece of that is the MI300 ramp. But there is also a significant component that's just the EPYC processor ramp with, as I said, the Zen 4 portfolio. In terms of the lumpiness of the revenue and where it goes into 2024. Let me give you kind of a few pieces.
So, I think there was a question earlier about how much of the MI300 revenue was AI centric versus let's call it supercomputing centric. The larger piece is supercomputing, but it's meaningful revenue contribution from AI. As we go into 2024, our expectation is again, let me go back to the customer interest on MI300X is very high. There are a number of customers that are looking to deploy as quickly as possible.
So, we would expect early deployments as we go into the first-half of 2024, and then we would expect more volume in the second-half of '24 as those things fully qualify. So, it is going to be a little bit lumpy as we get through the next few quarters. But our visibility is such that there are multiple customers that are looking to deploy as soon as possible. And we're working very closely with them to do the co-engineering necessary to get them ramped.
--------------

And then we will have contribution from both MI300X going to large AI customers as they start their initial ramps, as well as MI250s with a number of customers who have now -- view that as a very good option for some of the workloads that are not necessarily the largest language models or the largest parameters, but let's call it more sort of the other AI workload. So, those are the components of the fourth quarter implied growth. Lots of pieces to it, but clearly a big piece of it is the MI300 ramp.

--------------

And in particular, where we've seen a lot of interest is in the sort of large language model inference. So, MI300X has the highest memory bandwidth, has the highest memory capacity. And if you look at that inference workload, it's actually a very, it's very dependent on those things. That being said, we also believe that we have a very strong value proposition and training as well. When you look across those workloads and the investments that we're making, not just today, but going forward with our next generation MI400 series and so on and so forth, we definitely believe that we have a very competitive and capable hardware roadmap. I think the discussion about AMD, frankly, has always been about the software roadmap, and we do see a bit of a change here on the software side. Number one, we've put a tremendous amount of resource on it. So, bringing together our former Xilinx software team, together with the AMD sort of based software team, we've dramatically increased the resources. And also the focus has now been on sort of optimizing at these higher level models.
So, if you think about the frameworks around PyTorch and Triton and Onyx, I think many of the new AI centric companies are actually optimizing at a different level, and they're working very closely with us. So, in this place where AI is tremendously exciting, I think there will be multiple winners. And we will be first to say that there are multiple winners. But we think our portfolio is actually fairly unique in the sense that we do have CPUs, GPUs, we have the accelerator technology with Ryzen AI on the PC side as well as in the embedded side with our Xilinx portfolio. So, I think it's a pretty broad and capable portfolio.

----------------- ( supply chain )

Yes, absolutely. So, I'm not going to comment on the exact units, but what I will say is that we've been focused on the supply chain for MI300 for quite some time. It is tight. There's no question that it's tight in the industry. However, we have sort of commitments for significant capacity across the entire supply chain. So, co-host is one piece of it, high bandwidth memory is another piece of it and then just the general capacity requirements and look, our goal is to make this a significant growth driver for AMD, I think it's a great market opportunity. We love the engagements with customers, it's our responsibility to provide the supply for the demand and so that's what we've been working on.

-----------------

Sure. So, there were a lot of aspects to that question, Chris. So, let me try to give you some framework here. I don't think we're ready to talk about timing yet of revenue numbers. What we will say is we do believe it's a multibillion dollar opportunity. I think 2024 is a very important year for us.
Ramping MI300 in multiple customers over the next several quarters is very important. I think I mentioned earlier in the Q&A that the customer interest is actually diverse, which is great. It includes sort of what you would expect in terms of the large Tier-1 hyperscalers. But I think these new class of sort of AI focused companies have been working very closely with us, and then some of the large enterprises are also looking at ramping up their efforts. The performance that we see is strong. I think the large language model work that we've done, we've done a lot of it on MI250, and we've seen very good results that's on both training as well as inference. I think as we go through MI300 again, the early results are strong.
For AI applications, what we're seeing now is MI300X. So, let's call it the GPU only version is the one that is sort of most prevalent in the AI customer engagement. But the MI300A, actually, which is sort of where we have the CPU and the GPU more closely coupled together is also of interest. So, I think the key is I think we've built a platform that does allow people to kind of choose what is best for the models and for the workloads that they're trying to enable. And that's what we're working on.

---------------

Yes, thanks Chris. Let me just make sure I get the statement clear. So, both MI300A and MI300X will be part of the ramp, particularly in the fourth quarter. And as we go into next year for the AI specific applications, we are more heavily weighted towards MI300X, just given sort of where the software is written. And to your question about gross margins at the corporate level, so we would expect that our AI business will be accretive to gross margins at the corporate level. And obviously, as you start the ramp, there's a little bit of learning, but overall we expect it to be accretive to our corporate gross margins.
"
( via "Advanced Micro Devices (AMD) Q2 2023 Earnings Call Transcript" )

------------------------

Mottó: "A verseny jó!"

"az AWS/Azure/Google Cloud -ban már mintaképpen "feltünhet" .."

Nem tunhet fel, pont errol van szo. Az osszes az El Capitan-ba megy es jo eselyel nem lesz eleg oda se az iden.

Privat velemeny - keretik nem megkovezni...

A kiemelt partnereknek, nem az átlag vásárlóknak.

[ Szerkesztve ]

Senki sem dől be a hivatalos szóvivőnek, de mindenki hisz egy meg nem nevezett forrásnak.

Találgatunk, aztán majd úgyis kiderül..

[Special driver for Ratchet and Clank from AMD]

Ratchet & Clank Rift Apart update enables ray tracing on Radeon RX GPUs

"A számítógépek hasznavehetetlenek. Csak válaszokat tudnak adni." (Pablo Picasso) "Never underrate your Jensen." (kopite7kimi)

"Making AMD GPUs competitive for LLM inference" ( Aug 9, 2023 )
https://blog.mlc.ai/2023/08/09/Making-AMD-GPUs-competitive-for-LLM-inference
( HN: https://news.ycombinator.com/item?id=37066522 )

TL;DR
MLC-LLM makes it possible to compile LLMs and deploy them on AMD GPUs using ROCm with competitive performance. More specifically, AMD Radeon™ RX 7900 XTX gives 80% of the speed of NVIDIA® GeForce RTX™ 4090 and 94% of the speed of NVIDIA® GeForce RTX™ 3090Ti for Llama2-7B/13B. Besides ROCm, our Vulkan support allows us to generalize LLM deployment to other AMD devices, for example, a SteamDeck with an AMD APU.

Mottó: "A verseny jó!"

Nem értek hozzá, de jól hangzik.

#tarcsad

Egész versenyképes lehetne 400mm2-es GCD-vel és 450W-os TDP-vel.

Az jutott eszembe a Mi300-ról, hogy vajon az most mennyire a határon pörög? És hogy mennyire hamar lehet iterálni.
Mire is gondolok?

Vajon a 300-350mm2-es N6-on gyártott lapkák kimaxoltnak számítanak? Összességében a 1700mm2-es alapterületnél nem is lehet tovább terjeszkedni

2020-ban még azt mondták, hogy a Cowos a reticle size (858mm2) 2x-esében tud lapkák összerakásában rendelkezésre állni. [link] a Mi300 ezt ki is használja.

Itt már 6x reticle size-ról írnak, ami valami 5100mm2. [link]
Tartok tőle, hogy a szorzó ugyan helyes, de a reticle size értéknek itt már nem a 858mm2-t, hanem az Abu által emlegetett N3 alatt feles értéket kell érteni. Vagyis összességében kb 2500mm2 lehet majd a csomag.

Számomra különös, hogy a 370mm2-esnek mondott alapra csupán 2db 115mm2-es CDNA3 lapkákat vagy 3x71mm2-es CPU lapkákat helyeznek el. Vajon miért csak 210mm2 méretben fedi le? [link] Miért ilyen nagy a differencia? Nem lehet-e a base die méretét jobban kihasználva lefedni?

Az iteráció is egy érdekes kérdés. A CDNA3 esetén az XCD-ről tulajdonképpen minden sallangot leválasztottak, a last level cache és az IO - vagyis azok a részek, amelyeknél gyártástechnológiai skálázódás jelentősen lelassult vagy megállt - is a base die-on kapott helyett. A Logic rész mérete viszont az N3 esetén is még remekül csökkenthető. Logikus volna, hogy mihamarabb N3-on készüljön az XCD, mert úgy még több számolóegységet tudnak rárakni.

Találgatunk, aztán majd úgyis kiderül..