Hogy lehetne megcafolni egy feltetelezeskre alapuló allítast? Már maga az allítas is nonszensz.hogy tudna megmondani barki mire kepes egy ceg,mint Nvidia aki Amerika legnagyobb Chiptervezo cege?hogy lehetne ezt innen kijelenteni higy Nvidia atert nem csinal IF cachet mert.nem tudjak megtervezni?Ez egy marhasag,pont ugyan olyan velemeny mint Abu-é.Ha nem így tervezik annak működésbeli vagy előállítasbeli oka van,nem mérnöki tudás.
Kicsit forditsuk meg mit miert gondol az ember.

"A számítógépek hasznavehetetlenek. Csak válaszokat tudnak adni." (Pablo Picasso) "Never underrate your Jensen." (kopite7kimi)

mondjuk az AMD oldali allitast ( nemszoszerintde : "azert a cputervezok csinaltak , mert a gpu reszlegnel nemvolt meg a megfelelo tapasztalat" ) tippre valahonnan AMD berkekbol vette, ezt extrapolalhatja az emberfia talan egy hasonlo profilu ceg hasonlo profilu diviziojara. Persze a tevedes bennevan, de igy felisteni modra ecceruen marhasagnak minositeni szerintem marhasag
a legnagyobb chiptervezo meg tippre inkabb az Intel de ennek utana kellene nezni.

Első AMD-m - a 65-ös - a seregben volt...

Akkor folytassuk. A cache tekintetében a legnagyobb különbséget az jelenti egy CPU-nál és egy GPU-nál, hogy a GPU-k esetében az ISA-t eleve úgy tervezik, hogy már a memóriamodell szintjén kulcsszerepet játszik az adatpárhuzamos feldolgozás. Az adatpárhuzamos processzorok, aka GPU-k egy külön rendszert is alkalmaznak a memória olvasására és írására ... gather és scatter. A GPU-kban található vektor szélessége alapvetően meghatározza, hogy egy multiprocesszoron belül hány lane dolgozik, hány operáció végrehajtása történik párhuzamosan. Egy széles vektor elemei a szélességnek megfelelően több különböző memóriacímre lesznek kiírva, és az adatok behívásánál is ugyanennyi memóriacímről kell betölteni a szükséges információkat. Mindez a chipen belül rengeteg kommunikációt jelent (amire még egyszer hangsúlyozom egy GPU-nál fel van készítve maga az ISA), és jelentősen növeli az ilyen feldolgozás a cache-miss lehetőségét. Ahhoz, hogy ezt egy GPU esetében redukálják, bankokra osztják a gyorsítótárat. Ez alapproblémát nem oldja ugyan meg, de a bankokon belül azért nem lesz olyan rossz a helyzet.

Az AMD GPU-iban is ugyanúgy megvannak a klasszikus GPU-s vonások a cache tekintetében. L0-L1-L2, bankokra osztás, stb. Mind azért történik, hogy a GPU-k jellegzetességét kezeljék. Eddig a pontig nincs is igazán jelentős különbség az NV megoldásaihoz nézve, maximum a kapacitás, de az RDNA 2-ben is annyi L2 partíció van, amennyi 16 bites memóriacsatorna, ezek ugyanúgy szét vannak választva, és minden partícióba az adott csatornából származó adatok kerülnek gyorsítótárazásra. És ez tök ugyanígy történik az Ampere és a Turing esetében is. Nem azért, mert az AMD és az NV egyszerre hülye, hanem azért, mert így hatékony.
Az Infinity Cache ezt egészíti ki egy alapvető újítással. És itt fontos az, hogy kiegészíti, nem pedig megváltoztatja, mert a GPU-k cache-dizájnja eddig se volt rossz, csak az elmúlt években jött pár újítás a modern architektúrákba. Többek között a ROP blokkok az L2 gyorsítótárak klienseivé váltak, amit a Maxwell hozott be annak idején, de azóta azért ez a módszer is sokat fejlődött mindkét gyártónál. Egyrészt szögezzük le, hogy ez a változtatás nagyon jó már alapból, és úgy is előnyt hoz, hogy közben a sok-sok éve bevált tipikus GPU-s cache-dizájnhoz nem kell nyúlni. Ugyanakkor a ROP blokkok úgy kliensei az L2 gyorsítótáraknak, hogy közben a GPU ezt a gyorsítótárat egy rakás más dologra is használja. Tehát nem uralkodnak felette a ROP blokkok teljesen. Emiatt az ott tárolt adatok bármikor átdobhatók a VRAM-ba, és ez eléggé tipikus helyzet is, amikor a ROP blokknak hasznos lenne, ha a kívánt gyorsítótársort megtalálná az L2-ben, de mivel egy rakás adat cserélődik ott folyamatosan, így elég sokszor kell menni érte a VRAM-ig. Erre hozta be az AMD az Infinity Cache-t, ami egy Zen-ben használt dizájnból származó victim cache. Nem képezi a rendszer a szokásos gyorsítótár-hierarchia részét, hanem a fő feladata az, hogy az L2-ból kidobott, ROP blokkoknak fontos gyorsítótársorokat összegyűjtse. Ezzel tulajdonképpen megelőzi azt a problémát, hogy a GPU-nak a VRAM-ig kelljen menni, ha a ROP blokk által keresett gyorsítótársor hiányozna az L2-ből, mert az L2 bizony egy olyan gyorsítótár, ahol aztán nagy a nyüzsgés. És pont emiatt a nyüzsgés miatt választotta azt az AMD, hogy nem az L2 partíciók kapacitását növelik meg, mert a nyüzsgés attól még ott lesz, mert szinte minden részegység ír oda valamit, és sok ezer párhuzamosan futó lane mellett ez nem kevés adat ám. Ellenben az Infinity Cache konkrétan arra van, hogy "felfogja" az L2-ből nyüzsgés miatt kidobott, de fontos adatokat.
Na most ilyen fajta cache-re leginkább a CPU-kban van szükség, ezért sem az AMD GPU-s részlege tervezte ezt meg, hanem a CPU-s részlegtől emelték át, mert egy GPU-ban tipikusan nem gondolnak ilyen jellegű cache beépítésére. Illetve eddig nem gondoltak.

[ Szerkesztve ]

Senki sem dől be a hivatalos szóvivőnek, de mindenki hisz egy meg nem nevezett forrásnak.

A cache-ek között a különbség abban van, hogy milyen részegység fér hozzá, hány részegység fér hozzá, és teszik ezt milyen késleltetéssel.

Az NV például annyira felfújta a feldolgozószámot az Ampere-rel, hogy igazából az optimálisnál szélesebb az egész GPU. Te ezt co-issue-nak nevezed, de hagyjuk.
Ezzel szemben az AMD még csak egy visszafogottabb tartományig skálázta a GPU-ját. Arányaiban erős, kigyúrt az architektúra per mm2, emiatt bőven maradt tranzisztorbüdzsé, ill. lapkaterület is az Infinity Cache-nek.

Ennek a következménye az lett, hogy az AMD szolidabb, RDNA2 GPU-ja bőségesen el van látva feldogozónkénti gyorsítótárral. Nekik a következő generációban a GPU felfele skálázásával van inkább dolguk. (Érdekes lesz látni, hogy továbbra is bele fog-e férni egy ekkora cache szelet, amikor a reticle limit egyre közelebb kerül majd. Illetve hogy van-e elég jó parancsmotorjuk ennek a kontrollálására)
Míg az NV széles GPU-ja jelenleg jobban éhezik, azaz egy "kisebb" L2 növelés is kiugró javulást hozhat, már rövid távon.

Meglévő IP blokk áthozása, illetve házon belüli tapasztalat a victim cache rendszerbe illesztésével egyébként egy valósnak tűnő elmélet, nagyon nem kell kétségbe vonni.

Viszont látni kell a pro-kontra érveket. A zöldeknél egy IC-hez hasonló megoldás csak akkor lesz, ha az passzol majd az architektúrához. (tiszta lapos resetnél elgondolkodhatnak rajta)
Addig meg marad a -hasamra ütök-, +30% feldolgozó, -30% cache arány.

[ Szerkesztve ]

640 KB mindenre elég. - Steve Jobs

Van. Magának a GPU blokknak a része az L0-L1-L2 mindegyik architektúránál. És se az AMD, se az NVIDIA dizájnjaiban nem férnek hozzá ezekhez a GPU blokkon kívüli gyorsítók, például a kódoló és dekódoló blokk, a kijelzőmotor, vagy a DMA motorok, és hasonlók. De az Infinity Cache-hez mindegyik hozzáfér. Ez szándékosan van amúgy így, mert az L2 cache-nek csak bajt okozna, ha a GPU blokkon kívüli egységek szemetelnék a tartalmát. Az Infinity Cache nem ilyen érzékeny, az ugye egy victim cache.
Tehát az egy jó döntés a gyártók részéről, hogy a GPU blokkon kívüli részegységeket nem kötik rá az L2-re sem, és az is jó döntés az AMD-től, hogy ezeket ráköti az IC-re, de az L2-re már nem.

A co-issue feldolgozás nem egy ördögtől való ötlet. Sokáig az AMD is csinálta az R600-tól kezdve, ennek leszármazottjainál, egészen a GCN-ig. Általában attól függ a co-issue bevetése, hogy van-e az adott architektúrán belül lényegi haszna, és az adott dizájnon belül mennyire drága beépíteni. Az RDNA-ban a co-issue feldolgozásnak nincs túl sok értelme a jelenlegi felépítés mellett, és eközben a beépítés drága is lenne. Az NV azért csinálja, mert nekik a beépítése olcsó, és van is helyenként haszna, miközben valós hátrányt csak a fogyasztásra fejt ki. Amúgy, ha az NV-nek ez az Ampere-ben egy drágán beépíthető dolog lenne, ami aránytalanul sok tranyót elzabálna, akkor ők se foglalkoznának vele.

A co-issue dizájnoknál jelenleg a problémát az jelenti, hogy egymástól nem függő wave-eket tudjon futtatni az a két feldolgozótömb, amelyek egy ütemezőn csüngenek. A gyorsítótárnak nincs sok limitje erre a feldolgozási formára. A regiszterterületnek annál inkább. De megint visszajutunk oda, hogy ha a co-issue beépítése a tranyóköltségben kellően olcsó, akkor megéri erre elverni a tranyót, függetlenül az ilyen rendszerek tipikus hátrányaitól. Minden csak viszonylagos, és az Ampere az egy olyan dizájn, ahol éppen határon volt a co-issue többletköltsége a várható nyereséghez viszonyítva, tehát éppenséggel nem volt hülyeség erre elvinni a dizájnt.

[ Szerkesztve ]

Senki sem dől be a hivatalos szóvivőnek, de mindenki hisz egy meg nem nevezett forrásnak.

Na akkor most hogy elvonatkozatottunk attól ahonnan indultunk azért ilyenkor felmerülhet az a forgatókönyv hogy a Nagy L2 gyorsítókat összefogják egy extra gyors és még nagyobb dinamikus hozzáférésű dedikált ramba, pl HBM2e , aka IF cache( vagy mint az Xbox eDRAM ) és itt beléphetne a forgatókönyvbe az amiről pletykálnak hogy az új vezérlő és parancsprocesszor képes lehet felfűzni eltérő sebességű ramokat egy dizájnra.
Ha megnézed ezt a hatalmas L2 cache mennyiséget nem lehetne máshogy megfelelő ütemben szortírozni csak ha szintén készítesz hozzá vagy egy extra széles buszt és ehhez megfelelő parancsprocesszort, vagy pedig beledobod egy még nagyobb L3 ba.. ami még egy 40 megás L2 esetén( A100) is extra adatokat mozgat. Ott pedig nem 384 bitről beszélünk, hanem többről ,ráadásul ott az NVlink is.
Máshogy olyan extra mennyiségű plusz parancshívást jelentene a CPu nak hogy a mostani extra nagy CPU terhelést is többszörösen túlszárnyalná. Nem tudom elképzelni hogy működhetne csupán L2 tár ilyen mértékű növelésével ez a mostani CPU dizájnokkal.
Rengeteg adat ez.

[ Szerkesztve ]

"A számítógépek hasznavehetetlenek. Csak válaszokat tudnak adni." (Pablo Picasso) "Never underrate your Jensen." (kopite7kimi)

Az Xbox-féle ESRAM meg eDRAM dolgokat ne keverjük ide. Azok PC-n nem működnek. Az Intel is próbálta, de befürödtek vele, aztán elhasználták a CPU L4 gyorsítótárának. Konzolon fasza, mert uralod a hardvert, de PC-n nincs az a programozó, aki foglalkoznak per kapacitás alapon egy ilyen jellegű optimalizálással.

A HBM2e-ről vannak ilyen jellegű adatok, mert ezeket már kipróbálták a gyártók. A gondot az okozza, hogy miképpen lehet ezt működtetni. A teljesítmény szempontjából a legjobb megoldásnak még ma is az tűnik, ha egy gyorsító két fedélzeti tárat kap. Egy HBM-eset és egy GDDR-eset. Viszont a programozók oldalán ezek külön kezelendők, vagyis az alkalmazásban meg kell adni, hogy melyik adat menjen a HBM-es területbe, és melyik a GDDR-esbe. Alapvetően ez végezte ki az Xe-HP vonalat megjelenés előtt, ami kapott volna külön memóriát is a tokozáson lévő HBM mellé, de helyette az Intel kapott visszajelzést a programozóktól, hogy kezeljen két memóriaterületet, akinek hat anyja van.

A HBM klasszikus gyorsítótárként való alkalmazása sem problémamentes. Az alapvető kérdés ilyenkor az, hogy a gyorsítótársor a cache-ben igazodjon a HBM-hez, vagy a HBM-et igazítsák az alapvetően alkalmazott gyorsítótársorhoz. Előbbi esetben jelentősen át kell tervezni a GPU-t, és nem biztos, hogy ennek a haszna kifizetődik, míg utóbbiban a találati arány elképesztően megcsappan. Nyilván nem megoldhatatlan a probléma, de ma még nem tartunk ott, hogy ne lehetne olcsóbb megoldásokkal kezelni ezeket.

Ami reálisan megvalósítható lehet, hogy a GPU kap egy olyan memóriavezérlőt, ami csak 4 kB-os lapokkal dolgozik már allokáció szintjén is, és ezek a 4 kB-os lapok lesznek másolgatva a HBM és a másik memória között. Ez kivitelezhető.

[ Szerkesztve ]

Senki sem dől be a hivatalos szóvivőnek, de mindenki hisz egy meg nem nevezett forrásnak.

Köszi ,ez szuper világos válasz volt. Lehet akkor , hogy lesz benne a egy pár izgalmas újítás.A 3D tokozás szerinted szóba jöhet a drágább verzióknál?

[ Szerkesztve ]

"A számítógépek hasznavehetetlenek. Csak válaszokat tudnak adni." (Pablo Picasso) "Never underrate your Jensen." (kopite7kimi)

TPU belistázta az Ada termékcsaládot, RTx 4000 számozással.
idén 5 SKU : [link]
Jövőre egyelőre egy ,a 4050 [link]
VRAM ezek szerint megint nincs elengedve, de ez mondjuk még nem feltélenül végleges.
A 4090 TDP 450 W. L2 : 96 MB
A 4060 ban is több van mint most az A100 ban, 48 MB

[ Szerkesztve ]

"A számítógépek hasznavehetetlenek. Csak válaszokat tudnak adni." (Pablo Picasso) "Never underrate your Jensen." (kopite7kimi)

[Storage Specialist Excelero Joins NVIDIA]

"A számítógépek hasznavehetetlenek. Csak válaszokat tudnak adni." (Pablo Picasso) "Never underrate your Jensen." (kopite7kimi)

MLiD szerint.

"A számítógépek hasznavehetetlenek. Csak válaszokat tudnak adni." (Pablo Picasso) "Never underrate your Jensen." (kopite7kimi)

Kiírhatta volna az elején is a GDDR7-et, és akkor nem olvasom tovább.

Senki sem dől be a hivatalos szóvivőnek, de mindenki hisz egy meg nem nevezett forrásnak.

Még csak támogatást írt, nem azt hogy azzal jön, ezzel védekezhet később

Hát a szokásos. Mindegy ,azért megosztottam.

[ Szerkesztve ]

"A számítógépek hasznavehetetlenek. Csak válaszokat tudnak adni." (Pablo Picasso) "Never underrate your Jensen." (kopite7kimi)

Wow. Such előrelátás.

#37524 b. : Hozzad a következőt is. Hátha jön valami hihető.

[ Szerkesztve ]

Senki sem dől be a hivatalos szóvivőnek, de mindenki hisz egy meg nem nevezett forrásnak.

GDDR7 mikorra várható? Tavaly novemberben volt itt is hírezve, hogy a Samsung nem csinál GDDR6+ memóriát, ők inkább a GDDR7-re mennének.

#tarcsad

A Samsung azért nem csinál GDDR6+ memóriát, mert ők az eredeti GDDR6 szabványra hoznak olyan verziókat, amivel túlteljesítik azt a teljesítményt, amit a Micron lerakott a GDDR6X-szal. Nyilván így tök hasztalan a Samsung számukra visszalépni GDDR6X/+-ra.

A GDDR7 pedig majd egyszer jön, annak ugye JEDEC szabványosítás is kell, tehát az nincs közel.

[ Szerkesztve ]

Senki sem dől be a hivatalos szóvivőnek, de mindenki hisz egy meg nem nevezett forrásnak.

Mondjuk azért idő távlatából nézve.
A GDDR6 16 Gbps lett 2021 év végére a GDDR6x pedig 21 Gbps volt már az elején. Most 3 évvel később fog jönni 20+ fölötti sebességgel GDDR6 tőlük. Amikor jött a 20 Gbps sebességű GDDr6X akkor még 14 volt a GDDR6 sebessége ami azért közel 50 % különbség volt akkoriban. Kíváncsi leszek hozzá nyúl e valaki a HBM hez.

[ Szerkesztve ]

"A számítógépek hasznavehetetlenek. Csak válaszokat tudnak adni." (Pablo Picasso) "Never underrate your Jensen." (kopite7kimi)

RTX 3060 Mobile GPUs Adapted Into Desktop Cards to Bypass Nvidia's Anti-Mining Limiter [link]

#tarcsad

24 Gbps-os lapkán dolgozik a Samsung. Ha tudod ezt szabványból, akkor nincs értelme nem szabványos megoldásra ugrani, és fizetni a Micronnak a licencdíjat.

Senki sem dől be a hivatalos szóvivőnek, de mindenki hisz egy meg nem nevezett forrásnak.

3 évvel később tudod ezt szabványból, ezért volt értelme.A csúcs már jó ideje piacon lévő Ampere és a majd érkező csúcs 7900 XT memória sebessége között 10% eltérés lesz.
Mondjuk azt adom hogy a 2 GB modulok rohadtul hiányoznak az Ampereről mert hiába gyors, ha kevés.

[ Szerkesztve ]

"A számítógépek hasznavehetetlenek. Csak válaszokat tudnak adni." (Pablo Picasso) "Never underrate your Jensen." (kopite7kimi)

Az Infinity Cache miatt az AMD-nek nincs is szükséges nagy sávszélre, mert van egy rakás pufferjük előtte. A Samsungot pedig az érdekli, hogy mi van most, és ha tudnak hozni 24 Gbps-ot GDDR6-ból, akkor azzal előnyösebb memóriát raknak le az asztalra, mint a Micron.

Senki sem dől be a hivatalos szóvivőnek, de mindenki hisz egy meg nem nevezett forrásnak.

persze az OK, de az nvidiának szüksége volt már 3 éve erre erre, náluk meg ninsc IFC és 3 éve nem volt ilyen sebességű GDDR ram. Most se lesz sokkal gyorsabb a GDDR6 végső sebessége mint a GDDR6X.
Gondolom mind a két memória gyártó dolgozik a saját megoldásán és annak fejlesztésén, Nvidiának meg mindegy mert használhatják a Samsung ramjait is, ahogy tették is eddig TPu szerint Nvidia is és Amd is leszerződött velük a 24 es GDDR6 ramokra, ami jó dolgokat vetít előre kisebb SKU-kra is.
Nagyon jól sikerült amúgy a Samsung modulja a fogyasztási értékeket nézve is.
Micronról van infód ? vagy ők ezt elengedték és GDDR7 re mennek rá?

[ Szerkesztve ]

"A számítógépek hasznavehetetlenek. Csak válaszokat tudnak adni." (Pablo Picasso) "Never underrate your Jensen." (kopite7kimi)

A Micron még gyártja a GDDR6X-et, de mivel nem lett valami elterjedt, így nem hiszem, hogy annyira ragaszkodnak hozzá. Őszintén szólva, ha nem mennek a 24 Gbps-os GDDR6 fölé vele, akkor az kb. a vége is ennek a vonalnak.

A GDDR7 szerintem nincs olyan közel, de mivel az szabvány lesz, így biztosan minden memóriagyártót érdekel.

Senki sem dől be a hivatalos szóvivőnek, de mindenki hisz egy meg nem nevezett forrásnak.

Érthető álláspont a részükről.
Akkor nekik is kell lépni a GDDR6 ban előre mert a 7 még odébb van, az X meg így kevés. Kíváncsi leszek.

"A számítógépek hasznavehetetlenek. Csak válaszokat tudnak adni." (Pablo Picasso) "Never underrate your Jensen." (kopite7kimi)

https://www.techpowerup.com/292345/nvidia-reportedly-preparing-geforce-now-rtx-3080-tier-one-month-subscriptions

A hozzászólási jogosultságodat 2 hónap időtartamra korlátoztuk (1 hsz / 10 nap) a következő ok miatt: Az ÁSZF III 10/8. pontjának megsértése - trollkodás - miatt. Többször és többen is kértek már, hogy hozzászólás írásakor használd a linkelés funkciót, mert ennek elmaradása sokak számára zavaró.

[link]
"Someone told me the xx90 with 600W TGP has been confirmed. I think it's too early to talk about it."

[ Szerkesztve ]

"A számítógépek hasznavehetetlenek. Csak válaszokat tudnak adni." (Pablo Picasso) "Never underrate your Jensen." (kopite7kimi)

Itt már 800 W fölé várják a 4090 Ti-t:
NVIDIA GeForce RTX 4090 'Ada Lovelace' GPUs Rocks Up To 600W TGP, Ti Variant Over 800W, Rumor Alleges (wccftech.com)

Lassan nem hogy az 1000 W-os de az 1300 W-os tápok is kevesek lesznek egy jól megrakott enthusiast konfigba.

[ Szerkesztve ]

"Lassan nem hogy az 1000 W-os de az 1300 W-os tápok is kevesek lesznek egy jól megrakott enthusiast konfigba. "
Az hagyján, de mi lesz az SSD-kkel? Azokon is két ventis hűtés lesz majd? Mert 800W-os kártya alatt tuti megsül passzívan. De az se jobb, ha a 800W-os kártya és a 250W-os proci közé rakod...

[ Szerkesztve ]

Nem hiszem hogy az valós. Ha lesz is 600 wattos azt szerintem csak F.E. kötelező hibrid hűtésű kártyákkal tartom elképzelhetőnek, az fölé én gamer kártyát nem tudok elképzelni.

"A számítógépek hasznavehetetlenek. Csak válaszokat tudnak adni." (Pablo Picasso) "Never underrate your Jensen." (kopite7kimi)

Ki játszik ezekkel manapság?

Jogos.

"A számítógépek hasznavehetetlenek. Csak válaszokat tudnak adni." (Pablo Picasso) "Never underrate your Jensen." (kopite7kimi)

[Nvidia Unveils Big Accelerator Memory: Solid-State Storage for GPUs]
Ez egy nagyon hasznos dolog lesz. Nyílt forráskódú, bárki számára hozzáférhető.

[ Szerkesztve ]

"A számítógépek hasznavehetetlenek. Csak válaszokat tudnak adni." (Pablo Picasso) "Never underrate your Jensen." (kopite7kimi)

Exclusive: NVIDIA Quietly Informs AICs Of A 8-12% Drop In Cost For Its GPUs (wccftech.com)

"Don't give me hope"

Jópofa, a nevét mondjuk nem gondolták túl

3 nap múlva talán bemutatkozik a Hopper . [link]

"A számítógépek hasznavehetetlenek. Csak válaszokat tudnak adni." (Pablo Picasso) "Never underrate your Jensen." (kopite7kimi)