Hirdetés

2024. február 22., csütörtök

Gyorskeresés

Hozzászólások

(#1) freeapro


freeapro
senior tag

Ez az FPGA hw nagyságrendekkel jobb teljesítményű háló lesz, mint az nVidia megoldásai, vagy csak a szokásos sokat ígérő, de szarul teljesítő AMD technikai forradalom?

(#2) hokuszpk válasza freeapro (#1) üzenetére


hokuszpk
nagyúr

ezt még nem az AMD tervezte, megvették a XILINXet, annak a technologiaja lett belegyomoszolve.

Első AMD-m - a 65-ös - a seregben volt...

(#3) Abu85 válasza freeapro (#1) üzenetére


Abu85
HÁZIGAZDA

Ez nem FPGA. Ez a Versal AI Engine része kivágva, ami inkább DSP.

Az FPGA nem igazán jó AI-ra. A legtöbb AI motor egyébként DSP-szerű, mert az az optimális megvalósítás.

Az NV megoldásai nem DSP-k, ami tréning miatt jó, de következtetésnél látványos a perf/watt hátránya, ezért sem használnak olyan megoldást a rendszerchipekben, mint amit az NV használ. Itt nincs szükség tréningre, tehát rá kell menni a perf/wattra.

Az NV megoldásához az AMD-nek az IGP-jében van hasonló, de pont ugyanúgy hatalmas a perf/watt hátránya a Ryzen AI-hoz viszonyítva.

[ Szerkesztve ]

Senki sem dől be a hivatalos szóvivőnek, de mindenki hisz egy meg nem nevezett forrásnak.

(#4) martonx


martonx
veterán

Mindez oké, de mégis mire lesz ez jó?

Én kérek elnézést!

(#5) Abu85 válasza martonx (#4) üzenetére


Abu85
HÁZIGAZDA

Lokálisan futtatható generatív AI-ra.

Senki sem dől be a hivatalos szóvivőnek, de mindenki hisz egy meg nem nevezett forrásnak.

(#6) freeapro válasza Abu85 (#3) üzenetére


freeapro
senior tag

Ez nem arról szól, hogy a neurális hálót FPGA HW-el implementálják?

(#7) Abu85 válasza freeapro (#6) üzenetére


Abu85
HÁZIGAZDA

Nem. Arra a Xilinx van. De az nem lenne túl jó egy SoC APU-ba, mert nem optimális a hardver hozzá, a Xilinx se kínál csak FPGA-t AI-ra. Az XDNA az a Xilinx Versal termékcsaládjában található AI Engine enyhe módosítása. Az AI Engine az alapvetően DSP-szerű, és az célirányosan AI-ra szabott hardver. Ezen belül is az AI következtetés szakaszára.

Itt van egyébként az, amit a Xilinx kínál AI-ra: [link] - láthatod, hogy több részegység található benne.

[ Szerkesztve ]

Senki sem dől be a hivatalos szóvivőnek, de mindenki hisz egy meg nem nevezett forrásnak.

(#8) ddekany válasza Abu85 (#5) üzenetére


ddekany
veterán

Nem csak generatív AI-nak fekszik feltételezem, hanem lehet pl. valami kép/videó manipuláció (pl. jobb háttér eltávolítás meeting-en), beszédfelismerés, stb.

(#9) Abu85 válasza ddekany (#8) üzenetére


Abu85
HÁZIGAZDA

Persze nyilván, eleve kisebb munkaterhelés, tehát ami jó generatívra, az jó ezekre is.

[ Szerkesztve ]

Senki sem dől be a hivatalos szóvivőnek, de mindenki hisz egy meg nem nevezett forrásnak.

(#10) martonx válasza Abu85 (#5) üzenetére


martonx
veterán

Értem én, hogy gőzgép, de mi hajtja? Magyarán konkrét use-case-t kérek, hogy ez mire lesz jó?
Mert olyan érzésem van ezzel az egész AI dologgal, mint anno a blokkchain-nel. Valaki kitalálta a gombot, és azóta is keressük hozzá a kabátot.

Én kérek elnézést!

(#11) martonx válasza ddekany (#8) üzenetére


martonx
veterán

De ezek a funkciók már sok-sok éve velünk vannak. Ezekben semmi új nincs. Ráadásul ki fogja ezek újraírni gyártó specifikus x darab különböző keretrendszerben?

Én kérek elnézést!

(#12) ddekany válasza martonx (#11) üzenetére


ddekany
veterán

A minőség nem mindegy, pl. a meeting háttér kitakarás ami zoomban van, az egy vicc. Értelmes leiratozás dettó.

(#13) Abu85 válasza martonx (#10) üzenetére


Abu85
HÁZIGAZDA

Konkrétan bármire, ami megadott neuronhálóból következtet. Tök mindegy, hogy mit találnak ki, ha van egy neuronháló, azt kezeli a Ryzen AI. Azt, hogy mit csinál az a hardver szempontjából mindegy, a valós feldolgozás úgyis 99%-ban mátrixszorzás.

#11 martonx : Miért kellene ezeket újraírni? Ott az ONNX futtatási környezet. Az több Execution Providers implementációt támogat. Ha egyszer megírod ennek a környezetnek megfelelő programot, akkor az onnantól futhat Azure-ban, a WebNN-nel, Ryzen AI-t, DirectML-en a GPU-kon, stb. A Ryzen AI ugye valójában egy Vitis AI, csak át van nevezve, de az alapja a Vitis. Azért van már most száznál is több alkalmazás, ami támogatja, mert igazából a fejlesztői munka az nem sok. Lényegében kimerül az ONNX futtatási környezet tesztelésében.

És alapvetően nem szükséges a Ryzen AI ezekhez a programokhoz. Mehetnek azok DirectML-en is a GPU-val, csak a Ryzen AI sokkal hatékonyabb erre a feladatra. De nem kötelező, gyengébb minőségben lehetnek DirectML-en futó GPU-s implementációk is. Nagy munka ezekkel sincs, a ONNX futtatási környezet mellé tartozik egy DirectML Execution Providers implementáció, amit a Microsoft biztosít.

[ Szerkesztve ]

Senki sem dől be a hivatalos szóvivőnek, de mindenki hisz egy meg nem nevezett forrásnak.

(#14) martonx válasza Abu85 (#13) üzenetére


martonx
veterán

Mindig ettől félek, hogy ami bármire jó, az valójában semmire se lesz jó, de ne legyen igazam. Majd 2 év múlva meglátjuk lecsegett-e a hype vagy valós tényleg valós előnye lesz a mindennapokban.

Én kérek elnézést!

(#15) Abu85 válasza martonx (#14) üzenetére


Abu85
HÁZIGAZDA

Mivel minden AI feladat a hardver szintjén nagyjából 99%-ban mátrixszorzás, így a hardvernek is elég ennyire egyszerűnek lennie. Az már nem igazán a hardver reszortja, hogy a program ezt a sok számítási kapacitást mire használja. Ezért írtam, hogy magát a számítási kapacitást bármire lehet használni, ami ötletszinten felmerül.

[ Szerkesztve ]

Senki sem dől be a hivatalos szóvivőnek, de mindenki hisz egy meg nem nevezett forrásnak.

Copyright © 2000-2024 PROHARDVER Informatikai Kft.