Hirdetés

2024. június 9., vasárnap

Gyorskeresés

Hozzászólások

(#51) Kristof93 válasza haxiboy (#47) üzenetére


Kristof93
senior tag

'Senki' sem vesz dedikált hang vagy háló kártyát. Itt a fórumon kívül a dedikált gpu is elég réteg termék. Messze többen játszanak igp-n, konzolon, telefonon és még ennél is többen nem játszanak egyáltalán. Ezért kell a cpu-ba integrálni az ai-t, a Microsoftnak muszáj mindenkit megcélozni, nem csak a felhasználók töredékét. A strix az év vége felé még jobban le fogja szűkíteni ezt a piacot, főleg ha sikerül belőni a 4060m köré.

(#52) paprobert válasza julius666 (#41) üzenetére


paprobert
senior tag

Na igen, egy mondatos beböfögésből próbáljuk tippelgetni hogy mire gondolt a szerző. Én mindenesetre leírtam, hogy mit ne várjon.

"Ezt mégis honnan veszed?"
Csak nézd meg alaposan, hogy mit adott a képhez. Felturbózott fények az autókon, és zöldesszürkés közép-európai tonemapping a sárgás kaliforniai helyett.
Abba nem akarok belemenni, hogy ez-e a leginkább hardver- és fejlesztőidő hatékony megoldás a kívánt látvány elérésére, de ez szerintem túl messzire vezet. De érdekes demó, az biztos.

"Full hamis a dilemma amit felvázolsz."
Szerintem ugyanarról beszélünk. Ahogyan felvázoltad, ugyannak az éremnek a két oldala.
Csak te a sebességnyerést kihasználva extra raszter minőség hozzáadásával képzelted el. Én pedig az eredeti raszter minőségre felhúzott AI utómunka kiterjesztésével.
Mindkettő járható út, de az utóbbira még nincs kézzel fogható implementeció.

640 KB mindenre elég. - Steve Jobs

(#53) haxiboy válasza Kristof93 (#51) üzenetére


haxiboy
veterán

[link] Ezt érdemes megnézni :)

[ Szerkesztve ]

Premium Mining Rigek és Gamer/Workstation gépek: tőlem, nektek :)

(#54) Kristof93 válasza haxiboy (#53) üzenetére


Kristof93
senior tag

Egyre elborultabbak ezek a javaslatok. Most már nem csak külön gyorsító kártyát kéne vegyenek az emberek, hanem 5000 eurós szervert építsenek. Most ezért a pár tucat emberért költsön a MS tízmilliárdokat? Teljesen valótlan.

(#55) julius666 válasza paprobert (#52) üzenetére


julius666
addikt

Csak nézd meg alaposan, hogy mit adott a képhez. Felturbózott fények az autókon, és zöldesszürkés közép-európai tonemapping a sárgás kaliforniai helyett.

Ja értem, te szemre ennyi változást vettél észre a rojtosra tömörített yt videón az eredeti/AI enhanced változatok között. A gyakorlatban nagyon nem erről van szó, teljesen átgyúrja a képet az AI feldolgozó. Ha próbálgattál már mondjuk stable diffusiont controlnettel, nagyon leegyszerűsítve valami olyasmiről van szó. A videóban elmagyarázzák részletesen a feldolgozás lépéseit, ezek szerint nem nézted végig, csak az előtte/utána részeket láttad. :U

Őszintén szólva nem sok értelmét látom a vita folytatásának. Láthatóan nem igazán vagy képben, de még csak végig se nézted a videót, úgy állítasz róla mindenfélét. Komolytalan ez így.

(#56) paprobert válasza julius666 (#55) üzenetére


paprobert
senior tag

Jujj, elnézést, az aszfalt textúra lecserélését(az esetek felében rosszabbra) nem említettem... az mindent megváltoztat... :U
(a kontrasztot közben felborítja, az autók maszatossá válnak, a fehéregyensúly ugrál az égen, és a fejlesztők büszkék arra, hogy csak ennyi az artifact)

Kifejtenéd, hogy miért kellene hasra esni egy végeredményben gagyi GTA modtól? Mert ML alapú?
A látvány számít, és abban harmatgyenge. A HWköltség / látvány arány még rosszabb.

Hogy lesz ez nagyságrendekkel jobb?

A technológia fejlődésére példaként itt a Tesla full self driving, ami már 10 éve "kész van" és a tőled idézve nem kell hozzá sok fantázia hogy tényleg jól működjön.
(Ezzel szemben a pályás sáv- távolságtartáson kívül a legtöbb ember kikapcsolja, mert 30 kilométerenként vagy idegesítő hülyeségeket csinál, vagy meg akarja ölni a sofőrt.)

Ugyancsak nem kellett hozzá sok fantázia elképzelni, ahogy munkanélkülivé válnak a fordítók a Google Translate nagy ML funkciófrissítésekor ~10 éve, ami nagyon impresszív volt megjelenésekor.
A fordítók köszönik, jól vannak.

Sajnos túl könnyű megelőlegezni a korrekt működést, és youtube videókon csámcsomgva várni a csodát.

[ Szerkesztve ]

640 KB mindenre elég. - Steve Jobs

(#57) haxiboy válasza Kristof93 (#54) üzenetére


haxiboy
veterán

A videóban a demot egy laptopon csinálta Chuck...leszámítva azt a néhány bevágást amivel demonstrálta mit lehet kihozni egy multi-gpu rendszerből. :U

De érdekességképpen most kipróbáltam egy Raspberry Pi5 -ön és egész vállalható sebességgel fut még a llava is.

Szerintem elképzelni nem tudod mennyi pénzt tolnak bele a cégek a publikusan elérhető modellek tanításába, amik futtatásához jé! nem kell atomerőmű.

Premium Mining Rigek és Gamer/Workstation gépek: tőlem, nektek :)

(#58) Abu85 válasza arn (#46) üzenetére


Abu85
HÁZIGAZDA

Bármi, amihez van elég memóriád lokálisan, illetve elég gyors, mátrixszorzást alkalmazó részegységed. A lényeg annyi, hogy ne a szerverinfrastruktúrát terheld olyan feladattal, ami lokálisan is lefuttatható. A szervert csak akkor terheld le, ha a feladat lokálisan, reális időn belül megvalósíthatatlan. Ezzel tehermentesíted az adatközpontokat, így nem kell annyira sokat építeni, amivel kisebb lesz a fenntartási költség, stb.

[ Szerkesztve ]

Senki sem dől be a hivatalos szóvivőnek, de mindenki hisz egy meg nem nevezett forrásnak.

(#59) JohnyX válasza Abu85 (#58) üzenetére


JohnyX
junior tag

[kép] Ez akkor biztos valami Windows 10 "fekete mágia" hipp-hopp a 8Gb-s VGA 16 GB RAM fölött diszponál (az összes integrált VGA is a rendszer RAM-ból kap részt dinamikusan).

Nálam régebben volt olyan VGA ami dedikált volt, de rendszer memóriából foglalt le magának Ramot .

(#60) Abu85 válasza JohnyX (#59) üzenetére


Abu85
HÁZIGAZDA

Ez teljesen normális, hiszen az operációs rendszernek nincs kontrollja a VGA memóriája felett, de a WDDM-ben van megosztott memória is, és ott már van kontroll. Csak ugye az nem sokat ér, mert a megosztott memória elérési ideje úgy 500-szor lassabb, mint a dedikált memóriáé. Emellett ez egy WDDM funkció. Az explicit API-k esetében bonyolultabb a helyzet, mert ott az program dönt arról, hogy hol helyezi el az allokációt, és ebbe az OS nem is szól bele. És a legtöbb AI-ra szabott program ma még úgy működik, hogy ha elfogy a VRAM, akkor nem is törődik a többi erőforrással, hanem dobja az out-of-memory üzenetet. Nyilván ennek van egyfajta logikája is, hiába a több memória, ha az elérése több száz nagyságrenddel lassabb. Az adatmásolások miatt sokszor ezt felesleges befogni, mert ha meg is teszed, akkor is végeredményben gyorsabb lesz, ha a processzor számolja az AI feladatot. Tehát igazából az extra memóriával csak sebességet buksz. Ennek van hasznossága mondjuk egy játékban, ahol azért jobban menedzselhetők az adatmásolások, de az AI feladatok annyira memóriaintenzívek, hogy a megosztott memória igazából többet árt, mint használ.

[ Szerkesztve ]

Senki sem dől be a hivatalos szóvivőnek, de mindenki hisz egy meg nem nevezett forrásnak.

(#61) pengwin válasza haxiboy (#23) üzenetére


pengwin
addikt

Igyekszem követni a témát, csak most kicsit azt érzem az NV marketingje elbeszélt a valóság mellett. Igen. a fejlesztéshez, tanításhoz/tréninghez kellenek a nagyon komoly erőforrások, de az NPU-k tudtommal nem ezt igyekeznek elősegíteni, hanem a modellek használatát a végfelhasználók részéről.
És nagyon csodálkoznék, ha helyi asszisztens futtatásához venne valaki dedikált hardvert - mert gyakorlatilag most erről beszél az NV.

Üdv, pengwin

(#62) Komplikato válasza pengwin (#61) üzenetére


Komplikato
veterán

Nagyobb modelleket most SE tud futtatni senki célhardver nélkül. Más tészta, hogy azokat szvsz NPU-val se fogja senki. Amúgy csak nekem fura, hogy a mobil szegmensbe nem áll bele az Nvidia, hanem partneren keresztül, aki állítólag a Mediatek lesz?

"Figyelj arra, aki keresi az igazságot és őrizkedj attól, aki hirdeti: megtalálta." - (André Gide)

(#63) arn válasza Komplikato (#62) üzenetére


arn
félisten

Az nvt a konzumpiacon kb a pcgaming tartja, amugy teljesen a szerverek fele mozdultak el.

facebook.com/mylittleretrocomputerworld | youtube.com/mylittleretrocomputerworld | instagram.com/mylittleretrocomputerworld

(#64) haxiboy válasza arn (#63) üzenetére


haxiboy
veterán

Mint minden ilyen nagy cég, jó eséllyel egyik hw gyártónak sem a consumerek hozzák a lóvét, hanem a céges nagy megrendelések.

Premium Mining Rigek és Gamer/Workstation gépek: tőlem, nektek :)

(#65) arn válasza haxiboy (#64) üzenetére


arn
félisten

Nv eseten azert eleg jo profitot termel nekik, illetve mindig egyfajta biztos pontnak hasznaljak (innen erkeztek, sokminden valtozott korulotte, de ez maradt), szvsz azert is probaljak meg mindig kiszolgalni ezt a piacot.

facebook.com/mylittleretrocomputerworld | youtube.com/mylittleretrocomputerworld | instagram.com/mylittleretrocomputerworld

Copyright © 2000-2024 PROHARDVER Informatikai Kft.