Hirdetés

2024. szeptember 16., hétfő

Gyorskeresés

Hozzászólások

(#1001) freddirty válasza DarkByte (#1000) üzenetére


freddirty
senior tag

Igen pont az az ami nagyon meglepő a fluxban, hogy elsőre egy jól megírt prompt alapján egy nagyságrenddel jobb képet generál mint a szokásos. Egy SD 1.5, 2.x, XL bárminál a workflow kb. az, hogy belövöd kb. a promptot sok-sok próbálkozással (és nem leíróan, hanem szabak vesszővel elválasztva, fontossági sorrendben csökkenően), aztán generáltatsz egy nagyobb batch-el sok-sok képet, majd kiválasztod ami leginkább jellemző arra amit szeretnél, majd azt dolgozod tovább, inpaint, scale, etc... Na itt ez a munkamenet lerövidül egy jó leírópromptra, amiben egy LLM fél perc alatt segít, majd azt átírva már az akár első generálás után mehet az utómunka. Akár órákkal is kevesebb lehet egy kép elkészítése.
Így az SD el is felejtheti, hogy valaha létezett, ha nem tesz le egy hasonlót az asztalra, akkor át fog állni minden fejlesztő és AI hobbista erre.

fred

(#1002) 5leteseN válasza freddirty (#1001) üzenetére


5leteseN
senior tag


... miután a memóriaigényt levitték a felére! :K

(#1003) DarkByte válasza 5leteseN (#1002) üzenetére


DarkByte
addikt

Elvileg lett most egy nf4 (4bit kvantált?) flux dev modell is, ami megy 6/8GB-os kártyákkal Forge-on keresztül.

Viszont ComfyUI támogatása nincs, és comfyanonymous azt írja, hogy nem tervezi egyelőre támogatni, mert saját próbái szerint jóval rosszabb minőségű képet produkál mint a teljes modell.

[ Szerkesztve ]

(#1004) 5leteseN válasza DarkByte (#1003) üzenetére


5leteseN
senior tag

Köszönöm! :R

Rávetődtem! ;] :DD

(#1005) lockdown90


lockdown90
senior tag

Deep Live Cam-et próbálta valaki már?

i7 13700k - 32Gb DDR5 - RTX4070S

(#1006) Mp3Pintyo válasza lockdown90 (#1005) üzenetére


Mp3Pintyo
aktív tag

Igen, próbáltam már. egészen jól működik. Este jön róla a videó :)

https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók

(#1007) 5leteseN


5leteseN
senior tag

Kis hardver kitérő azoknak akiknek nem csak a legdrágább(és nem is mindig a legjobb), de elég-jó-vételes, jó teljesítményű, saját-építős hardver kell.

Ahonnan a későbbi döntésemig jutottam: Mivel a csábító Mini-PC-k a teljesítményhez képest drága lapos-RAM-okat használnak, azokat is csak két foglalattal, és csak külső eGPU lehetőséggel, és a "laposok" átépítése eGPU-val szintén nem győzött meg, ezért kis keresés után "meggyőződődtem", hogy a meglévő "több-kiló"(3-400GB :Y ) szerver-RAM állományomat és a hozzá passzoló CPU-imat(E5-26xxv3-akat) meglepően jól tudom hasznosítani egy 2011-3-as alaplappal, Kínából. Az ECC-s DDR3 készletem a 4-RAM-csatornás alaplap és CPU segítségével közelíti a méregdrága és finnyás DDR5-ös rendszer RAM-sebességét, egyedül CPU-ban elmaradva. Erre viszont a fórum tárgyát képező AI-MI területen nincs is nagyon szükség, hiszen a VGA-GPU-k 8-15-ször jobban, hatékonyabban, gyorsabban dolgoznak az ezen a területen szokásos AI-feldolgozásnál a processzoroknál.

EZEN a berendelt alaplapomba

az eBay-en pár-tíz €-ért vannak Ryzen 3600 körüli teljesítményű E5-ösök, alig több (alul-feszelt) fogyasztással, de jelentősen jobb memória-rugalmassággal és fejleszthetőséggel: nem kettő Ryzen-es, hanem 8 RAM foglalattal! Ugyanez ráadásul érvényes a VGA-k számára is, ahol a Ryzen-ek viszonylag drága alaplapjai egy VGA-t szeretnek kezelni, míg az öregecske 2011-3 egy (szerver-)CPU-val is lazán visz 3(x16PVIe3.0-ás) VGA-t és 8 DDR3-DDR4-es RAM-ot. Egy viszonylag drágább, akciós alaplapom jön(meg, remélem hétvégére), de aki nálam is nagyobb fejlesztési lehetőséget akar(még több VGA, még több RAM), annak vannak nem sokkal drágábban(70- €-tól indulva, Ali-k, duplája: eBay) két-processzoros alaplapok is. Bevallom én kicsit túllőttem a fenti alaplappal az eredeti 2011-3-as célomon,

ami még mindig a korábbi(elvetett) Ryzen-es tervemnél jóval többet tud a két VGA-ak(+4xPCIe, +1xPCIe, ...) és 4 DDR3-DDR4 RAM aljzatokkal(128GB). Egy gazdaságos indulást tervező AI-s felhasználónak EZ a 2011-3-as alaplap is több mint elég az induláshoz, de én most ennél kicsit "nagyobbat markolok". ;]

Mindezeket az hardver 5leteket és infókat úgy említem, hogy bár jelenleg (még) nem nagyon használnak az egyéni felhasználóknak összerakott AI-s programok(Fooocus, LM Studio, Ollama, ...) több VGA-t, de becslésem szerint azok is idők is sebesen közelegnek, tehát az a plussz 10-20€ befektetés a több-VGA-s alaplapokba nem túl nagy kockázat, a többlet RAM lehetőséggel főleg!
Gondolom én!

Ki unaloműző szösszenet, amíg megérkeznek a Flux és RAG videók!
;] + :R

[ Szerkesztve ]

(#1008) DarkByte


DarkByte
addikt

Mindeközben Kínában megtalálták a módját hogyan csináljanak a 4090D-ből 48GB-s verziót (a 4080 SUPER-ből pedig 32GB-sat). Kérdéses ebből mi szivárog át majd az EU-ba és az Nvidia mit lép rá. Ez tkp. A100-at csinál a 4090D-ből.

A Flux lájkolná. :D (illetve a nagyobb LLM modellek)

[ Szerkesztve ]

(#1009) DarkByte válasza 5leteseN (#1007) üzenetére


DarkByte
addikt

A több VGA használat tutira jön.

Pl. a Flux kapcsán is meg lehetne csinálni, hogy a T5 és a VAE rész is másik kártyán menjen, és akkor ezek a fázisok párhuzamosan tudnának menni, illetve egy-egy kártyába összesen kevesebb mindent kellene betölteni. (illetve a T5 részt nem a CPU-n kellene futtatni mint most, sokkal gyorsabb lenne, csak a 24GB-s kártyákkal egyszerűen nincs neki hely)

Jelenleg pl. ComfyUI ezt nem támogatja. Nem tudom megmondani a workflow egyes elemei melyik kártyára töltődjenek be.
De ami késik az nem siet..

---
Apropó, a héten jön a ComfyUI-ba az Execution model inversion, ami rádob még egy lapáttal a workflow lehetőségekre, kvázi adva egy metaprogramozási lehetőséget. for ciklusok, változók, node-ok dinamikusan hozhatnak létre további node-okat.
Megint kinyit egy új dimenziót :)

Itt van pár demó workflow hogy mire lesz ez jó: [link]
Bár szerintem egyik sem igazán mutatja meg jól.

Nekem pl. van egy több emberes InstantID workflow-m ami egy kép img2img párján azonos pozícióra azonos fejeket visz át. Azt jelentősen leegyszerűsítené például :)

[ Szerkesztve ]

(#1010) 5leteseN válasza DarkByte (#1009) üzenetére


5leteseN
senior tag

A francba, csak két TESLA P40-esem van(2x24GB)! :W
Most akkor vegyek még egyet, vagy eladjam és vegyek belőlük egy 3090-et(vagy 4060Ti-t).

Csupa gond az élet! ;] :O :W

(#1011) Komplikato válasza 5leteseN (#1007) üzenetére


Komplikato
veterán

És ezekből van két processzoros verzió is.Én is gondolkodom ilyenen ram intenzív AI dolgok, meg Gaea word generátor programhoz. Csak kéne bele 2db jó kínai rtx3070m 16GB kártya is, de nehéz beszerezni. Mert az új alaplapokkal szben ebbe lehet több kártyát pakolni. :R

[ Szerkesztve ]

"Figyelj arra, aki keresi az igazságot és őrizkedj attól, aki hirdeti: megtalálta." - (André Gide)

(#1012) body007 válasza 5leteseN (#1007) üzenetére

Tetszik az elképzelés nekem is. A chatgpt "szerű" AI-hoz milyen vas kellene? vga vagy cpu? rengeteg ram? Az lenne a cél, h én feltanítom amivel akarom: bash, python skript írás, full linux ismeretek, hasonló dologgal és segítene fejleszteni. Ezt a chatgpt is tudja de jobb lenne ha otthon maradnánk az adatok :B

Mindenkit egyforma külső inger ér, de egyén függő, h éljük meg :P

(#1013) 5leteseN


5leteseN
senior tag

A két CPU-s rendszerek (azok alapján amit olvastam) csak 50% körüli plusz teljesítményt adnak, sok kérdőjellel és bizonytalansággal.
Ezért döntöttem a neves dupla-CPU-s szerver alkalmazás helyett(HPE ML350p, DELL-ek, HP380 G8/G9, ...) a tuningolható kínai mellett, ami szerintem jobb választás.
A felsoroltaknak van 5 x19-os VGA-juk, + még 2-3 kisebb, de nálam W10-11 alatt össze-vissza-akadtak, sok esetben nincs driver Windows-okhoz és bizonytalan(-abb, mit a kínai alaplapok esetében), mert a felsoroltak kimondottan szerver üzemmódra vannak tervezve, és a "Nagyok" nem adják ki az open-driverek megírásához szükséges kódokat/infókat.
A 2. évemet nyomom a "Nagyok" ezen (részükről üzletileg szándékosan gerjesztett)problémáinak kiismerésével és megoldásával.
Meguntam!
Szomorúan látom ráadásul, hogy az általuk "kínai-gagyi" kategóriásnak mondott eszközök állva hagyják a régi nagy neveket ezen a területen(is).

A témához visszatérve: a kis tuninggal elérhető (Ryzen 5600X körüli) CPU-teljesítmény jól és fillérekért adja a kiegészítést és a szükséges hátteret az AI-n izzadó GPU-knak a modernek és ide nem optimális modern alaplapokhoz képest, de ehhez minimum 32(de még inkább 64)GB RAM kell.
Király: a valóban kicsit koros 8de ezzel az laplapi tuninggal egész jóteljesítményű) szerveres DDR3-akat most öntik a használ-piacra, és nem sokkal többért (és a desktop DDR4-nél és DDR5-nél főleg sokkal jobb áron) jönnek már a DDR4-es szerver-RAM-ok is. A 64GB RAM-mal és 1(-2) GPU-val ez az alaplap pár évig bőven elég lesz(reményeim szerint) egy élvonalbeli amatőr AI-s otthoni rendszerben, a ki tudja milyen(de folyamatosan botrányokkal tarkított) adatvédelmi káoszban.

A GPU-k a CPU-hoz viszonyítva(sok szakfórum egyetértő megállapításai alapján) 7-15-szörös sebességgel futtatják az AI feladatokat.
A több VGA-s lehetőség rövidesen itt kopog az ajtómon! ;] :C

(#1014) consono válasza 5leteseN (#1013) üzenetére


consono
nagyúr

Ideje lenne elengedned a Windowst lassan, ha tényleg komolyabban akarsz ezzel játszani. Minél komplexebb lesz a setupod annál nagyobb az esély, hogy Winen nem fogod tudni jól használni, de lehet, hogy csak pesszimista vagyok :D

Born too late to explore Earth, born too early to explore the Universe. Born just in time to sit in front of the laptop and join a Teams meeting...

(#1015) Mp3Pintyo válasza body007 (#1012) üzenetére


Mp3Pintyo
aktív tag

Nem kell ilyenekkel feltanítanod mert már vannak ilyen modellek. Ha te akarnád "feltanítani" akkor nem árt hozzá előbb eladni az összes ingatlanodat és abból gépet venni :D
Ebben a playlistben megtalálsz mindent arról hogyan futtass nyelvi modelleket a saját gépeden:
https://youtube.com/playlist?list=PLwgpW3US1sKntGLCW6JZqY2opJnFz6luQ&si=4x6wDJprCAZgEPea
Magyar nyelvű természetesen.

Ha pedig konkrétan fejleszéshez kell akkor ajánlatos a fejlesztőkörnyezetedhez feltenni a Cody-t amit az Ollama kiszolgál a háttérben.

VGA: minimum 16GByte VRAM (12 már necces) azért, hogy jó modelleket tudjál futtatni.
32 GByte rendszermemória is jól jön. A többi kb mindegy. gyors ssd

https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók

(#1016) body007 válasza Mp3Pintyo (#1015) üzenetére

köszi, lesz mit hallgatnom délután főzés közben :D :R

Mindenkit egyforma külső inger ér, de egyén függő, h éljük meg :P

(#1017) scream válasza 5leteseN (#1007) üzenetére


scream
veterán

Amúgy arra kiváncsi lennék, hogy pl egy ilyen "no-name" kínai lap fw részről mennyire aggályos information security / privacy aspektusból - akárcsak elméleti szinten tud-e valamilyen módon adatot szivárogtatni haza? :F

(#1018) lockdown90 válasza scream (#1017) üzenetére


lockdown90
senior tag

ezeken nem refurbished/recycled intel chipek vannak?

[ Szerkesztve ]

i7 13700k - 32Gb DDR5 - RTX4070S

(#1019) 5leteseN válasza scream (#1017) üzenetére


5leteseN
senior tag

Részben akár jogos is lehet az aggodalom(mint minden más gyártónál is ;] ). Részemről az AI-t off-line(netről lekapcsolva) futtatnám, ha olyan érzékeny területen dolgoznék vele és a probléma megoldva! :C

Érdekessége a kérdésnek(és a válasznak), hogy az eddigi hírek szerint (ahogy én látom) az alaplap BIOS-a gyakorlatig nyilvános, visszafejtett, és jó eséllyel napokon belül futótűz szerűen terjedne a szakmai berkekben, ha mégis kínai hátsókapu lenne benne.
Az pedig alig 1000(+)% :U , hogy a nagynevű konkurenciák "objektív" háttéremberei is beszállnának a rémhír-terjesztős "buliba". ;] :K

Én ezek miatt gyakorlatilag kizártnak tartom. Ígéretet is teszek egy azonnali értesítésről, ha ilyet hallok, főleg mint aktuális felhasználó!

(#1020) 5leteseN válasza lockdown90 (#1018) üzenetére


5leteseN
senior tag

Én is hallottam ilyen(a közlő által nem bizonyított) híreket. Nem tudom a választ. Ha találsz valami nemzetközi hírt erről, szerintem szivesen látjuk azt. Mind-e mellet az én becsléseim szerint az AI terület száguldási ütemét látva bármilyen "vas" 3-5 éves élettartamban utazik. Ez alapján pedig ha mégis ilyen "ezer évre" tervezett szerver csipeket (újra-)használnak, akkor erre a további 3-5 évre én személy szerint akkor sem nem aggódom.
Ezen meggyőződésem ellenére sem vagyok (elvakult) hívő, nem erőltetem senkire a dolgot, vannak alternatívák erre, a nem sokkal többek-jobbak, újak, sok év garanciával, olyan 10(+)-szeres áron.

Érdekes lenne nekem is egy ilyen AI-területre összerakott "neves cél-hardver" kontra "kínai-vas" összehasonlítás! :K

[ Szerkesztve ]

(#1021) Komplikato válasza body007 (#1012) üzenetére


Komplikato
veterán

Múlt héten találtam leírást amivel lehet tréningezni ilyen 7B/8B szintű (azaz kellően pici és buta) AI rendszereket 8-12-16GB VRam mellett. De cserébe a ugye le vannak degradálva ilyen FP4-re, tehát brutálisan lassúak. Elég bonyolult mindent felpakolgatni és összefűzni. Ilyen trainingről nincsenek tutorial hegyek, mint pl. képalkotó AI + Lora esetén.

"Figyelj arra, aki keresi az igazságot és őrizkedj attól, aki hirdeti: megtalálta." - (André Gide)

(#1022) scream válasza 5leteseN (#1019) üzenetére


scream
veterán

Szeretem magam abba a hitbe ringatni, hogy a nagyobb nevű alaplapgyártóknál nem a beragadt raktárkészletek kikukázása utáni legózás eredményéhez, Pistajóska által tákolt fw-t szállítanak - így legalább, ha van rajta backdoor, valamilyen "rendezett" körülmények közötti backdoor kerül rá - ahol talán vigyáznak arra, hogy tőlük kifelé már ne kerüljön az adat. :)

(#1023) DarkByte válasza scream (#1017) üzenetére


DarkByte
addikt

Szerencsére a kínaiak nem tudnak jó szoftver írni, szóval ettől nem aggódnék. :DDD

(#1024) 5leteseN válasza scream (#1022) üzenetére


5leteseN
senior tag

Maradjon kettőnk között ;) : Mikor a Szíriuszra küldött, gyík-embereknek címzett rádió-üzenet AI-s visszafejtését elindítom majd, úgy tippelem, hogy kihúzom majd a hálózati kábelt(és kikapcsolom a Wi-Fi-t is), bárki alaplapját is fogom használni!

;] :C ;]

Komolyabban: Értem a problémát, és (naív-optimista módon) kezelhetőnek tartom. :DDD

(#1025) Mp3Pintyo válasza lockdown90 (#1005) üzenetére


Mp3Pintyo
aktív tag

Elkészült a Deep Live Cam videó.

https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók

(#1026) lockdown90 válasza Mp3Pintyo (#1025) üzenetére


lockdown90
senior tag

eleg durva :))

i7 13700k - 32Gb DDR5 - RTX4070S

(#1027) section9 válasza 5leteseN (#1019) üzenetére


section9
őstag

Nem tartom valószínünek, hogy backdoor lenne benne (mondjuk azt sem, hogy a szakmai berkek megtalálnák a backdoort), de ha van benne, akkor nem csak akkor jelent problémát amikor érzékeny feladatokon dolgozol, hanem amikor hálózatra van kötve. Ha a belsö hálózatodon van egy backdoorozott gép, akkor gyakorlatilag a teljes hálózatod úgy kell kezelni, mintha direktben internetre lenne kötve, mivel a fertözött hostról bármilyen eszközödet tudják támadni.

Én nem feltétlenül mernék ilyet használni szigorú hálózati szegmentáció nélkül, még akkor se ha van lokális IPS/IDS/tüzfal, mindig minden eszköz azonnal patchelve és hardenelve van, nincs gyenge jelszó, stb. De ugye mindenkinek más a kockázat éhsége. :)

(#1028) 5leteseN válasza section9 (#1027) üzenetére


5leteseN
senior tag

Akkor szinte mindenben egyetértünk:

Nem tartom valószínünek, hogy backdoor lenne benne(BIOS)
:K Más formában, ugyanezt írtam! :DD

...(mondjuk azt sem, hogy a szakmai berkek megtalálnák a backdoort),
:Y :Y Miért is nem?

...de ha van benne, akkor nem csak akkor jelent problémát amikor érzékeny feladatokon dolgozol, hanem amikor hálózatra van kötve.
:K Írtam a megoldást! Annál jobb "Tűzfal" nincs! ;)

Ha a belső hálózatodon van egy backdoorozott gép, akkor gyakorlatilag a teljes hálózatod úgy kell kezelni, mintha direktben internetre lenne kötve, mivel a fertözött hostról bármilyen eszközödet tudják támadni.
Egyéni felhasználót írtam: Magamat! :K
Ha kellene(nekem, egyénként, egyáltalán) az említett biztonsági szint, akkor a kényes (AI-)időpontokban leválasztom a gépet.

Én nem feltétlenül mernék ilyet használni szigorú hálózati szegmentáció nélkül, még akkor se ha van lokális IPS/IDS/tüzfal, mindig minden eszköz azonnal patchelve és hardenelve van, nincs gyenge jelszó, stb. De ugye mindenkinek más a kockázat éhsége. :)
:K Magad is írod a jó megoldást! :C
...gondolom én, még mindig, elég határozottan: A leggyengébb láncszem még mindig az Ember! ;]

(#1029) section9 válasza 5leteseN (#1028) üzenetére


section9
őstag

Szerintem pont a lényeget nem érted. Nem csak akkor jelent problémát a backdoorozott gép, amikor valamit futtatsz rajta, hanem attól a pillanattól fogva, amikor rácsatlakoztattad a hálózatra. Ha volt rajta backdoor és rácsatlakoztattad, akkor már sanszos, hogy hiába húzod ki, mert nullánál nagyobb az esélye, hogy mire kihúzod már pivotoltak egy másik eszközödre.

Hogy miért nem hiszek benne, hogy megtalálnák a backdoort:
A Stuxnet évekig maradt rejtve, a Juniper backdoor szintén, a SolarWinds hónapokig. Ezek mind szuperbiztonságos hálózatokon mentek úgy, hogy olyan cybersecurity szakemberek vizsgálták a hálózatot akiknek ez a munkájuk. Ahhoz, hogy egy random kínai dzsunka alaplap BIOS-ában megtaláljanak egy backdoort kell egy spektrumon lévö unatkozó cybersecurity szakember, aki hétvégén a CoD vagy párja helyett inkább reverse engineerkedéssel szeretné mulatni az idöt. Nem mondom, hogy nincs ilyen, de én nem mernék rá nagyobb tétben fogadni, hogy tényleg megtalálná bárki. Ezt 10+ év szakmai cybersecurity tapasztalata alapján mondom, nem csak lelkes hobbiistaként.

De ez itt tényleg off. Ha neked ez belefér használd egészséggel, csak nem szeretném, hogy mások a kockázatok ismerete nélkül ugyanezt csinálják. :)

(#1030) DarkByte válasza 5leteseN (#1028) üzenetére


DarkByte
addikt

Ezt a kifestőkönyvet lehetne mellőzni legközelebb, lécci? :O

(#1031) 5leteseN válasza section9 (#1029) üzenetére


5leteseN
senior tag

Én 20+ éve IT-felhasználó vagyok és és csak érdeklődés szinten(szerintem az átlagnál komolyabban) foglalkozom biztonságtechnikával. Ennek ellenére eléggé biztonságban érezném magam valami kényes témában utazó kkv-ként, ha a kényes időpontokban egy páncélból elővett SSD-ről futtatnám az AI-programomat a lehúzott-kikapcsolt vezetékes és Wi-Fi hálózatos kapcsolattal(vagyis így ugyebár azok nélkül) dolgozó PC-n.
Mindezt tenném azután kb, hogy a BIOS-vírusokat is ellenőriztem például egy live-Linux-os írtóval(egyszerírt-lezárt CD-DVD), és az SSD-n lévő eszközzel is.
Szerintem akár egy Op-rendszer indítás előtti BIOS-reset is segítheti még a biztonságom "illúzióját"! ;]

Ha pedig a misztikum világáig fokoznánk a dolgot, akkor elmerülhetünk a CPU-mikrokódok "egy-pöttyet" konteós világában is! ;)

Ha ezeknél a korábban említett segédeszközöknél is betartottam a képzeletbeli kkv IT-szakembereként a biztonsági előírásokat, akkor jó eséllyel maradna az emberi-tényező kihasználása, mert mint tudjuk a klasszikusból: "Van az a pénz amitől korpásodni fog a haj!" ;]

Kis poénnal vittem színt a szakmai hsz-be, és a jóval korábbi (BIOS-os ?!? )Stuxnet-es olvasmányaimból is tanultam, és annak az orosz gázvezeték-robbanásnak a "fatális véletlene" is szolgált tanulságokkal! ;]

Ennél jobban nem akarok belemenni ebbe az OFF-os kitérőbe.
Érdekes lenne egyébként erről a kérdésről megkérdezni az AI-kat! ;)

[ Szerkesztve ]

(#1032) 5leteseN


5leteseN
senior tag

Kellemes meglepetésként tegnap megjött az AI-s szupergépem(remélhetőleg az lesz :K ) alaplapja Kínából. Elsőre indítva bejött a BIOS-t követő menü, majd lazán betöltötte sokat látott WinToGo(Windows10-es) rendszeremet:

Az USB-s LEXAR(NM620) még kicsit jobban is megy, mit a hasonló korú Latitude 3500-ben, de még a családtag(szintén DELL) T8510-nél is gyorsabb kicsivel(pedig asszem ugyan az az Intel 612-es rendszer-chip alatt megy mindkettő). :F

Az is kijött, ami miatt az AI-ra jobbnak tartom, mint az eGPU-s laposokatt: a kb 50% órajellel lassabb DDR3-8500-as, 16GBos modulok négycsatornás üzemmódban gyorsabbak a DRR4-es SO-DIMM-eknél, mert bizony azok csak két-csatornás RAM-üzemmódban mennek a Latitude 3500-ban.

Számokban:
- Latitude 3500, DDR4-2400, két-csatornás üzemmód:

26.000MBps körüli értékek,

- az X99-8D3 alaplap, DDR3-8500, négycsatornás üzemmód:

28.000MBps körüli értékek.
:Y :K :Y

Elméletileg a DDR3-as RAM-jaim közel 30%-kal húzhatóak lesznek, megbízható működéssel, kis melegedés és +3-5W fogyasztás árán! :DD :C

Nem viszem OFF-ba a témát, ennyi (mint "cél-hardver" ;) ) szerintem belefér.
Zárásként a lényeg: Mindhárom VGA aljzat rendben van! ;]
Mentem, építem a LEXAR NM 620 512GB-ra az AI-s Windows 11-emet.

[ Szerkesztve ]

(#1033) 5leteseN válasza 5leteseN (#1032) üzenetére


5leteseN
senior tag

Miután feltöltöttem új X99-es "barátom" DDR3-as RAM helyeit, gondoltam, megnézem, mi a helyzet a Piacon, és "leültem"! :Y :DD

Ezért: 128GB RAM(4x32GB) 60€ körül DDR3-ból és 70€ körül DDR4-ből. Ráadásul az eBay-es rápillantás után nem győzöm elzavarni őket(Kösz, nem kérek árleszállításost sem, stb...), mert még mindig van egy csomó RAM-om a polcon.

Úgy hogy lazán megéri X99-re alapozott alap-rendszert összerakni(ha valakinek nincs erre a célra korábbi PC-je), mert harmad áron kijön, mint az asztali elemekből összerakott új Ryzen+DDR5 rendszer, annál ugyan 20-30%-kal kisebb CPU-RAM sebességgel, DE cserébe 2-3-szeres RAM-mérettel! :C
A RAM-ok esetében nem is biztos a sebesség-lemaradás, mert a szokásos Ryzen-ek csak 2-csatornás módban dolgoznak a gyorsabb DDR5-ös RAM-okkal, míg az ebben az üzemmódban nem sokkal lassabb DDR4-ek a szerverprocesszorokkal négy-csatornás üzemmódban "tolják", ősszességében tehát gyorsabbak!
Ott van még (a rövidesen learatható bónuszként) a több VGA-s üzemmód lehetősége is az X99-es platform mellett.

Érdekességként:
- kínai X99-es alaplap 8xRAM, 3xVGA: 70€ körül
- Ryzen 3600X szintű CPU: 20-30€
- 128GB DDR4 RAM: 70€
- Bónusz: 2-3(-4+ +20-40€-ért) VGA használat lehetősége!!!
- kétCPU-s alaplap ártöbblete: 30-40+ €.

Az nem szabad elfelejteni, hogy VGA-k 5-10(akár-15)-ször hatékonyabbak(RTX 3090), tehát egy dupla-CPU-s (csak-CPU-val dolgozó) AI-PC kb egy gyenge nVidia VGA tudását közelíti, 3-szoros fogyasztással!
A CPU-s rendszer előnye viszont, hogy a csillagászati árú(3090, és 4000-es nV-sorozat) tagjai is csak 16-24GB VRAM-mal rendelkeznek, tehát például egy 40GB-os Flux ugyan úgy CPU-rendszer-RAM összeállítást fog használni(ha van elég a drága asztali RAM-ból) kb dupla sebességgel, mint egy csak CPU+RAM-os X99-es PC.

Minden jónak tűnő hír ellenére: Csak CPU-val tartósan nem éri meg AI területen ismerkedni, de (szerintem ! ) jó, és sokkal megfizethetőbb kiegészítője egy X99-es (sok-RAM-os, +sok-VGA-s) gép, mint egy ide(AI) nem optimális jelenlegi (tipikus)új asztali-PC!

Ha már a Flux.1 Image Generator szóba került: ITT lehet online próbálgatni, e-mail-es regisztrálás után.
"Nem rossz, nem rossz..." :K

[ Szerkesztve ]

(#1034) hiperFizikus


hiperFizikus
aktív tag

Üdv mindenkinek, aki egy kicsit a lelke csücskében "mesterséges" ♥

Kitaláltam valamit, ne-ne ne-szaladj el nem fog fájni !
Le kell tölteni az internetről online általános lexikonokat és általános enciklopédiákat, amit aztán LLM programmal nézegethetsz !

Hogy ez hogy s mint van itt olvashatod ♥

A gázt is és a féket is egyszerre nyomni nem menő dolog !

(#1035) Komplikato


Komplikato
veterán

Ezt is megéltem, a Facebook algoritmusa Lumiere AI hirdetéseket sodor a látómezőmbe. :D

"Figyelj arra, aki keresi az igazságot és őrizkedj attól, aki hirdeti: megtalálta." - (André Gide)

(#1036) hiperFizikus válasza Komplikato (#1035) üzenetére


hiperFizikus
aktív tag

joo, megélted, de túléled-e ?
;]

A gázt is és a féket is egyszerre nyomni nem menő dolog !

(#1037) gabranek


gabranek
aktív tag

Szeretnék kérni egy kis segítséget. Ki akartam próbálni a Comfyui-t. Feltelepítettem az Anacondát, pythont (3.11.5) és a git-et. Mivel AMD kártyám van, nem épp a legegyszerűbben, de sikerült is elindítani. A kép generálása is lefut, viszont a legvégén kidobja az alábbi hibaüzenetet (a numpy-t is lefrissítettem, de nem segített):

!!! Exception during processing !!! Numpy is not available
Traceback (most recent call last):
  File "D:\ai\ComfyUI\execution.py", line 316, in execute
    output_data, output_ui, has_subgraph = get_output_data(obj, input_data_all, execution_block_cb=execution_block_cb, pre_execute_cb=pre_execute_cb)
                                           ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
  File "D:\ai\ComfyUI\execution.py", line 191, in get_output_data
    return_values = _map_node_over_list(obj, input_data_all, obj.FUNCTION, allow_interrupt=True, execution_block_cb=execution_block_cb, pre_execute_cb=pre_execute_cb)
                    ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
  File "D:\ai\ComfyUI\execution.py", line 168, in _map_node_over_list
    process_inputs(input_dict, i)
  File "D:\ai\ComfyUI\execution.py", line 157, in process_inputs
    results.append(getattr(obj, func)(**inputs))
                   ^^^^^^^^^^^^^^^^^^^^^^^^^^^^
  File "D:\ai\ComfyUI\nodes.py", line 1497, in save_images
    i = 255. * image.cpu().numpy()
               ^^^^^^^^^^^^^^^^^^^
RuntimeError: Numpy is not available

田中れいな

(#1038) Mp3Pintyo válasza gabranek (#1037) üzenetére


Mp3Pintyo
aktív tag

A Pythonban szinte minden csomag függ mindentől. Ha ráfrissítesz külön egy csomagra akkor az még plusz függőségekre is rá szokott frissíteni és így pillanatok alatt 3-4 másik csomag lesz működésképtelen.
Pythonnak inkább a 3.10-et ajánlanám.
Készítettél külön venv vagy conda környezetet?
Általában a numpy-ra mindenhol az a megoldás, hogy egy bizonyos verzióra frissítik. Pl:
pip install numpy==1.26.4

https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók

(#1039) gabranek válasza Mp3Pintyo (#1038) üzenetére


gabranek
aktív tag

A telepítést a te videód alapján csináltam. A windows 11-re telepített python verziója 3.11.5, viszont most megnéztem az Anacondán belül futó pythont, ami pedig 3.12.4 :F Ez az eltérés gondolom nem ideális.

田中れいな

(#1040) Mp3Pintyo válasza gabranek (#1039) üzenetére


Mp3Pintyo
aktív tag

Nem zavarja a progikat ha telejesen más a játszó környezetek python verziója. Hozz létre egy új conda környezetet a ComfyUI-nak de 3.10-es Pythont használva. Próbáld ki hátha segít a numpy hibán

https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók

(#1041) gabranek válasza Mp3Pintyo (#1040) üzenetére


gabranek
aktív tag

Igen, ez lett a megoldás, és a numpy-t is az 1.26.4 verzióra kellett frissíteni. Köszi szépen a segítséget :)

田中れいな

(#1042) ptesza


ptesza
senior tag

Tud valaki olyan megoldást ami képből vektor grafikát tud? img-->svg
Saját gépen lenne a legjobb.

(#1043) section9 válasza ptesza (#1042) üzenetére


section9
őstag

(#1044) ptesza válasza section9 (#1043) üzenetére


ptesza
senior tag

Köszi. Ezt már kihúztam és az illustratort is. Valami AI-ra gondoltam. :)

(#1045) 5leteseN


5leteseN
senior tag

Számomra király hírek jöttek a Discord-csatornádra, már töltöm is a Yt-os Amuse ismertető videó alatti linkről a Amuse-t
:DD :)) :C

Kb az AI-s AMD-sek előre hozott Karácsonyi Ajándéka(Amuse) jött meg! :R :DDD
Kösz-kösz!

[ Szerkesztve ]

(#1046) Mp3Pintyo válasza 5leteseN (#1045) üzenetére


Mp3Pintyo
aktív tag

Igen, egyből eszembe jutottál, hogy mennyire fogsz ennek örülni :D Persze nem egy ComfyUI de érdekes lehet megnézni, hogy mit hoz ki egy kellően jó AMD hardverből.

https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók

(#1047) 5leteseN válasza Mp3Pintyo (#1046) üzenetére


5leteseN
senior tag

Gyűrjük egymást keményen az AMD-s AI-újdonsággal(Amuse). ;)

Még ismerkedünk, van jó is rossz is, viszont erősen jobb, mint az eddigi kb semmi ! :DD :C
Mivel az eddigi semmi/alig-valami( a CUDA-hoz képest) nagggyon-qrva gáz (szerintem) az AMD-nek. Úgy sejtem, hogy jönnek majd ezerrel az újabb fejlesztések is rá.
Szerintem a ROCm "faragása" is megy közben ezerrel a háttérben!

Köszönet! :R

(#1048) Mp3Pintyo válasza 5leteseN (#1047) üzenetére


Mp3Pintyo
aktív tag

Azért megnézem mire képes egy AMD Ryzen AI 300-as processzor ezzel a progival

https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók

(#1049) consono válasza Mp3Pintyo (#1048) üzenetére


consono
nagyúr

És ez tényleg használ NPU-t is? Végre össze lehet majd hasonlítani rendesen, hogy mire elég az a 40 TOPS, amit mindenki belerak a procijába egy GPU-val szemben! Ja, de ahhoz kéne olyan proci is :)
Szerk.: itt elsősorban a wattra virított teljesítmény érdekelne, nem a nyers erő...

[ Szerkesztve ]

Born too late to explore Earth, born too early to explore the Universe. Born just in time to sit in front of the laptop and join a Teams meeting...

(#1050) Mp3Pintyo válasza consono (#1049) üzenetére


Mp3Pintyo
aktív tag

Igen ez a progi amit bemutattam mind a 3 lehetőséget tudja használni : CPU, GPU, NPU

https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók

Hirdetés

Copyright © 2000-2024 PROHARDVER Informatikai Kft.