Sziasztok. Lehet, hogy kicsit hosszú lesz. .
Valahol el kell kezdeni.-
Tavaly már gondolkodtam azon, hogy itt létrehozok egy topicot. Ebben a témában. Aztán nem így lett. . Írtátok, hogy annak ellenére, hogy mennyire hype téma, alig van komment..nyugi, lesz ez még így sem. . Sőt.. Éppen ezért szerintem el kellene kezdeni valami 1. hsz-t, amolyan ismertetőt, egyrészt mankó gyanánt, no meg hogy ne legyen minden második kérdés olyan, amit az első hsz.-be beillesztve enélkül is meg lehet találni.

Lehetne mondjuk a következő felállásban:
-Milyen A.I.-k vannak, és ezek mire is jók. Ide jöhetne free és fizetős is, és ide egyből ezek mellé aktuálisan megadni a minimális, optimális gépigény, amolyan háztáji felhasználásra. .
Ugyanide, mindegyikhez esetleg, hogyan is kell telepíteneni, honnan, milyen függőségek vannak, milyen cuccok kellenek még ahhoz, hogy frankón fusson.
Stb..

Mert ezek még nekem sem tiszták.. .
Nagyon érdekel a téma, használom a ChatGPT-t (is), egyelőre csak webesen, vagy appon keresztül. Meglepő, hogy mondjuk iPhone 14 pro maxon és iPad pro-n (M1 chipes) sokkal gyorsabb, mint webes felületen, akármilyen géppel..

De..
Építettem egy nem rossz gépet, dedikáltan erre (is).
A gép (már ami ide fontos lehet):
-Ryzen 7600X - nem egy erőmű, de meglepően erős általános célra és játékokra is. Ahogy eddig olvasgattam, ez tulajdonképpen nem annyira szignifikáns az A.I. szemszögéből nézve. Ha ez esetleg a jövőben változna, vagy csak rosszul tudom, a kövi gen Ryzen érkezésekor ápdételem.
-RTX 7070 -12 GB
-DDR5-6000Mhz RAM - 64 GB.
-XPG Gaming S70 Blade 2x 1 TB RAID 0 Stripe.
-2x1 TB Sata SSD.

A többi azt hiszem, nem érdekes.

A kérdéseim is a fent említett témában lennének (könnyen lehet, hogy lesz benne hülyeség, de nézzétek ezt el nekem, hiszen még annyira nem vagyok otthon a témában.

-Van e itt vkinek olyan yt vagy más csatornája, ahol részletesen bemutatásra kerül, hogy milyen A.I.k vannak, azokat hogyan kell telepíteni és honnan szerezhetők be. Ha nincs, vagy nem teljes a kérdések szemszögéből, akkor akár kommentben is jöhet. .
-Első sorban olyan, magyarul is értő A.I. érdekelne, mint a Chat GPT, de free, és online tudjon "dolgozni", a saját gépről.
-Nem tudom, hogy tulajdonképpen hogyan működnek, de jó lenne, ha tanítható lenne, bővíthető modulokkal, vagy ilyesmi..(netán vmilyen szinten önfejlesztő lenne (?? . Tudom, beleér a bilibe a kezem, de hátha.)
-Ha nem csak "csetelésre" tudnám használni, hanem modultól függően (vagy működéstől?) másra is "be lehessen tanítani". - Akármit is jelentsen. .
-Nem lenne rossz, ha tudna kétirányú, hangalapú kommunikációt, azaz lehetne neki "beszélni", az A.I. is "beszélne" hozzám és esetleg ki lehetne választani különböző emberi hangokat, amin kommunikál..

W11-em van.
Köszönöm a válaszokat.

Szép estét. .

[ Szerkesztve ]

Mp3Pintyo csinált egy nagyon jó csatornát a Yt-on, ahol most nézegetem a videókat, azért vagyok ennyire csendben.

Nézz be oda te is, és pár napig el leszel foglalva
A vasad jó, a 7070-et gondolom elírtad, 4070-re tippelek.

Jó ötletek!

Közben lenne kérdésem, segítség kérésem Mp3Pinyo felé :
Ha szeretnék képet és 3D animációkat(rövidet:5-25mp) egy (vaduljunk ) Rába-Steiger-ről, amiben az eredeti motor helyett egy amcsi Hemi-V8 van, és a fülkéje egy Trabi kaszni, Csillagkapu sci-fi-s stílusú facelift után, akkor miket telepítsek ehhez a T5810 munkaállomásomra a 64GB RAM/E5-2680v4/Vega 56(8GB VRAM) és egyebekre?

Ha: ennek a vasnak az ereje elég egy ilyen tipikus példa projekthez!

[ Szerkesztve ]

Valahol itt kell elkezdened a Vega miatt: [link] itt pedig a Reddit beszélgetés hozzá: [link]
A legtöbb tutorial sajnos nvidia vidkarit feltételez... Ahogy látom itt Linux alól oldották meg a Vega használatát, nem tudom Windows alatt megy e ez.

"3D" videóhoz meg talán ezt lehet használni: [link]

Amúgy majdnem mindenhez GUI-nak az AUTOMATIC1111 a legelterjedtebb, érdemes ennek a telepítéséről nézni valami tutorialt.
Kicsit szkeptikus vagyok, hogy a Rába Steigert le tudod e generáltatni vele, az eléggé Hungarikum

Born too late to explore Earth, born too early to explore the Universe. Born just in time to sit in front of the laptop and join a Teams meeting...

Sikeresen feltettem a W11 alá a Fooocust, ami nem indul nVidia nélkül

Igen, sajnos eléggé NV centrikus még mindig minden...

Born too late to explore Earth, born too early to explore the Universe. Born just in time to sit in front of the laptop and join a Teams meeting...

Ez biztosan nem Okés oldal. NE csinálj itt semmit.

https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók

Mac->Windows->Linux
Azaz a legtöbb mindent Linuxon tudod futtatni de ott tényleg!! jól kell értened a rendszerhez mivel Windows alatt is van olyan telepítés ami jó ideig eltart.
Teljesítményben nem nagyon lesz különbség.
Van jó pár Githubos projekt ami jelenleg még csak Linux és egész ígéretes de ezeknek rövid hatéridőn belül meg szokott jelenni a Windows telepítési lehetősége is.
Itt természetesen soha sem egy EXe fájl futtatásáról van szó (legritkább)
Szinte mindig github clone.

https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók

Nagyon jó ötlet az összefoglaló. De amennyi embertelenül sok AI van ami ráadásul használható is maximum kategóriákba lehetne felsorolni más már nem férne el.
A telepítésük sokszor nem csak 1-2 utasítás hanem 10-20 így azoknak a felsorolása felejtős.
Így gondolnám értelmesnek:
Alapok:
1. Milyen gépem legyen
2. Ha nincs akkor mit tudok használni
Saját gépre általában szükséges telepíteni:
1. Python
2. Git
....
AI Kategória1
1. AI neve
1.1 nagyon röviden mit tud a kategóráján belül
1.2 telepítés linkje (ez sokszor a github oldal)
1.3. telepítés videós ha van
1.4. konkrét használatról videó
2. Ai neve másvalami
....

https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók

Ez azért van mert:
Nvidia kártyákat gyakran javasolják az otthon futtatott AI programokhoz több okból is:
1. **CUDA és cuDNN**: Az Nvidia kártyák támogatják a CUDA (Compute Unified Device Architecture) és a cuDNN (CUDA Deep Neural Network library) technológiákat, amelyek kifejezetten mély tanulási alkalmazásokhoz lettek kifejlesztve. Ezek a könyvtárak lehetővé teszik az AI kutatók számára, hogy maximalizálják az Nvidia GPU-k teljesítményét.

2. **Széleskörű támogatás**: Az AI közösségben használt népszerű keretrendszerek, mint a TensorFlow és a PyTorch, alapvetően Nvidia GPU-kra vannak optimalizálva. Ez teszi őket a legalkalmasabb választássá az AI kutatáshoz.

3. **Teljesítmény**: Az Nvidia GPU-k magas párhuzamosítási képességei lehetővé teszik a mély tanulási modellek gyorsabb képzését és kiértékelését.

4. **Folyamatos fejlesztés és frissítések**: Az Nvidia folyamatosan fejleszti a CUDA és cuDNN könyvtárakat, így az újabb verziók általában jobb teljesítményt és több funkciót kínálnak.

https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók

nem baj ha nem megy. A csatornán keresd meg azt a videót amiben bemutatom hogyan tudod használni az ingyenes Google Colab rendszerében. Igaz nem teljesértékű de alap képgenerálásra ki tudod próbálni.

https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók

Az kicsit hosszú lesz "3D animációkat(rövidet:5-25mp)"
Animációra ezek jelenleg a legjobb eszközök: Runway, Pika Labs, Deforum, AnimateDiff, Zeroscope
Ezekkel inkább rövid 2-5 másodperces animációkat hozol létre amit összefűzöl nem kicsi utómunkával.
Klasszikus itt egy 3D modell és csinálj belőle 30seces konzisztens animációt még nincsen.

https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók

Nekem megvan ez az infó, de pl. már 2 éve van ROCm támogatás a PyTorchban (meg egy ideje natív Apple Mx is), amit elég sok minden használ, mégis mindenhol csak az NV megy. Leginkább szerintem megszokásból.

Amúgy ezt a ChatGPT írta?

Born too late to explore Earth, born too early to explore the Universe. Born just in time to sit in front of the laptop and join a Teams meeting...

Van beta-s AMD változat a Fooocushoz, bat file módosított indítás, meg nyilván egy csomó minden ami mögötte van.
Indítanám is, de azóta új lett a Python, mire letöltöttem újak a modellek.
Mire letöltöttem a 2-3x 2-3GB-ot, addigra új aFooocus is (már a2.1.752-es).
6-7x 3-4-5-6 GB újraletöltés 48 óra alatt.

[ Szerkesztve ]

A Fooocus naponta többször is frissül. Ha beleveted magad az AI-ba akkor sürgősen különíts el 500 GByte tárhelyet 😃

https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók

Igen. Erre is jó 😃

https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók

Én is kipróbáltam gyorsan, még az én kis 3050-emen is egész gyorsan produkál szép képeket. De lehet, hogy tényleg downgrade-elni kellene a drivert, mert alig terheli a GPU-t...

#162: Gondoltam, hogy ChatGPT, feltűnt a stílusa Én mostanában PHP kódoláshoz használom segédnek

Szerk.: a Fooocusnak is baja van a kezekkel Pedig a múltkor láttam valami jó plugint az automatic1111-hez, ami megoldotta, de lehet hogy az is csak image to image esetén...

[ Szerkesztve ]

Born too late to explore Earth, born too early to explore the Universe. Born just in time to sit in front of the laptop and join a Teams meeting...

Nem ezzel van gondom, bírná az 500GB-os SSD-m, a netem akadozik, és ha jól látom, akkor egy megszakadt kapcsolat esetén is újra kell kezdenie a letöltést. sokadszor a sok GB-os allományoknál elég idő pazarló.

Hogyan tudom kikapcsolni ezt az automatikus frissítést?

Találtam még valamit. A Fooocust írja induláskor, hogy nincs telepítve vmi torchaudio, torchtext, functorch és xformers.
Ezeket hogyan tudom a jó helyre tennie vagy tetetni a programmal?

Az AMD-khez írnak vmi sebesség 4-szerező tensor-akármit.
Segíthet? Letöltöttem, who, nem indul.
Nem fog ütközni?

[ Szerkesztve ]

Most nekiugrottam első lépésben a yt csatornádnak, azon belül is az LM Studiót fogom a hétvégén kipróbálni, néhány modullal. . Jobban arra vagyok kíváncsi, hogy agépem mire elég ezen a téren..

Failed to load model 'TheBloke • zephyr beta 7B q8_0 gguf'
Error: Error loading model. Exit code: 1

..hmm..leszedtem, kiválasztanám/betölteném, de ez a hibaüzi fogad.. .

AMD-seknek: Ezek a hibaüzenetek nem érdekesek, mert az AMD-hez módosított run.bat szedné le ezeket, de nincsenek is telepítve ezért írja a hiba üzenetet, lényegtelen! Helyettük a torch-directml-t telepíti.
Közben szerintem elvész vhol a VRAM beállítás, mert miután ezeket befejezi, csak 1GB VRAM-ot lát a Vega 56 8GB-jából, és további összetevők indításai után végül mindig corrupt lesz a refiner...safetensor 6GB-os file és töltögetné újra századszor.

Szerintem a két hiba összefügg.

[ Szerkesztve ]

Keress rá a hibaüzenetekre. Én vagy kéttucatot már megoldottam, be sem írtam azokat ide, az szokott az első hibajavító próbálkozásom lenni.
Utána jövök kérdezni.
Gyors a fejlesztés azért vannak ezek.

A modul könyvtár patch.py állomány 489-es sorában megadott érték miatt tekinti korruptnak hibásnak az állományt, ezért töltögetné újra mindig az alig 6GB-ot.
Vmi korábbi verzió mérete lehet ott, amit az AMD-s rrun.bat változat használna, csak azóta ömlenek a javított változatok és mivel viszonylag kevés AMD-svan, nem bukott ki a hiba.
Emiatt a hiba miatt az AMD-ken nem fut, ezért még kevesebb AMD-s lesz.

A jó kézhez
LORA-t kell használni: Ez pl elég jól működik:https://huggingface.co/jlsim/GoodHands-beta2/tree/main
Illetve negatív promptot abból is renegetg van a Civitai oldalon.

https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók

1. A Fooocust git repobol tedd fel és ne töltsd le a zip fájlt.
Ilyenkor a frissítés mindig csak pár kbyte vagy MByte lesz.
2. run.bat fájlt írd át erre:
.\python_embeded\python.exe -m pip uninstall torch torchvision torchaudio torchtext functorch xformers -y
.\python_embeded\python.exe -m pip install torch-directml
.\python_embeded\python.exe -s Fooocus\entry_with_update.py --directml
pause

3. Nem tudom mire gondolsz. Link?

https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók

Milyen videókártyád van? Q5-el kezdjed és ha az rendben elfér a videó memóriában akkor menj felfelé.

https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók

Minden az AMD ellen esküdött össze Kíváncsi vagyok, hogy az AMD mikor villant majd valamit ami rendesen támogatott lesz AI fronton. El ne menjen ez a vonat mert brutális lemaradnak.

https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók

LM Studio nincs minden nap új verzió. Ők ritkábban adnak ki változtatást. Nekem 1 hibát leszámítva (ami lehet miattam volt) full stabilan működött.

https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók

Ez is segít a perfekt kéz készítéséhez:
https://civitai.com/models/47085/envybetterhands-locon?modelVersionId=55199

https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók

1. A Fooocust git repobol tedd fel és ne töltsd le a zip fájlt.
Ilyenkor a frissítés mindig csak pár kbyte vagy MByte lesz.

Én: A videód alatti Fooocust linket használtam. Gondolom az jó.

2. run.bat fájlt írd át erre:
.\python_embeded\python.exe -m pip uninstall torch torchvision torchaudio torchtext functorch xformers -y
.\python_embeded\python.exe -m pip install torch-directml
.\python_embeded\python.exe -s Fooocus\entry_with_update.py --directml
pause

Én: Igen, én is megtaláltam ezt az AMD-seknek megadott run.bat javaslatot, ezzel jönnek a leírt hibaüzenetek.
Ennek a végén adja a méret hibát a module konyvtár patch.py alappján, aminek az erre vonatkozó utasításai alapján átnevezi corrupted-nek és következő indításkor elkezdi ugyanazt letölteni.
Erre írtam, hogy az AMD-s bat-módosítás valami korábbi verziós AMD összetevőt telepíthet a kizárólag nVidia-s helyett. Viszont ez az eltérés hozzá a hibát a reklamált méretű és vagy verziójú sd_xl_refine...-nál, mert annak változott a mérete a most ismét telepített AMD-t használó modul óta .

3. Nem tudom mire gondolsz. Link?

Én: Az AMD írt vmi tensor-... .whl-t ami segíti a tanulást, és akár négyszeres teljesítményt hoz. Hivatalos oldalukon volt, most nem találom.
Megvan viszont a letöltött file neve: tensorflow_directml-1.15.8... .whl

Az a VRAM méret is bosszant, 1GB-ot lát a Vega 8GB-jából.
Valamilyen opcióval ez megoldható, de én még kezdő vagyok, nem ismerem ezt.

Arra gondoltam, hogy kis sikerélményt adnék magamnak és generálnék vmi egyszerű képet csak a CPU-mal, amíg alszom lesz ideje megcsinálni
Ehhez hogyan kellene elindítanom a run.bat-tal a Fooocus-t?

Bónuszka: Lora-t én is tudok vajon építeni?

Ötlet: Abban a patch.py-ba ki rem-elném az ide vonatkozó méretet verziót ellenőrző és javító sorokat.
Mi vajon ez az utasítás a Python-ban, amit a sor elejére írva a sor tartalma csak szöveg lesz, és nem hajtja végre, bármi van ott?

[ Szerkesztve ]

Ez egy általános hibaüzi, nem találok rá semmit, ezért is írtam ide.. szedtem le másik modelleket, kisebbeket is, azok sem indulnak el..itt valami más lesz a gond..

Felraktam azt is, az sem indul el, tulképpen egyik sem. 4070-em van, a nagyobb modellnek is kellene futnia, max lassabban..gépben van ram bőven, szal az sem lehetne akadály.. .

Próbáld meg telepíteni a cuDNN-t az NVidiától, hátha megoldja.

Born too late to explore Earth, born too early to explore the Universe. Born just in time to sit in front of the laptop and join a Teams meeting...

Van egy új technika amivel CPU-n is el lehet érni nagysebességű képgenerálást GPU gyorsítás nélkül. Most épp utazom de kedden készítek róla videót.

A git repot clonozd a gépre. Ezt csináltad?
Fooocus: https://github.com/lllyasviel/Fooocus

https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók

Azt meg megnézem, ha hazaertem melobol..mas fuggosege nincs neki vajon? Pyton, vagy vmi..?

Python kb mindenhez is kell. Ehhez is természetesen

https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók

A futtatasokhoz is? Marmint a modulokehoz..

A library-t, vagy a frontendet, vagy mindkettőt? .

Én úgy emlékszem csak a dll-eket telepítettem, de ne felejtsd majd el beállítani a rendszer változókat sem

Born too late to explore Earth, born too early to explore the Universe. Born just in time to sit in front of the laptop and join a Teams meeting...

Kicsit konkrétabban? . Python fent van, ugyanúgy nem indul el semmi..frissítem majd a drivert is, abból is van kint újabb..cuda-ból akkor felrakom a libet.

Nem tudom konkrétabban, valamikor egy éve telepítettem

Born too late to explore Earth, born too early to explore the Universe. Born just in time to sit in front of the laptop and join a Teams meeting...

Maradt az 1Gb VRAM-ból fakadó problémám(a többi rendben van), 8 GB van a Vega 56-nak.

Erre tud valaki megoldást(beállítás valahol)? Fooocus ról van szó még mindig.

[ Szerkesztve ]

Megköszönném, azt a CPU-s beállításokat a Fooocushoz, mert ez az '1Gb VRAM használható a 8-ból' gond nem akar megoldódni, pedig eröltetném, nem sült galambot várok, de

Keddig nem vagyok gépközelben. Addig használd a Google Colab verzióját. Annál mindegy milyen géped van csak egy böngésző kell. (Img referencia megadás nem megy)
Itt a videó róla:
Képgenerálás ingyen bármilyen számítógépen a Google Colab segítségével
https://youtu.be/VVU2aPhxHW4

https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók

Szia, ilyen python notebook van szoveg generalasra is?

https://www.coreinfinity.tech

Nos. Elindult a modul, mindegyik. A legnagyobbak is szépen mennek ezen a gépen. Eléggé buták, már ami a magyar nyelvet illeti és ez még csak modul verziótl, nagyságtól sem függ..

Sajnos mivel nem magyar a training set (vagy legalább is kevés benne a magyar anyag), ez nem meglepő. Elvileg készül itthon is a HunGPT, de nem tudom hogyan állnak vele. A ChatGPT viszont egész jól elmuzsikál magyarul is.
Amúgy ha csak "használni" akarja az ember, szerintem a ChatGPT+BingAI szinte mindent lefed. Meglepődtem, hogy pl. a kép generálás milyen jó és gyors lett a Bingben. Persze nem offline...

Born too late to explore Earth, born too early to explore the Universe. Born just in time to sit in front of the laptop and join a Teams meeting...

És nem lehet egy ilyen nyelvi modult beszerezni, vagy integrálni már meglévő modulba? A ChatGPT is gondolom, dolgozott vmi adatbázissal és az elég jól sikerült, bár én személy szerint azt gondolom, hogy sokat butítottak a public verzión és nem ok nélkül..

Magyar nyelvu anyaggal kell a treninget megcsinalni, akkor menni fog - ez nem egy egyszeru "magyaritas".

https://www.coreinfinity.tech

Akit esetleg érdekel, az LM studióhoz letölthető a PULI magyar nyelvi modellje is. A keresőben is megtalálható, TheBloke/PULI-GPT-3SX-GGML néven, de elég a puli is a keresőbe, egyértelmű lesz. .

"
Az a 128 milliónyi magyar nyelvű tanítóanyag, amivel a ChatGPT-t tanították, elenyésző a 183 milliárd angol szövegrészlet mellett. A PULI GPT–3SX nevű modell tanítását ezzel szemben 32 milliárd magyar szövegrésszel végeztük. A szövegekből nemcsak a nyelvtan és a szókészlet tanulható meg. A mindennapi nyelvhasználatot átszövi a kulturális, történelmi tudás és az adott nyelvterület mindennapjaira jellemző szóhasználat. Ezért érthető, hogy bár a ChatGPT egész jól bánik a magyar nyelvvel, a magyar emberek számára releváns kulturális tudást csak egy jóval nagyobb magyar adatbázison betanított helyi fejlesztéssel kaphatjuk meg"