Hirdetés

2024. április 28., vasárnap

Gyorskeresés

Hozzászólások

(#1) LordAthis


LordAthis
csendes tag
LOGOUT blog

Nagyon jó kísérlet, érdekelni fog minden fejlemény!
Tervezed pl saját gépen futtatni is az A.I.-t?

ChatGPT-vel már meglehetősen sokat beszéltem, ingyen is és fizetősen is.
Az utóbbi hónapokban tényleg sokat fejlődött, de ezt a következő hetekben azért majd tesztelem a régi kérdések ismétlésével, ahol elbukott! :DDD :DD ;]

"Az, hogy működik, még nem jelenti azt, hogy hibátlan." - "Azt mondják, hogy elmebajban szenvedek. De én nem szenvedek, ÉLVEZEM minden percét!"

(#2) MasterDeeJay válasza LordAthis (#1) üzenetére

Mindenképpen offline akarom futtatni, nem a pénz miatt mert tényleg filléres hanem mert érdekel hogyan működik.
Cuda-val lesz majd, lassan megérkezik a P102-100. (~1080ti 10Gb)

Vintage Story PH szervere újra fut!

(#3) kisi


kisi
aktív tag

Zseniális!

Ezt nem gondoltam volna!

Használgatom a ChatGpt-t főleg angol szöveg javítására, de hogy játékban is használható lenne, így...

(#4) MasterDeeJay

Megpróbálkozom helyileg futtatni az LLM-et: (nem mintha az openai drága lenne de sokkal poénosabb lenne mindent helyben futtatni)

Ez megy CPU only módban, nem feltétlenül kell hozzá cuda.
Helyi erőforrás megvan rá (36 szál 4.5ghz, 128Gb DDR4 4000)
https://github.com/LostRuins/koboldcpp/releases

A másik pedig aminek még nem néztem utána:
https://github.com/oobabooga/text-generation-webui/releases

Még mindíg nem találtam meg az igazi legjobb ár érték arányú budget cuda gyorsítót.
Nagyon a Tesla P40 felé hajlok (24Gb vram) de az nvidia CMP kártyák is jók lehetnének.

LLM modellt meg valami cenzúramenteset választok, szóljon be, legyenek kemények az npc-t.

[ Szerkesztve ]

Vintage Story PH szervere újra fut!

(#5) MasterDeeJay

LLM modell már megvan, mistral dolphin uncensored 7b medium lesz.
Valamint agressziót is feljebb is kell tekerni. Azt szeretném hogy ha inzulátok egy batár nagy nord-ot akkor ne mondja nekem azt hogy sajnálja hogy így gondolom azt hogy egy büdös nagy állat hanem egyből vágja le a fejem anyázva. A mostani GPT-3.5 turbo az cenzúrázott és félénk, nem a játékba való.
Amúgy ha valakit érdekli itt vannak az npc-k komplett infójai (énjei) amiből veszi az AI hogyan is kell reagálnia.
https://raw.githubusercontent.com/art-from-the-machine/Mantella/main/data/skyrim_characters.csv

[ Szerkesztve ]

Vintage Story PH szervere újra fut!

(#6) MasterDeeJay válasza MasterDeeJay (#5) üzenetére

Helyi gépen is megy végre de még csak cpu onlyval (érkezik a kártya, tesla v100 mining verziója lesz)

[ Szerkesztve ]

Vintage Story PH szervere újra fut!

(#7) LordAthis


LordAthis
csendes tag
LOGOUT blog

Ugyanúgy a cenzúra miatt tervezem saját gépen futtatni!
Bár nálam nem ilyen játékbéli agresszív vakarcsok miatt, de ahogy tapasztalatam, bizonyos területeken direkt nem segít...

.. ráadásul egy API segítségével össze akarom majd kapcsolni, hogy ha valamire a saját nem tud választ, akkor kérdezzen rá a többi (nem csak a ChatGPT van tervben) A.I.-nál.

Izgatottan várom, hogy mire jutsz, ha megérkezett a kártya!

"Az, hogy működik, még nem jelenti azt, hogy hibátlan." - "Azt mondják, hogy elmebajban szenvedek. De én nem szenvedek, ÉLVEZEM minden percét!"

(#8) Rowon


Rowon
veterán

LOL ha nem látom a YT-ra feltöltött videóidat, akkor nem hiszem el, hogy ezt meg lehet csinálni Skyrimban. :))

Az emberiség két legnagyobb találmánya az írás és a mikrohullámú sütő.

(#9) MasterDeeJay válasza Rowon (#8) üzenetére

Ez még csak a kezdet. Az igaz az ha az ai az npc-k teljes viselkedését átveszi, ott még nem tartunk.
Most csak reagálnak időjárás, idő, cselekmény, hely... szerint de csak szövegben. Ugyanakkor képesek már most követni, megtámadni meg alap dolgokat.
Nem csak a skyrim képes erre hanem igazából minden játék amely moddolható ilyen szinten. (Fallout4, de akár cyberpunk2077 is)
Ugyanakkor ami már most működik hogy a magyarításokat is felolvassa a szinkronhanggal. (Ai miatt én maradtam angolnál mert ahhoz nem kell nagy modell). Másik meg hogy maga a játékos szövegeit is fel lehet olvastatni akár melyik npc hangjával, nincs többé néma játékos karakter.

Az meg extra hogy emlékszik a játékos szövegeire minden npc azaz ha valakit anyáztál az úgy is marad de ehhez még több erőforrás kell. (Jelenleg törlöm az emlékeiket)

[ Szerkesztve ]

Vintage Story PH szervere újra fut!

(#10) Rowon válasza MasterDeeJay (#9) üzenetére


Rowon
veterán

Anno pár ezer órát játszottam vele, ma már nem köt le, de elképesztő látni, hogy már egy játék modot is képesek ilyen szintre fejleszteni.

Apropó... a mod nyílt forráskódú?

Az emberiség két legnagyobb találmánya az írás és a mikrohullámú sütő.

(#11) MasterDeeJay

Igen.
[link]

Vintage Story PH szervere újra fut!

(#12) Rowon válasza MasterDeeJay (#11) üzenetére


Rowon
veterán

Ez mondjuk nem egy hátrány.

Az emberiség két legnagyobb találmánya az írás és a mikrohullámú sütő.

Copyright © 2000-2024 PROHARDVER Informatikai Kft.