Hirdetés
Legfrissebb anyagok
LOGOUT témák
- hcl: GPT diszk kisebbre klónozása
- sziku69: Fűzzük össze a szavakat :)
- Luck Dragon: Asszociációs játék. :)
- D1Rect: Nagy "hülyétkapokazapróktól" topik
- gban: Ingyen kellene, de tegnapra
- aquark: Zsebszámológépek
- sziku69: Szólánc.
- Sub-ZeRo: Euro Truck Simulator 2 & American Truck Simulator 1 (esetleg 2 majd, ha lesz) :)
- Vandit.: Milyen zenét hallgattok most?
- f(x)=exp(x): A laposföld elmebaj: Vissza a jövőbe!
PROHARDVER! témák
Mobilarena témák
IT café témák
Új hozzászólás Aktív témák
-
#4
MasterDeeJay
veterán
Megpróbálkozom helyileg futtatni az LLM-et: (nem mintha az openai drága lenne de sokkal poénosabb lenne mindent helyben futtatni)
Ez megy CPU only módban, nem feltétlenül kell hozzá cuda.
Helyi erőforrás megvan rá (36 szál 4.5ghz, 128Gb DDR4 4000)
https://github.com/LostRuins/koboldcpp/releasesA másik pedig aminek még nem néztem utána:
https://github.com/oobabooga/text-generation-webui/releasesMég mindíg nem találtam meg az igazi legjobb ár érték arányú budget cuda gyorsítót.
Nagyon a Tesla P40 felé hajlok (24Gb vram) de az nvidia CMP kártyák is jók lehetnének.LLM modellt meg valami cenzúramenteset választok, szóljon be, legyenek kemények az npc-t.
Új hozzászólás Aktív témák
Témaindító bejegyzés
Aktív témák
- Revolut
- Xiaomi 15T Pro - a téma nincs lezárva
- Folyószámla, bankszámla, bankváltás, külföldi kártyahasználat
- OLED TV topic
- Kötelező frissítésnek számít a Microsoft legújabb csomagja a Windows 11-hez
- hcl: GPT diszk kisebbre klónozása
- Milyen billentyűzetet vegyek?
- A fociról könnyedén, egy baráti társaságban
- AMD K6-III, és minden ami RETRO - Oldschool tuning
- Tőzsde és gazdaság
- További aktív témák...
Új fizetett hirdetések
- Gamer PC - i5 / GTX 960/12 Gb Ram (Erősebb, mint a 1050 Ti!)
- Eladó AKG Ara, dupla kapszulás mikrofon! Bontatlan, garanciás! Több darab is elérhető!
- Logitech Superstrike x2
- D-link 16 és 24 portos, sima és POE, gigabites managelhető switchek
- Gigabyte H510M PRO-E alaplap + Intel Core i5 10400F CPU (+ram, táp, vga igény szerint)
Üzleti előfizetők hirdetései
- Sony Ps5 konzol slim
- 235 - Lenovo Legion Pro 7 (16IRX9H) - Intel Core i9-14900HX, RTX 4090
- Ventilátorok 120/140mm és modding termékek kitűnő árakon! Mennyiségi kedvezmény!
- Telefon felvásárlás! Samsung Galaxy A15, Samsung Galaxy A25, Samsung Galaxy A35, Samsung Galaxy A55
- AKCIÓ! Philips Envia 6000 34 WQHD 0,3ms OLED monitor garanciával hibátlan működéssel
Állásajánlatok
Cég: Laptopműhely Bt.
Város: Budapest