Hirdetés
Legfrissebb anyagok
LOGOUT témák
- Luck Dragon: Asszociációs játék. :)
- GoodSpeed: Kell e manapság egérpad vagy sem?
- droidic: Windows 11 önállóság nélküli világ: a kontroll új korszaka
- gban: Ingyen kellene, de tegnapra
- D1Rect: Nagy "hülyétkapokazapróktól" topik
- Brogyi: CTEK akkumulátor töltő és másolatai
- btz: Internet fejlesztés országosan!
- sziku69: Fűzzük össze a szavakat :)
- ubyegon2: Airfryer XL XXL forrólevegős sütő gyakorlati tanácsok, ötletek, receptek
- Hadeska22: Fiio x Snowsky Tiny - Megoldás a (mesterségesen gerjesztett) problémára
PROHARDVER! témák
Mobilarena témák
IT café témák
Új hozzászólás Aktív témák
-
#4
MasterDeeJay
veterán
Megpróbálkozom helyileg futtatni az LLM-et: (nem mintha az openai drága lenne de sokkal poénosabb lenne mindent helyben futtatni)
Ez megy CPU only módban, nem feltétlenül kell hozzá cuda.
Helyi erőforrás megvan rá (36 szál 4.5ghz, 128Gb DDR4 4000)
https://github.com/LostRuins/koboldcpp/releasesA másik pedig aminek még nem néztem utána:
https://github.com/oobabooga/text-generation-webui/releasesMég mindíg nem találtam meg az igazi legjobb ár érték arányú budget cuda gyorsítót.
Nagyon a Tesla P40 felé hajlok (24Gb vram) de az nvidia CMP kártyák is jók lehetnének.LLM modellt meg valami cenzúramenteset választok, szóljon be, legyenek kemények az npc-t.
Új hozzászólás Aktív témák
Témaindító bejegyzés
Aktív témák
Új fizetett hirdetések
- HP ZBook 17 G6 i7-9850H / 64GB / 512GB SSD / Quadro RTX 3000 / Hun bill / Újszerű állapotú
- DJI Mini 4 pro - Fly More Combo - RC2 drón szett - 500m magasság, C1, kevés repülés
- DJI Mini 4 pro - Fly More Combo - RC2 drón szett - 500m magasság, C1, Care Refresh, PL Filter
- Nintendo Switch 2 // Számla + Garancia //
- Gyerek kerékpár 12 Kék színű, tanulókerékkel, kosárral (2 4 éves korosztálynak)
Üzleti előfizetők hirdetései
- Xiaomi Redmi Note 14 5G 256GB, Kártyafüggetlen, 1 Év Garanciával
- GYÖNYÖRŰ iPhone 12 mini 64GB Black -1 ÉV GARANCIA - Kártyafüggetlen, MS2955
- ÁRGARANCIA!Épített KomPhone i7 14700KF 32/64GB RAM RTX 5070 Ti 16GB GAMER PC termékbeszámítással
- Samsung Galaxy A36 5G / 6/128GB / Kártyafüggetlen / 12Hó Garancia / Bontatlan
- GYÖNYÖRŰ iPhone Xs Max 256GB Black -1 ÉV GARANCIA - Kártyafüggetlen, MS3537, 100% Akkumulátor
Állásajánlatok
Cég: NetGo.hu Kft.
Város: Gödöllő
Cég: Promenade Publishing House Kft.
Város: Budapest