Hirdetés
Legfrissebb anyagok
LOGOUT témák
- Luck Dragon: Asszociációs játék. :)
- Parci: Milyen mosógépet vegyek?
- f(x)=exp(x): A laposföld elmebaj: Vissza a jövőbe!
- Magga: PLEX: multimédia az egész lakásban
- sziku69: Szólánc.
- D1Rect: Nagy "hülyétkapokazapróktól" topik
- sziku69: Fűzzük össze a szavakat :)
- eBay-es kütyük kis pénzért
- gban: Ingyen kellene, de tegnapra
- GoodSpeed: Segway-Ninebot F3 E elektromos roller.
PROHARDVER! témák
Mobilarena témák
IT café témák
Új hozzászólás Aktív témák
-
S_x96x_S
addikt
válasz
5leteseN
#1780
üzenetére
> Például: egy 10GB-os LLM mekkora VRAM-ot igényel összesen?
attól függ.
pl.
https://huggingface.co/spaces/NyxKrage/LLM-Model-VRAM-Calculator
pl. egy Qsen2.5-14B-Instruct - Q4_K_S -el 8192 Context -el
ami -->
7.88 GB model size ( + 2.16 GB Context Size ) = 10.04GB Total Size
Új hozzászólás Aktív témák
Aktív témák
- Linux haladóknak
- Kormányok / autós szimulátorok topikja
- iPhone topik
- Építő/felújító topik
- Milyen légkondit a lakásba?
- AMD Ryzen 9 / 7 / 5 7***(X) "Zen 4" (AM5)
- NVIDIA GeForce RTX 5080 / 5090 (GB203 / 202)
- Háztartási gépek
- Xiaomi 13T és 13T Pro - nincs tétlenkedés
- Milyen asztali (teljes vagy fél-) gépet vegyek?
- További aktív témák...
Új fizetett hirdetések
Üzleti előfizetők hirdetései
- Bomba ár! Dell Latitude 7420 - i7-1185G7 I 16GB I 512SSD I HDMI I 14" 4K I Cam I W11 I Garancia!
- BESZÁMÍTÁS! ASUS ROG Strix X570-F Gaming alaplap garanciával hibátlan működéssel
- Lenovo ThinkCentre M720s SFF / M920T tower -Számla, garancia, WIN11
- Samsung Galaxy A16 128GB, Kártyafüggetlen, 1 Év Garanciával
- GYÁRI TÖLTŐK DELL LENOVO HP FUJITSU TOSHIBA Macbook---------- Budapest,/MPL/Foxpost
Állásajánlatok
Cég: PCMENTOR SZERVIZ KFT.
Város: Budapest