- Retro GPU-k mindörökké: a végleges koncepció, és a szereplők bemutatása
- Keychron B6 Pro billentyűzet az iPad mellé
- WLMouse BEAST X MAX Gamer egér és WLMouse Xsoft L egérpad
- Intel Core Ultra 5 245KF teszt - az alsó középkategória csúcsa átlagosan közepes
- Fizetőssé teszi a start gomb megnyomását a Microsoft?
- Magga: PLEX: multimédia az egész lakásban
- sziku69: Szólánc.
- Luck Dragon: Asszociációs játék. :)
- sziku69: Fűzzük össze a szavakat :)
- joghurt: Skype adatvesztés
- Gurulunk, WAZE?!
- Mr Dini: Sokat késik a vonatod? Itt a megoldás! [mávtp]
- D1Rect: Nagy "hülyétkapokazapróktól" topik
- gban: Ingyen kellene, de tegnapra
- eBay-es kütyük kis pénzért
Új hozzászólás Aktív témák
-
S_x96x_S
addikt
> m4 pro milyen lehet AI gyorsításban pl egy nVidia RTX A5000-hez képest?
meg kell nézni majd a benchmarkokat.
de ha a nagy VRAM és a fogyasztás jobban számít
mint a gyorsaság és a CUDA kompatibilitás
akkor az M4 PRO - ideális.-------
Pl. A nagy LLM -re ( > 32Gb )
az új Mac Mini M4 Pro - ideális hobby megoldás.
999 990 Ft -tól kapsz egy
- 64 GB egyesített memóriát
- Apple M4 Pro chip 12 magos CPU‑val, 16 magos GPU‑val és 16 magos Neural Engine-nel
- 273GB/s of memory bandwidth -etPersze az M4 Max -os laptopok még ideálisabbak - mivel a mem. sávszélesség is elég fontos a helyi LLM-ek futtatásánál.
( M4 Max supports up to 128GB of fast unified memory and up to 546GB/s of memory bandwidth -- de ez már >=2 349 990 Ft )összehasonlításul:
- Az RTX 5000 - Bandwidth 768.0 GB/s (24GB)
- Az RTX 5000 Ada - Bandwidth : 576.0 GB/s ( 32GB ) [ ~ 2.4 Milla ]----------
és az új CPU-s "SME" támogatás is érdekes - amit majd a szoftver updatek tudnak kihasználni.
"Apple's matrix accelerator is a dedicated hardware unit — it is not part of the CPU core. There is one AMX/SME block in a CPU cluster, shared by all CPU cores. This has a number of interesting consequences. First, the matrix accelerator has access to much higher bandwidth than the individual CPU cores, since it is directly fed from the cluster L2. Second, the latency of executign SME instructions is high, as data communication needs to happen via the L2 cache (there is presumably a fast control bus to share the execution state). Third, one does not need to resort to parallel programming to harvest the performance benefits of SME. Initial experiments suggest that a single CPU tread can already achieve peak processing rate on the SME unit. Finally, those seeking highest possible performance can use on-CPU SIMD (Neon) and SME simultaneously for an additional boost."
https://github.com/tzakharko/m4-sme-exploration
Új hozzászólás Aktív témák
Hirdetés
ph Az előző generációhoz képest kevesebb, mint feleakkora megoldás rendszermemóriája a 16 GB-os alapértelmezésről 64 GB-ig fejleszthető.
- AKCIÓ!!! Új i5-14400F + Új RTX 4060 Ti GDDR6 + Új 16-32GB DDR4! GAR/SZÁMLA!
- PC ryzen 5 5600g, RTX 3060 TI Founders, 32gb ram, 512ssd, 700w táp
- I5 10400 , Rx6650xt , 32GB Ram , 1TB SSD
- Gamer PC v2 , i5 14400F , RTX 3070 , 32GB RAM , 500GB NVME , 1TB HDD
- Gamer PC , i5 14400F , RTX 3070 , 32GB RAM , 500GB NVME , 1TB HDD
- BESZÁMÍTÁS! Gigabyte B760M i7 12700K 32GB DDR5 1TB SSD RTX 3070Ti 8GB CM CMP 510 Seasonic 750W
- BESZÁMÍTÁS! 1TB Samsung 980 PRO NVMe SSD meghajtó garanciával hibátlan működéssel
- ÁRGARANCIA! Épített KomPhone i5 12400F 16/32/64GB RAM RTX 3060 12GB GAMER PC termékbeszámítással
- AKCIÓ! ASUS PRO WS W790E-SAGE SE alaplap garanciával hibátlan működéssel
- Samsung Galaxy A23 5G 128GB, Kártyafüggetlen, 1 Év Garanciával
Állásajánlatok
Cég: PCMENTOR SZERVIZ KFT.
Város: Budapest