- eBay-es kütyük kis pénzért
- gban: Ingyen kellene, de tegnapra
- Kalandor: SYNTHONY - Darude Sandstorm (Live from Melbourne)
- sziku69: Fűzzük össze a szavakat :)
- Luck Dragon: Asszociációs játék. :)
- btz: Internet fejlesztés országosan!
- ricsi99: Mire is jó az utánvét eröltetése használt cucc vásárlása esetén?
- ubyegon2: Airfryer XL XXL forrólevegős sütő gyakorlati tanácsok, ötletek, receptek
- D1Rect: Nagy "hülyétkapokazapróktól" topik
- sh4d0w: Árnyékos sarok
Új hozzászólás Aktív témák
-
S_x96x_S
addikt
> m4 pro milyen lehet AI gyorsításban pl egy nVidia RTX A5000-hez képest?
meg kell nézni majd a benchmarkokat.
de ha a nagy VRAM és a fogyasztás jobban számít
mint a gyorsaság és a CUDA kompatibilitás
akkor az M4 PRO - ideális.-------
Pl. A nagy LLM -re ( > 32Gb )
az új Mac Mini M4 Pro - ideális hobby megoldás.
999 990 Ft -tól kapsz egy
- 64 GB egyesített memóriát
- Apple M4 Pro chip 12 magos CPU‑val, 16 magos GPU‑val és 16 magos Neural Engine-nel
- 273GB/s of memory bandwidth -etPersze az M4 Max -os laptopok még ideálisabbak - mivel a mem. sávszélesség is elég fontos a helyi LLM-ek futtatásánál.
( M4 Max supports up to 128GB of fast unified memory and up to 546GB/s of memory bandwidth -- de ez már >=2 349 990 Ft )összehasonlításul:
- Az RTX 5000 - Bandwidth 768.0 GB/s (24GB)
- Az RTX 5000 Ada - Bandwidth : 576.0 GB/s ( 32GB ) [ ~ 2.4 Milla ]----------
és az új CPU-s "SME" támogatás is érdekes - amit majd a szoftver updatek tudnak kihasználni.
"Apple's matrix accelerator is a dedicated hardware unit — it is not part of the CPU core. There is one AMX/SME block in a CPU cluster, shared by all CPU cores. This has a number of interesting consequences. First, the matrix accelerator has access to much higher bandwidth than the individual CPU cores, since it is directly fed from the cluster L2. Second, the latency of executign SME instructions is high, as data communication needs to happen via the L2 cache (there is presumably a fast control bus to share the execution state). Third, one does not need to resort to parallel programming to harvest the performance benefits of SME. Initial experiments suggest that a single CPU tread can already achieve peak processing rate on the SME unit. Finally, those seeking highest possible performance can use on-CPU SIMD (Neon) and SME simultaneously for an additional boost."
https://github.com/tzakharko/m4-sme-exploration
Új hozzászólás Aktív témák
Hirdetés
ph Az előző generációhoz képest kevesebb, mint feleakkora megoldás rendszermemóriája a 16 GB-os alapértelmezésről 64 GB-ig fejleszthető.
- eBay-es kütyük kis pénzért
- Honor Magic7 Pro - kifinomult, költséges képalkotás
- Filmvilág
- Új mobilszériát indít a Honor
- The Last of Us Part II Remastered - Megkaptuk a hivatalos gépigényt
- WLAN, WiFi, vezeték nélküli hálózat
- Ingatlanos topic!
- NVIDIA GeForce RTX 3080 / 3090 / Ti (GA102)
- ThinkPad (NEM IdeaPad)
- NVIDIA GeForce RTX 5080 / 5090 (GB203 / 202)
- További aktív témák...
- GARANCIÁVAL Eladó i9 ASUS CONFIG
- Gamer PC , i5 14400F , RTX 3070 , 32GB RAM , 500GB NVME , 1TB HDD
- Igényesen felépített gamer PC, i7, RTX3080 EVGA, 64GB ram, ASUS Z390, Raijintek vízhűtés,
- PC ryzen 5 5600g, RTX 3060 TI Founders, 32gb ram, 512ssd, 700w táp
- AKCIÓ!!! GAMER PC: Új RYZEN 7 5700/5800X +RX 6700 XT 12GB GDDR6 +Új 16-32GB DDR4! GAR/SZÁMLA!
- LG 27GQ50F-B - 27" VA / 1920x1080 FHD / 165Hz 1ms / AMD FreeSync Premium / Adaptive Sync / HDR 10
- DELL PowerEdge R630 rack szerver - 2xE5-2680v4 (28c/ 56t, 2.4/3.3GHz), 128GB RAM, 10G, áfás szla
- HP EliteBook 850 G8 - 15.6" FHD IPS - i7-1185G7 - 32GB - 512GB SSD - Win11 - MAGYAR !!
- BESZÁMÍTÁS! ASUS ROG STRIX Z590-E Gaming Wifi alaplap garanciával hibátlan működéssel
- Bomba ár! Dell Latitude 3380 - i3-6GEN I 4GB I 128GB I 13,3" HD I HDMI I Cam I W10 I Garancia!
Állásajánlatok
Cég: PCMENTOR SZERVIZ KFT.
Város: Budapest