> Szerintem játékfejlesztésre kevés.ez az IGP.
tényleg
ez csak 40 CU
vs.
"Sony PlayStation 5 Pro = RDNA3 GPU with 60 CU"
viszont a sima PS5 36 CU -ját és memória sebességét tudni fogja.
> Lokális chatGPT-re viszont miért nem inkább a NPU-t erősítik?
A NPU ja 48T -t tud
és ez már megüti a Microsoft által elvárt szintet is..
De amúgy kész modell futtatásánál a memória sávszél
a fő korlátozó, és emiatt felesleges lehet a túl erős NPU
Amúgy az NPU(XDNA) linux támogatás elég lassan érkezik.
most még megbütykölt kernelt kell fordítani
és csak a 6.10 -es kerneltől [1] várható hogy az end-usernek
nem kell belenyúlni a rendszerbe ..
( jelenleg a 6.9-rc4 -nél tartunk. )
[1] https://github.com/amd/xdna-driver/issues/38
Ellenben az Intelnek elég jó a CPU-s támogatása is,
és az AMX-et leszámítva a többi dologban a Zen5 is nagyon jó lesz.
Intel[2]:"Support AMX, VNNI, AVX512F and AVX2 instruction set. We've boosted the performance of Intel CPUs, with a particular focus on the 4th generation Intel Xeon Scalable processor, codenamed Sapphire Rapids."
[2] https://github.com/intel/intel-extension-for-transformers
"An Innovative Transformer-based Toolkit to Accelerate GenAI/LLM Everywhere"
----------------------
Amúgy akár ez a chip a felhőbe is ideális lenne
mivel olcsón tud nagy memória sávszélességet.
és az áramfogyasztása is ideális - a böhöm nagy GPU-hoz képest.
pl. A friss ( AMD Ryzen™ 7 PRO 8700GE APU )
használatát a Hetzner már be is jelentette
( még várólistás )
és ugyanolyan árban lesz mint az eddigi
AX41 - AMD Ryzen™ 5 3600 - 6c/12t DDR4 64 GB-el.
vagyis jelentős előrelépés.
""
The AX42’s power stems from the AMD Ryzen™ 7 PRO 8700GE Octa-Core “Phoenix 1” (Zen4) CPU; its 8 cores and 16 threads with Simultaneous Multithreading (SMT) cut through workloads like butter, even if they are compute-heavy and require parallelization. The virtualization function AMD-V ensures that you’ll experience smooth virtualization. In combination with the AMD Ryzen™ AI engine, the CPU opens a world of possibilities for artificial intelligence applications - streamlining multitasking, boosting productivity, and supporting you with other innovations while you tackle tough use cases.
The Dedicated Server AX42 makes a quick meal of tasks
with its 2 x 32 GB of DDR5 ECC UDIMM RAM.
...
You can get your hands on it starting at a mere € 44.30 ...
"""
[ Szerkesztve ]
Mottó: "A verseny jó!"