- Argos: Adjátok vissza a netet! - szeretnék elaludni!
- D1Rect: Nagy "hülyétkapokazapróktól" topik
- Geri Bátyó: Megint tahó voltam – SZEMÉLYISÉGFEJLŐDÉS
- Luck Dragon: Asszociációs játék. :)
- sziku69: Fűzzük össze a szavakat :)
- Elektromos rásegítésű kerékpárok
- sziku69: Szólánc.
- gban: Ingyen kellene, de tegnapra
- gerner1
- btz: Internet fejlesztés országosan!
Új hozzászólás Aktív témák
-
S_x96x_S
addikt
válasz
hokuszpk #9898 üzenetére
(AMX)
az (Intel) AMX támogatás mintha már be lenne integrálva az LLVM és a GCC -be,
és sok minden másba is https://www.phoronix.com/search/Intel+AMXAz Apple ( M1/M2/M3/.. ) viszont már 2020 -óta támogat ( egy hasonló mátrixos utasításkészletet - persze az ARM alapú és nincs rendesen dokumentálva.
AI-re és pl. a CPU-n futtatott https://ollama.com/ ( lokális chatbot ) futtatásához lenne praktikus egy átlag usernek. Persze ott vannak a GPU -k és az NPU-k, de szerveres környezetben azok nem mindig érhetőek el.
pár random link:
1.) Advanced Matrix Extensions (AMX) Guide
https://github.com/mikeroyal/AMX-Guide2.) "Contrasting Intel AMX and Apple AMX"
https://www.corsix.org/content/contrasting-intel-amx-and-apple-amx3.) "Explore AMX instructions: Unlock the performance of Apple Silicon"
https://zhen8838.github.io/2024/04/23/mac-amx_en/
"""
Since 2020, Apple has published M1/M2/M3. They have at least four different ways to perform high-intensity computing tasks.
- Standard arm NEON instructions.
- Undocumented AMX (Apple Matrix Co-processor) instructions. Issued by the CPU and performed on the co-processor.
- Apple Neural Engine
- Metal GPUIf we use ARM NEON instructions to accelerate the sgemm kernel on the single core of the M1 Max, It can achieve a performance of around 102 GFLOPS. But if use AMX instructions it can achieve 1475 GFLOPS!
...
""""4.) "Accelerate PyTorch* Training and Inference Performance using Intel® Advanced Matrix Extensions (Intel® AMX) " ( Intel )
Új hozzászólás Aktív témák
- HIBÁTLAN iPhone 14 Pro Max 256GB Space Black -1 ÉV GARANCIA - Kártyafüggetlen, MS3009
- AKCIÓ! ASUS PRO WS W790E-SAGE SE alaplap garanciával hibátlan működéssel
- BESZÁMÍTÁS! MSI B450M R5 5500 16GB DDR4 512GB SSD GTX 1660 Super 6GB Rampage SHIVA Thermaltake 500W
- Új Asus 14 Zenbook WQXGA IPS Retina i9-12900H 5.0Ghz 14mag 32GB 1TB SSD Intel Iris XE Win11 Garancia
- Felturbóznád a gèped? Ezt Neked ajánljuk!
Állásajánlatok
Cég: FOTC
Város: Budapest