Új hozzászólás Aktív témák

• #68238 S_x96x_S addikt Chiller #68236

  Új Válasz 2025-01-31 14:16:00 #68238

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  S_x96x_S

  addikt

  válasz Chiller #68236 üzenetére

  > a Deepseek ... sem (például) programozás nem megy neki

  több Deepseek verzió is létezik
  ( amelyeket még sokszor tovább butítanak is, hogy kisebb legyen a mérete. )

  de nekem a teljes "Deepseek R1" elég jónak tűnik
  (a programozási benchmarkok szerint - főleg ahhoz képest, hogy nyílt modell. )
  - https://aider.chat/docs/leaderboards/
  - https://livecodebench.github.io/leaderboard.html

  És mindenki ezzel foglalkozik.
  "DeepSeek-R1 Now Live With NVIDIA NIM"
  https://blogs.nvidia.com/blog/deepseek-r1-nim-microservice/

  "Best practices for competitive inference optimization on AMD Instinct™ MI300X GPUs"
  https://rocm.blogs.amd.com/artificial-intelligence/LLM_Inference/README.html
  ( ~ "With its high memory capacity, the MI300X can accommodate larger models such as Llama-3.1 405B and DeepSeek v3/R1 while also delivering efficiency for smaller models (≤30B) in TP1 mode, minimizing GPU scaling overhead" )

Új hozzászólás Aktív témák