Új hozzászólás Aktív témák

• Reggie0 titán

  #54

  #53 S_x96x_S

  jún. 13., 12:05:25

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  Reggie0

  titán

  #53 S_x96x_S

  #53 S_x96x_S

  > 5-10 ev lemaradasban van sw szinten az AMD

  na melyikre jött ki előbb az M3 ?
  "MiniMax M3 428B on both the CUDA & ROCm stack on day 0!"
  https://x.com/SemiAnalysis_/status/2065584972220481568

  Hat, nem az AMD-re

• S_x96x_S veterán

  #53

  #43 zooly

  jún. 13., 07:13:17

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  S_x96x_S

  veterán

  #43 zooly

  #43 zooly

  A egysegesitett memorias consumer megoldasok csak dedukciora alkalmasak, amire ugyanugy osszelegozol nVidia kartyakat is. Az nVLinknek csak treningnel vagy gigaszi modellek eseten van jelentosege, amire ugysem jok az elobbiek. A CUDA-t pedig nem a hw eladasok tartjak eletben, hanem a CUDA miatt veszik az nVidia hardvereket. 5-10 ev lemaradasban van sw szinten az AMD es az Intel is, hiaba van pl. ROCm, ha tulnyomo tobbsegben csak az nVidia-s CUDA kod van atforditva, ami nyilvan nem lesz hatekony AMD-s kornyezetben. Cross platform kod pedig sosem lesz olyan mint a direkt optimalizalas, rengeteg aktivan hasznalt CUDA-ban megirt konyvtar pedig annyira komplex, hogy aki erti az kb. mar az nVidianal dolgozik.

  > 5-10 ev lemaradasban van sw szinten az AMD

  na melyikre jött ki előbb az M3 ?
  "MiniMax M3 428B on both the CUDA & ROCm stack on day 0!"
  https://x.com/SemiAnalysis_/status/2065584972220481568

• S_x96x_S veterán

  #52

  #51 zooly

  jún. 12., 11:31:23

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  S_x96x_S

  veterán

  #51 zooly

  #51 zooly

  Persze, senkinek sem jo a mostani helyzet, de azt nehez elvitatni, hogy az nVidia reges reg rajott (talan az elso detonator driverek megjelenesekor), hogy a sw legalabb olyan fontos mint a hw. Azota locsoljak bele a penzt, a drivereiket leszamitva rengeteg opensource hozzajarulasuk van (termeszetesen a sajat rendszereikre optimalizalva), a tobbiek pedig szinte csak a communitytol varjak a sajat megvaltasukat evek ota, ami nagyon docogosen megy. Eddig meg nem jutott el odaig senki, hogy szinten vegtelen penzt ontson a sw oldalba, igy hiaba az igeretes fejlesztesek, azok lassu adaptacioja miatt egyre melyebbre ashatja be magat a zold szorny. Az pedig, hogy az AI komplex alacsony szintu kodot optimalizal eltero hardwarekre hiba es ostobasagok nelkul meg jopar ev, legfeljebb a laboratoriumokban letezhet ilyesmi, a jelenleg elerheto legfeljettebb modellek is nagyon durvan hibaznak ha nem alapveto feladarokrol van szo - vagy superviseolni kell oket, amihez pedig szukseg van a "mernoki" tudasra.

  Az AMD próbál alkalmazkodni.

  "AMD's Lemonade SDK For Local AI Adds NVIDIA CUDA Support"
  https://www.phoronix.com/news/AMD-Lemonade-10.7-Released

• zooly aktív tag

  #51

  #44 S_x96x_S

  jún. 12., 01:05:32

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  zooly

  aktív tag

  #44 S_x96x_S

  #44 S_x96x_S

  az a paradoxon,
  hogy éppen az nvidia technológián kifejlesztett AI kódgenerátorok,
  csökkentik a CUDA előnyeit.

  Amúgy se a nagy cégek ( openAI ) , se a kínai állam nem rajong az nvidia felárért és dominanciáért ( és ez a népszerűség átka.)

  És egyre több CUDA alternativa van, és pár elég igéretes.
  pl. a jelentős részben kínaiak által fejlesztett "TileLang.",
  amire az AMD is felfigyelt.

  Persze, senkinek sem jo a mostani helyzet, de azt nehez elvitatni, hogy az nVidia reges reg rajott (talan az elso detonator driverek megjelenesekor), hogy a sw legalabb olyan fontos mint a hw. Azota locsoljak bele a penzt, a drivereiket leszamitva rengeteg opensource hozzajarulasuk van (termeszetesen a sajat rendszereikre optimalizalva), a tobbiek pedig szinte csak a communitytol varjak a sajat megvaltasukat evek ota, ami nagyon docogosen megy. Eddig meg nem jutott el odaig senki, hogy szinten vegtelen penzt ontson a sw oldalba, igy hiaba az igeretes fejlesztesek, azok lassu adaptacioja miatt egyre melyebbre ashatja be magat a zold szorny. Az pedig, hogy az AI komplex alacsony szintu kodot optimalizal eltero hardwarekre hiba es ostobasagok nelkul meg jopar ev, legfeljebb a laboratoriumokban letezhet ilyesmi, a jelenleg elerheto legfeljettebb modellek is nagyon durvan hibaznak ha nem alapveto feladarokrol van szo - vagy superviseolni kell oket, amihez pedig szukseg van a "mernoki" tudasra.

• S_x96x_S veterán

  #50

  #49 Reggie0

  jún. 11., 15:43:41

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  S_x96x_S

  veterán

  #49 Reggie0

  #49 Reggie0

  Azzal, hogy a linuxot nem szanjak ra mar eleve csokkentik a sikeret. Szoval ki tudja mit is akarnak igazabol. Lehet csak szabadulnanak az elore lekotott ram kapacitasoktol.

  én úgy értelmeztem, hogy az első körben azért nem lesz linux
  mert a Microsoft érthetően nem áldoz erre.
  ( és a Windows a kritikus út a piaci méretgazdaságosság felé )

  de később már az nvidia érdeke,
  hogy rendes linux támogatása legyen.
  ( Thinkpadeknél is elvárt )

  amúgy a WSL2 - ben
  valami biztos elérhető lesz már az elején
  ( pl. egy mini DGX SPARK-os környezet ).

• Reggie0 titán

  #49

  #48 S_x96x_S

  jún. 11., 12:53:07

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  Reggie0

  titán

  #48 S_x96x_S

  #48 S_x96x_S

  ez csak egy egyszerű power usereknek való általános laptop
  ami egyben AI dev kit -is

  Amivel el lehet kezdeni az AI ismerkedést, fejlesztést.
  pl. lokális RAG -ot, adattisztitást, Blender MCP -vel modellezést.

  Egy lépcsőfok,
  aminek a segítségével egy újabb lépcsőfokra lehet lépni.
  de nem kötelező, és dönthetsz más utirány felé is.

  szerintem az a lényeg - hogy fokozatosan az olcsó+ nagysebességű Unifed Memória irány felé fordul át a piac
  ( és az irányt az Apple Studio mutatja. ~ M3 Ultra chip and 512GB of unified memory delivers a massive memory bandwidth of 819 GB/s )

  És ha az N1X nem lesz sikeres, akkor majd az N2X vagy az N3X

  A veseny jó !

  Azzal, hogy a linuxot nem szanjak ra mar eleve csokkentik a sikeret. Szoval ki tudja mit is akarnak igazabol. Lehet csak szabadulnanak az elore lekotott ram kapacitasoktol.

• S_x96x_S veterán

  #48

  #46 Reggie0

  jún. 11., 12:37:55

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  S_x96x_S

  veterán

  #46 Reggie0

  #46 Reggie0

  Nyilvan, nem a memomeret miatt mondom, nekem is evek ota 128gb van a gepben(nem ai miatt). Ez nem kerdes. En az erdemi AI potencialt nem latom az rtx sparkban.

  ez csak egy egyszerű power usereknek való általános laptop
  ami egyben AI dev kit -is

  Amivel el lehet kezdeni az AI ismerkedést, fejlesztést.
  pl. lokális RAG -ot, adattisztitást, Blender MCP -vel modellezést.

  Egy lépcsőfok,
  aminek a segítségével egy újabb lépcsőfokra lehet lépni.
  de nem kötelező, és dönthetsz más utirány felé is.

  szerintem az a lényeg - hogy fokozatosan az olcsó+ nagysebességű Unifed Memória irány felé fordul át a piac
  ( és az irányt az Apple Studio mutatja. ~ M3 Ultra chip and 512GB of unified memory delivers a massive memory bandwidth of 819 GB/s )

  És ha az N1X nem lesz sikeres, akkor majd az N2X vagy az N3X

  A veseny jó !

• wasd.hu senior tag

  #47

  #40 Csandi

  jún. 11., 12:19:41

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  wasd.hu

  senior tag

  #40 Csandi

  #40 Csandi

  Nem vagyok programozó, GTM kampányokat csinálok egyszerre kb. 30 ügyfélnek, annak minden lépését Claude-al az ajánlatadás, onboardingtól, a kampány copyk, inbox managementen, lead továbbítás és statisztika trackelésen át az offboarding reportokig, ezen felül pedig a saját magunk által használt különböző toolok között olyan automatizációkat meg kapcsolatokat hozok létre (most épp főleg ezzel foglalkozom), hogy ha 1 helyen ráklikkelsz valahova akkor annak tényleg mindenhol nyoma legyen és 1 betű adatot ne kelljen manuálisan felvezetnie senkinek a cégnél. Már egy sales call ha lemegy annak is a fireflies transcriptje alapján töltődnek dolgok egy CRM boardba, ahonnan az infok töltődnek tovább stb.

  Fut egy csomó olyan Python automatizáció VPS-en amiket úgy készített el a Claude, hogy 0-t tudok/tanultam programozni valaha, és így van egy cégszintű company landing page mint single source of truth aminek elemei folyamatosan updatelődnek, szép és könnyen kezelhető a frontendje is és mindenki megtalálja rajta a saját magának hasznos felületet (sales, inbox manager, tulaj, én)

  Van még egy csomó aspektus, de onnan, hogy manualisan google sheeteket vezetgetünk oda jutottunk, hogy minden kapcsolatban van mindennel, majdnem minden teljesen automata és csak a claudeba kell irogatni a promptokat a többi történik magától.
  Illetve ugye a Claude skillek még amiről nem beszéltem és ezek github repoja, ezek is aktívan használva vannak és fejlődnek, és ezek is mind olyanok amiket kódolás tudás nélkül soha nem hoztam volna össze.
  
  Startup nyilván.

  Wow ez érdekelne. Ahogy kolléga mondja "nyilvanos valamennyire a pipeline" vagy tudsz hasonlot mutatni?

• Reggie0 titán

  #46

  #36 S_x96x_S

  jún. 11., 12:00:41

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  Reggie0

  titán

  #36 S_x96x_S

  #36 S_x96x_S

  Ez manapság már kényelmi és pénz kérdés,
  és mindenki eldöntni, hogy szüksége van-e rá - vagy megéri-e neki.
  De a technológia elérhető.

  Amúgy egyre inkább a hibrid megoldásé lesz a jövő.
  ( vagyis API + LocalLLM egyszerre , főleg az agenic AI korában )
  Vagyis nyugodtan használhatsz emelett egy cloud-os megoldást is.

  amúgy ha egy adatokkal foglalkozó fejlesztőnek manapság >=64GB laptop az ideális ( akkor ahhoz képest már a 128GB memória nem akkora tétel )
  és egy MacBook Pro M5 - 128 GB , 614 GB/s
  inferencben ráver egy mobil RTX 4090 (16GB , 576 GB/s ) - megoldásra.

  Nyilvan, nem a memomeret miatt mondom, nekem is evek ota 128gb van a gepben(nem ai miatt). Ez nem kerdes. En az erdemi AI potencialt nem latom az rtx sparkban.

• ben2 senior tag

  #45

  #43 zooly

  jún. 11., 11:57:05

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  ben2

  senior tag

  #43 zooly

  #43 zooly

  A egysegesitett memorias consumer megoldasok csak dedukciora alkalmasak, amire ugyanugy osszelegozol nVidia kartyakat is. Az nVLinknek csak treningnel vagy gigaszi modellek eseten van jelentosege, amire ugysem jok az elobbiek. A CUDA-t pedig nem a hw eladasok tartjak eletben, hanem a CUDA miatt veszik az nVidia hardvereket. 5-10 ev lemaradasban van sw szinten az AMD es az Intel is, hiaba van pl. ROCm, ha tulnyomo tobbsegben csak az nVidia-s CUDA kod van atforditva, ami nyilvan nem lesz hatekony AMD-s kornyezetben. Cross platform kod pedig sosem lesz olyan mint a direkt optimalizalas, rengeteg aktivan hasznalt CUDA-ban megirt konyvtar pedig annyira komplex, hogy aki erti az kb. mar az nVidianal dolgozik.

  "A egysegesitett memorias consumer megoldasok csak dedukciora alkalmasak, amire ugyanugy osszelegozol nVidia kartyakat is. "
  
  Ez igaz, csak kb. 2 db. 5090 áráért kapsz 128gb AI PC-t. Ezért versenyképesek az egységesített memóriás consumer megoldások a legózással szemben.
  
  "A CUDA-t pedig nem a hw eladasok tartjak eletben, hanem a CUDA miatt veszik az nVidia hardvereket."

  Pont erről beszéltem én is: a CUDA-val láncolja a saját ökoszisztémájába a felhasználókat az NVIDIA. A user azért vesz NV hardvert, mert az alkalmazások és a libraryk többsége CUDA only. Mivel a userek NV hardvert vesznek, a fejlesztők a CUDA-t részesítik előnyben, így minden CUDA fejlesztés az NV hardver eladásokat növeli és minden NV eladás a CUDA dominanciáját.
  Kivéve, ha van olyan hardver szegmens, amire az nvidia-nak egyáltalán nincs normális megoldása. Ez esetben ugyanis a userek kénytelenek lemondani a CUDA-ról, ha pedig a fejlesztők el akarják érni őket, akkor ők is kénytelenek CUDA-n kívül más API-kat is támogatni. Ezért az nvidia-nak első sorban az az érdeke, hogy minden AI hardvernek legyen versenyképes nvidia megfelelője.

• S_x96x_S veterán

  #44

  #43 zooly

  jún. 11., 11:37:34

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  S_x96x_S

  veterán

  #43 zooly

  #43 zooly

  A egysegesitett memorias consumer megoldasok csak dedukciora alkalmasak, amire ugyanugy osszelegozol nVidia kartyakat is. Az nVLinknek csak treningnel vagy gigaszi modellek eseten van jelentosege, amire ugysem jok az elobbiek. A CUDA-t pedig nem a hw eladasok tartjak eletben, hanem a CUDA miatt veszik az nVidia hardvereket. 5-10 ev lemaradasban van sw szinten az AMD es az Intel is, hiaba van pl. ROCm, ha tulnyomo tobbsegben csak az nVidia-s CUDA kod van atforditva, ami nyilvan nem lesz hatekony AMD-s kornyezetben. Cross platform kod pedig sosem lesz olyan mint a direkt optimalizalas, rengeteg aktivan hasznalt CUDA-ban megirt konyvtar pedig annyira komplex, hogy aki erti az kb. mar az nVidianal dolgozik.

  az a paradoxon,
  hogy éppen az nvidia technológián kifejlesztett AI kódgenerátorok,
  csökkentik a CUDA előnyeit.

  Amúgy se a nagy cégek ( openAI ) , se a kínai állam nem rajong az nvidia felárért és dominanciáért ( és ez a népszerűség átka.)

  És egyre több CUDA alternativa van, és pár elég igéretes.
  pl. a jelentős részben kínaiak által fejlesztett "TileLang.",
  amire az AMD is felfigyelt.

• zooly aktív tag

  #43

  #38 ben2

  jún. 11., 11:19:23

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  zooly

  aktív tag

  #38 ben2

  #38 ben2

  Szvsz ez az egész nem a hardverről, hanem a CUDA dominanciájának fenntartásáról szól.
  Az NVIDIA szándékosan visszafogja a vram mennyiséget és megszüntette az nvlink támogatást a gamer kártyáin, hogy az AI datacenterek ne a gamer piacra szánt hardvereket vegyék.
  Csakhogy így a konkurens unified memoryt alkalmazó termékeknek piaci rés nyílt a nagyobb LLM-ek lokális futtatására valahol a datacenterek és a gamer hardverek között.
  Ezek a megoldások viszont nem támogatják a CUDA-d, így sorra jelennek meg az AI eszközök alternatív buildjei az AMD és az Apple hardvereire.
  Az NVIDIA-nak tehát lépnie kellett, mert ha nincs CUDA-ra épülő, relatíve olcsó, ámde sok ramot támogató hardver, akkor a fejlesztőknek megéri a CUDA-n kívül más szabványokat is támogatni és onnantól az Nvidia nem tudja a CUDA-val a saját ökoszisztémájához láncolni a felhasználókat.

  A egysegesitett memorias consumer megoldasok csak dedukciora alkalmasak, amire ugyanugy osszelegozol nVidia kartyakat is. Az nVLinknek csak treningnel vagy gigaszi modellek eseten van jelentosege, amire ugysem jok az elobbiek. A CUDA-t pedig nem a hw eladasok tartjak eletben, hanem a CUDA miatt veszik az nVidia hardvereket. 5-10 ev lemaradasban van sw szinten az AMD es az Intel is, hiaba van pl. ROCm, ha tulnyomo tobbsegben csak az nVidia-s CUDA kod van atforditva, ami nyilvan nem lesz hatekony AMD-s kornyezetben. Cross platform kod pedig sosem lesz olyan mint a direkt optimalizalas, rengeteg aktivan hasznalt CUDA-ban megirt konyvtar pedig annyira komplex, hogy aki erti az kb. mar az nVidianal dolgozik.

• oio1i10o junior tag

  #42

  #40 Csandi

  jún. 11., 10:26:10

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  oio1i10o

  junior tag

  #40 Csandi

  #40 Csandi

  Nem vagyok programozó, GTM kampányokat csinálok egyszerre kb. 30 ügyfélnek, annak minden lépését Claude-al az ajánlatadás, onboardingtól, a kampány copyk, inbox managementen, lead továbbítás és statisztika trackelésen át az offboarding reportokig, ezen felül pedig a saját magunk által használt különböző toolok között olyan automatizációkat meg kapcsolatokat hozok létre (most épp főleg ezzel foglalkozom), hogy ha 1 helyen ráklikkelsz valahova akkor annak tényleg mindenhol nyoma legyen és 1 betű adatot ne kelljen manuálisan felvezetnie senkinek a cégnél. Már egy sales call ha lemegy annak is a fireflies transcriptje alapján töltődnek dolgok egy CRM boardba, ahonnan az infok töltődnek tovább stb.

  Fut egy csomó olyan Python automatizáció VPS-en amiket úgy készített el a Claude, hogy 0-t tudok/tanultam programozni valaha, és így van egy cégszintű company landing page mint single source of truth aminek elemei folyamatosan updatelődnek, szép és könnyen kezelhető a frontendje is és mindenki megtalálja rajta a saját magának hasznos felületet (sales, inbox manager, tulaj, én)

  Van még egy csomó aspektus, de onnan, hogy manualisan google sheeteket vezetgetünk oda jutottunk, hogy minden kapcsolatban van mindennel, majdnem minden teljesen automata és csak a claudeba kell irogatni a promptokat a többi történik magától.
  Illetve ugye a Claude skillek még amiről nem beszéltem és ezek github repoja, ezek is aktívan használva vannak és fejlődnek, és ezek is mind olyanok amiket kódolás tudás nélkül soha nem hoztam volna össze.
  
  Startup nyilván.

  Ez nagyon izgalmasan hangzik, esetleg nyilvanos valamennyire a pipeline vagy tudsz hasonlot mutatni?

• S_x96x_S veterán

  #41

  #39 Scofield007

  jún. 11., 10:15:02

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  S_x96x_S

  veterán

  #39 Scofield007

  #39 Scofield007

  Ez engem őszintén érdekelne. Tudnál mondani egy konkrét példát arra, hogy nálad mit jelent az, hogy a PoC után a megvalósítást elejétől végig Claude csinálja?
  Milyen jellegű projektről van szó, és a gyakorlatban meddig jut el a Claude önállóan? Kódot ír, tesztel, hibát javít, dokumentál, deployol is, vagy inkább csak a fejlesztési munkát végzi?
  Érdekelne az is, hogy ilyenkor te napi szinten mivel foglalkozol: architektúrát tervezel, specifikációt írsz, review-zol, vagy még ennél is magasabb szinten irányítod a folyamatot?

  ha érdekel,
  akkor van 'mesterséges intelligencia' topik is.
  https://prohardver.hu/tema/ai_mi_mesterseges_inteligencia_topik/friss.html

• Csandi addikt

  #40

  #39 Scofield007

  jún. 11., 09:47:51

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  Csandi

  addikt

  #39 Scofield007

  #39 Scofield007

  Ez engem őszintén érdekelne. Tudnál mondani egy konkrét példát arra, hogy nálad mit jelent az, hogy a PoC után a megvalósítást elejétől végig Claude csinálja?
  Milyen jellegű projektről van szó, és a gyakorlatban meddig jut el a Claude önállóan? Kódot ír, tesztel, hibát javít, dokumentál, deployol is, vagy inkább csak a fejlesztési munkát végzi?
  Érdekelne az is, hogy ilyenkor te napi szinten mivel foglalkozol: architektúrát tervezel, specifikációt írsz, review-zol, vagy még ennél is magasabb szinten irányítod a folyamatot?

  Nem vagyok programozó, GTM kampányokat csinálok egyszerre kb. 30 ügyfélnek, annak minden lépését Claude-al az ajánlatadás, onboardingtól, a kampány copyk, inbox managementen, lead továbbítás és statisztika trackelésen át az offboarding reportokig, ezen felül pedig a saját magunk által használt különböző toolok között olyan automatizációkat meg kapcsolatokat hozok létre (most épp főleg ezzel foglalkozom), hogy ha 1 helyen ráklikkelsz valahova akkor annak tényleg mindenhol nyoma legyen és 1 betű adatot ne kelljen manuálisan felvezetnie senkinek a cégnél. Már egy sales call ha lemegy annak is a fireflies transcriptje alapján töltődnek dolgok egy CRM boardba, ahonnan az infok töltődnek tovább stb.

  Fut egy csomó olyan Python automatizáció VPS-en amiket úgy készített el a Claude, hogy 0-t tudok/tanultam programozni valaha, és így van egy cégszintű company landing page mint single source of truth aminek elemei folyamatosan updatelődnek, szép és könnyen kezelhető a frontendje is és mindenki megtalálja rajta a saját magának hasznos felületet (sales, inbox manager, tulaj, én)

  Van még egy csomó aspektus, de onnan, hogy manualisan google sheeteket vezetgetünk oda jutottunk, hogy minden kapcsolatban van mindennel, majdnem minden teljesen automata és csak a claudeba kell irogatni a promptokat a többi történik magától.
  Illetve ugye a Claude skillek még amiről nem beszéltem és ezek github repoja, ezek is aktívan használva vannak és fejlődnek, és ezek is mind olyanok amiket kódolás tudás nélkül soha nem hoztam volna össze.
  
  Startup nyilván.

• Scofield007 csendes tag

  #39

  #15 Csandi

  jún. 11., 09:04:22

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  Scofield007

  csendes tag

  #15 Csandi

  #15 Csandi

  De hát ezt már most is tudja pl a Claude, nem kell ehhez lokálisan futtatott modell meg "AI-ra készített" számítógép.
  
  Nekem is rá van eresztve minden, munkához csak a Claude-ot használom már, nem is csinálok semmit csak promptolok ott tartunk, hogy az emberi tényező a proof of concept, utána a megvalósítást elejétől végig Claude csinálja, jó pár hónapja már gond nélkül.

  Ez engem őszintén érdekelne. Tudnál mondani egy konkrét példát arra, hogy nálad mit jelent az, hogy a PoC után a megvalósítást elejétől végig Claude csinálja?
  Milyen jellegű projektről van szó, és a gyakorlatban meddig jut el a Claude önállóan? Kódot ír, tesztel, hibát javít, dokumentál, deployol is, vagy inkább csak a fejlesztési munkát végzi?
  Érdekelne az is, hogy ilyenkor te napi szinten mivel foglalkozol: architektúrát tervezel, specifikációt írsz, review-zol, vagy még ennél is magasabb szinten irányítod a folyamatot?

• ben2 senior tag

  #38 jún. 11., 08:36:18

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  ben2

  senior tag

  Szvsz ez az egész nem a hardverről, hanem a CUDA dominanciájának fenntartásáról szól.
  Az NVIDIA szándékosan visszafogja a vram mennyiséget és megszüntette az nvlink támogatást a gamer kártyáin, hogy az AI datacenterek ne a gamer piacra szánt hardvereket vegyék.
  Csakhogy így a konkurens unified memoryt alkalmazó termékeknek piaci rés nyílt a nagyobb LLM-ek lokális futtatására valahol a datacenterek és a gamer hardverek között.
  Ezek a megoldások viszont nem támogatják a CUDA-d, így sorra jelennek meg az AI eszközök alternatív buildjei az AMD és az Apple hardvereire.
  Az NVIDIA-nak tehát lépnie kellett, mert ha nincs CUDA-ra épülő, relatíve olcsó, ámde sok ramot támogató hardver, akkor a fejlesztőknek megéri a CUDA-n kívül más szabványokat is támogatni és onnantól az Nvidia nem tudja a CUDA-val a saját ökoszisztémájához láncolni a felhasználókat.

• csendes addikt

  #37 jún. 11., 08:09:02

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  csendes

  addikt

  A vicces az egészben az hogy AI-ra az nVidia kifejezettten támogatja a FOSS (nyílt forráskódú) megoldásokat. Más kérdés, hogy a videokártyáíra a gyári driver-ek nem nyílt forráskódúak és rövid a hivatalos támogatási idő, utána az új kernelekhez kézzel kell reszelni a gyári meghajtókat, a nyílt forráskódú nouveau pedig 3D-ben nagyon lassú.

• S_x96x_S veterán

  #36

  #35 Reggie0

  jún. 11., 06:48:07

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  S_x96x_S

  veterán

  #35 Reggie0

  #35 Reggie0

  Egy repulesen ertheto, de a foldon kb. mindenhol van mar net. Egy konferencian mindenkeppen. Laptopon AI-zni inkabb csak kenyszermegoldas, mint jo dolog. Ha elerem a szervert, akkor alap, hogy ott futtatok, nem egy nyeszlett hordozhato gepen bohockodok.

  Ez manapság már kényelmi és pénz kérdés,
  és mindenki eldöntni, hogy szüksége van-e rá - vagy megéri-e neki.
  De a technológia elérhető.

  Amúgy egyre inkább a hibrid megoldásé lesz a jövő.
  ( vagyis API + LocalLLM egyszerre , főleg az agenic AI korában )
  Vagyis nyugodtan használhatsz emelett egy cloud-os megoldást is.

  amúgy ha egy adatokkal foglalkozó fejlesztőnek manapság >=64GB laptop az ideális ( akkor ahhoz képest már a 128GB memória nem akkora tétel )
  és egy MacBook Pro M5 - 128 GB , 614 GB/s
  inferencben ráver egy mobil RTX 4090 (16GB , 576 GB/s ) - megoldásra.

• Reggie0 titán

  #35

  #34 S_x96x_S

  jún. 11., 00:22:10

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  Reggie0

  titán

  #34 S_x96x_S

  #34 S_x96x_S

  > Szerintem egy profi konferencian remote-ban tolja az AI-t minek hurcolna a laptopjaban?

  mert a sziliciumvölgyben a Macbook pro - a default céges laptop.
  Még az OpenAI és hamarabb kiadja a MacOS -es verziót mint a windows-ot. És ha ebből van 128GB -os akkor miért ne ?

  de amúgy miért tolná mindig remote-ban ?
  halottál te a Kárpátok AI gurujáról :-)
  és miket csinált?
  https://x.com/karpathy/status/1762621031121145996
  2024: "Setting up my shiny new fully maxed out Space Black MacBook Pro M3 Max 128GB 16-inch (upgrading from an M1 Air). I always like to set up the new one with a clean slate, from scratch - this time I will not allow my dev configuration to get out of hand. Then we'll talk to it."

  -------

  Amúgy trendi a téma.
  "I flew from London to Google Cloud Next 2026 in Las Vegas. Ten hours with no in-flight wifi. I used the time to test how far a modern MacBook can carry engineering work on local LLMs alone.
  ..... "
  https://news.ycombinator.com/item?id=47921064

  Egy repulesen ertheto, de a foldon kb. mindenhol van mar net. Egy konferencian mindenkeppen. Laptopon AI-zni inkabb csak kenyszermegoldas, mint jo dolog. Ha elerem a szervert, akkor alap, hogy ott futtatok, nem egy nyeszlett hordozhato gepen bohockodok.

• S_x96x_S veterán

  #34

  #28 Reggie0

  jún. 10., 18:53:55

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  S_x96x_S

  veterán

  #28 Reggie0

  #28 Reggie0

  Szerintem egy profi konferencian remote-ban tolja az AI-t minek hurcolna a laptopjaban?

  > Szerintem egy profi konferencian remote-ban tolja az AI-t minek hurcolna a laptopjaban?

  mert a sziliciumvölgyben a Macbook pro - a default céges laptop.
  Még az OpenAI és hamarabb kiadja a MacOS -es verziót mint a windows-ot. És ha ebből van 128GB -os akkor miért ne ?

  de amúgy miért tolná mindig remote-ban ?
  halottál te a Kárpátok AI gurujáról :-)
  és miket csinált?
  https://x.com/karpathy/status/1762621031121145996
  2024: "Setting up my shiny new fully maxed out Space Black MacBook Pro M3 Max 128GB 16-inch (upgrading from an M1 Air). I always like to set up the new one with a clean slate, from scratch - this time I will not allow my dev configuration to get out of hand. Then we'll talk to it."

  -------

  Amúgy trendi a téma.
  "I flew from London to Google Cloud Next 2026 in Las Vegas. Ten hours with no in-flight wifi. I used the time to test how far a modern MacBook can carry engineering work on local LLMs alone.
  ..... "
  https://news.ycombinator.com/item?id=47921064

• wasd.hu senior tag

  #33

  #21 Sanya

  jún. 10., 18:29:28

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  wasd.hu

  senior tag

  #21 Sanya

  #21 Sanya

  Majd akkor megvesszük.

  Plusz egy

  #32 Tiba
  Plusz kettő!

• tibaimp nagyúr

  #32

  #22 BütyökLiza

  jún. 10., 18:22:32

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  tibaimp

  nagyúr

  #22 BütyökLiza

  #22 BütyökLiza

  "A PC, ami cselekszik helyetted"

  Hát helyettem aztán ne cselekedjen a PC-m!

  Egyetértek!

• Sinesol veterán

  #31

  #29 Reggie0

  jún. 10., 18:04:30

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  Sinesol

  veterán

  #29 Reggie0

  #29 Reggie0

  Pl. az a gond, hogy DGX Sparkbol nem keszult laptop.

  Ha valos igeny lesz ra, majd csinalnak.

• Reggie0 titán

  #30

  #23 ben2

  jún. 10., 17:57:14

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  Reggie0

  titán

  #23 ben2

  #23 ben2

  Mit értesz normális GPU alatt?

  RTX 6000 96GB.

• Reggie0 titán

  #29

  #27 Sinesol

  jún. 10., 17:56:32

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  Reggie0

  titán

  #27 Sinesol

  #27 Sinesol

  Ott a DGX Spark, akinek linux kell, veheti azt, nem latom mi a gond.
  
  Egyebkent nem egy oriasi problema ez mar csak azert sem, mert az atlagfelhasznalo, akinek az RTX Spark-ot szánják, amugysem fog Linuxxal szenvedni.

  Pl. az a gond, hogy DGX Sparkbol nem keszult laptop.

• Reggie0 titán

  #28

  #14 S_x96x_S

  jún. 10., 17:55:56

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  Reggie0

  titán

  #14 S_x96x_S

  #14 S_x96x_S

  Nem hiszem, hogy ez nulla összegű döntés.
  Mivel nyugodtan megfér ez a laptop egy Desktop - multi-GPU-s workstationnal együtt, vagy egy DGX Station-al ( ami a Spark nagy testvére és tényleg workstation )

  Itt inkább a hodozhatóság lesz a lényeg.
  és ez inkább egy Macbook Pro - alternativa lesz.
  [ Windows + CUDA + Adobe + Gaming + MoE + WSL2 ]
  (bár a MacBook Pro memória sávszélessége ennek a 2,5x -e)

  De egy profi AI konferenciára - nem dGPU -val, megy, hanem
  egy 128GB -os unified memories laptoppal
  ( Macbook Pro / RTX Spark / Strix Halo )

  Ez a gép nagy MoE -k futtatására ideális,
  Minden mást meg meg felhőben - vagy egy erősebb workstationn-on lehet futtatni.

  Szerintem egy profi konferencian remote-ban tolja az AI-t minek hurcolna a laptopjaban?

• Sinesol veterán

  #27

  #1 Youri

  jún. 10., 17:51:46

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  Sinesol

  veterán

  #1 Youri

  #1 Youri

  Nyílván összeborul a két legnagyobb slop factory

  Ott a DGX Spark, akinek linux kell, veheti azt, nem latom mi a gond.
  
  Egyebkent nem egy oriasi problema ez mar csak azert sem, mert az atlagfelhasznalo, akinek az RTX Spark-ot szánják, amugysem fog Linuxxal szenvedni.

• zooly aktív tag

  #26

  #24 ben2

  jún. 10., 17:09:47

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  zooly

  aktív tag

  #24 ben2

  #24 ben2

  A multi-GPU cucc gamer kártyákkal nem megy, mert belefut a 32GB vram limitbe. Egy RTX 6000 pro 96GB vrammal meg maga annyiba kerül, mint egy RTX Spark és ebből kellene minimum 2. És akkor még a 1.5 kilowattos fogyasztásról meg a GPU-kat kiszolgáló PC áráról nem is beszéltünk.

  Miert ne mukodne a multi gpu gamer kartyakkal? Siman lebeszelik amit kell a pcie buszon, minden llm framework tamogatja. Csak alaplap + cpu legyen amiben van sok sav.

• zooly aktív tag

  #25 jún. 10., 17:08:26

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  zooly

  aktív tag

  Nem hiszem, hogy nagysagrendekkel nagyobb kereslet lesz erre mint mondjuk a strix halo-ra, eleve aki llm-ezni szeretne annak a 128gb verzio kell, amit valoszinu nagyon dragan fognak merni - egy hasonlo meretu moe modell normalis futtatasahoz pedig harmad aron osszerakhat egy pc-t vagy gamer notebookot.

• ben2 senior tag

  #24

  #16 oio1i10o

  jún. 10., 17:04:36

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  ben2

  senior tag

  #16 oio1i10o

  #16 oio1i10o

  Nagy királyság ezekben a 128GB-os masinákban, hogy kicsik, nem ormótlanul csúnyák, keveset fogyasztanak, viszonylag nagy méretü modellek is elférnek a memóriában ésszerü quantization mellett és valamennyire clusterezni is lehet öket. Persze lassúak, de ha nincs végtelen pénze az embernek, akkor a GPU-val is beleütközik az ember korlátokba.

  Nagyon sok pénzt kell ahhoz költeni, hogy eljusson az ember arra a pontra, hogy ne a hardver legyen a szük keresztmetszet, de akkor meg már olyasmivel is kell foglalkozni komolyabban mint hütés, zaj vagy az elektromos hálózat, ezek meg simán elzümmögnek a nappaliban.

  De ahogy S_x96x_S írta, akinek van ilyenje, annak simán lehet otthon multi-GPU cucca is vagy mondjuk ha kell akkor bérel valami komolyabbat.

  A multi-GPU cucc gamer kártyákkal nem megy, mert belefut a 32GB vram limitbe. Egy RTX 6000 pro 96GB vrammal meg maga annyiba kerül, mint egy RTX Spark és ebből kellene minimum 2. És akkor még a 1.5 kilowattos fogyasztásról meg a GPU-kat kiszolgáló PC áráról nem is beszéltünk.

• ben2 senior tag

  #23

  #13 Reggie0

  jún. 10., 17:00:17

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  ben2

  senior tag

  #13 Reggie0

  #13 Reggie0

  Hat, azert annyira nem lesz ra nagy a kereslet. Jopofak ezek a 128GB-os unified memory-s bohockodasok, de eleg hamar korlatokba utkoznek. Ez olyan kozepkategorias juzereknek valo, aki komolyan AI-zik es 0-24-ben agensekkel kodoltat, az inkabb normalis GPU-t vesz.

  Mit értesz normális GPU alatt?

• BütyökLiza csendes tag

  #22

  #7 tibaimp

  jún. 10., 16:08:59

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  BütyökLiza

  csendes tag

  #7 tibaimp

  #7 tibaimp

  Ezt én is megkérdeztem magamtól, majd az AI-tól, ezt írta:

  "Lokális MI-ügynökök: A PC, ami cselekszik helyetted Az eddigi "AI PC-k" (mint a Microsoft Copilot+ laptopok) leginkább csak chatelni tudtak, vagy apróbb képszerkesztési feladatokat végeztek el a felhőben. Az RTX Spark ezzel szemben egy szuperszámítógép-szintű hardver a táskádban, amely képes úgynevezett Agentic AI (cselekvőképes MI) funkciókat futtatni, internet nélkül. [1, 2, 3]

  NVIDIA OpenShell: Ez a Microsofttal közösen fejlesztett, vadonatúj biztonsági rendszer. Lehetővé teszi, hogy az MI-ügynök teljes hozzáférést kapjon a fájljaidhoz és alkalmazásaidhoz. Nemcsak válaszol a kérdéseidre, hanem önállóan elvégzi a munkát (pl. "Keresd meg az elmúlt havi számlákat, készíts belőlük egy Excel táblázatot, és küldd el e-mailben a könyvelőnek"). [1]

  Óriási modellek a gépeden: A 128 GB egyesített memóriának köszönhetően a laptop képes 120-200 milliárd paraméteres, professzionális nagy nyelvi modelleket (LLM) futtatni helyben. Ráadásul az MI hatalmas, akár 1 millió tokenes kontextust (pl. több egész könyvnyi vagy teljes kódnyelvi adatbázist) is képes egyszerre fejben tartani és átlátni. [1, 2]

  Kreatív MI-munka: Nem kell többé előfizetni külső szolgáltatásokra. A gépen helyben, másodpercek alatt generálhatsz fotórealisztikus 4K-s videókat, vagy 3D-s környezeteket a játékfejlesztéshez."

  Őszintén nem tudom eldönteni, hogy kell-e ez, de biztos meg van/lesz a célközönsége. Nekem egyelőre nincs rá szükségem, de gondolom sokan vagyunk így itt ezzel.

  "A PC, ami cselekszik helyetted"

  Hát helyettem aztán ne cselekedjen a PC-m!

• Sanya nagyúr

  #21

  #19 wasd.hu

  jún. 10., 16:01:18

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  Sanya

  nagyúr

  #19 wasd.hu

  #19 wasd.hu

  Jó lesz az. Miután optimalizálták.

  Majd akkor megvesszük.

• zooly aktív tag

  #20 jún. 10., 14:01:01

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  zooly

  aktív tag

  Az OpenShell lenyege pont az, hogy nem ferhet hozza mindenhez az AI Agent, csak amit engedelyezel, kernel szinten izolalja el a rendszer tobbi reszetol. Jelenleg ezt eleg nehez kivitelezni Windowson, vannak ra megoldasok, de korulmenyesek.

• wasd.hu senior tag

  #19

  #18 Sanya

  jún. 10., 12:49:16

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  wasd.hu

  senior tag

  #18 Sanya

  #18 Sanya

  Szóval, ennyi pénzért sem jó semmire.

  Jó lesz az. Miután optimalizálták.

• Sanya nagyúr

  #18

  #16 oio1i10o

  jún. 10., 12:44:12

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  Sanya

  nagyúr

  #16 oio1i10o

  #16 oio1i10o

  Nagy királyság ezekben a 128GB-os masinákban, hogy kicsik, nem ormótlanul csúnyák, keveset fogyasztanak, viszonylag nagy méretü modellek is elférnek a memóriában ésszerü quantization mellett és valamennyire clusterezni is lehet öket. Persze lassúak, de ha nincs végtelen pénze az embernek, akkor a GPU-val is beleütközik az ember korlátokba.

  Nagyon sok pénzt kell ahhoz költeni, hogy eljusson az ember arra a pontra, hogy ne a hardver legyen a szük keresztmetszet, de akkor meg már olyasmivel is kell foglalkozni komolyabban mint hütés, zaj vagy az elektromos hálózat, ezek meg simán elzümmögnek a nappaliban.

  De ahogy S_x96x_S írta, akinek van ilyenje, annak simán lehet otthon multi-GPU cucca is vagy mondjuk ha kell akkor bérel valami komolyabbat.

  Szóval, ennyi pénzért sem jó semmire.

• wasd.hu senior tag

  #17

  #3 paatrick

  jún. 10., 12:30:13

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  wasd.hu

  senior tag

  #3 paatrick

  #3 paatrick

  Valaki aki benne van írja már le mit jelent az hogy AI-ra "készített" számítógép, akár win akár linux. Mire használják?

  Célszerszám, pl röntgen, audit etc

  #2 Tiba
  Tényleg az

• oio1i10o junior tag

  #16

  #13 Reggie0

  jún. 10., 11:20:03

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  oio1i10o

  junior tag

  #13 Reggie0

  #13 Reggie0

  Hat, azert annyira nem lesz ra nagy a kereslet. Jopofak ezek a 128GB-os unified memory-s bohockodasok, de eleg hamar korlatokba utkoznek. Ez olyan kozepkategorias juzereknek valo, aki komolyan AI-zik es 0-24-ben agensekkel kodoltat, az inkabb normalis GPU-t vesz.

  Nagy királyság ezekben a 128GB-os masinákban, hogy kicsik, nem ormótlanul csúnyák, keveset fogyasztanak, viszonylag nagy méretü modellek is elférnek a memóriában ésszerü quantization mellett és valamennyire clusterezni is lehet öket. Persze lassúak, de ha nincs végtelen pénze az embernek, akkor a GPU-val is beleütközik az ember korlátokba.

  Nagyon sok pénzt kell ahhoz költeni, hogy eljusson az ember arra a pontra, hogy ne a hardver legyen a szük keresztmetszet, de akkor meg már olyasmivel is kell foglalkozni komolyabban mint hütés, zaj vagy az elektromos hálózat, ezek meg simán elzümmögnek a nappaliban.

  De ahogy S_x96x_S írta, akinek van ilyenje, annak simán lehet otthon multi-GPU cucca is vagy mondjuk ha kell akkor bérel valami komolyabbat.

• Csandi addikt

  #15

  #8 paatrick

  jún. 10., 11:06:10

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  Csandi

  addikt

  #8 paatrick

  #8 paatrick

  Szóval az AI se tudja megmondani mire is jó

  Lehetővé teszi, hogy az MI-ügynök teljes hozzáférést kapjon a fájljaidhoz és alkalmazásaidhoz.
  
  Na attól védjen meg minket az isten
  Már látom előre az agyhalott prank videókat a tikitokiról: "hey alexa, delete every file. - Fine I deleted them. Broooooo chill its just a prank hahaha"

  De hát ezt már most is tudja pl a Claude, nem kell ehhez lokálisan futtatott modell meg "AI-ra készített" számítógép.
  
  Nekem is rá van eresztve minden, munkához csak a Claude-ot használom már, nem is csinálok semmit csak promptolok ott tartunk, hogy az emberi tényező a proof of concept, utána a megvalósítást elejétől végig Claude csinálja, jó pár hónapja már gond nélkül.

• S_x96x_S veterán

  #14

  #13 Reggie0

  jún. 10., 08:30:13

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  S_x96x_S

  veterán

  #13 Reggie0

  #13 Reggie0

  Hat, azert annyira nem lesz ra nagy a kereslet. Jopofak ezek a 128GB-os unified memory-s bohockodasok, de eleg hamar korlatokba utkoznek. Ez olyan kozepkategorias juzereknek valo, aki komolyan AI-zik es 0-24-ben agensekkel kodoltat, az inkabb normalis GPU-t vesz.

  Nem hiszem, hogy ez nulla összegű döntés.
  Mivel nyugodtan megfér ez a laptop egy Desktop - multi-GPU-s workstationnal együtt, vagy egy DGX Station-al ( ami a Spark nagy testvére és tényleg workstation )

  Itt inkább a hodozhatóság lesz a lényeg.
  és ez inkább egy Macbook Pro - alternativa lesz.
  [ Windows + CUDA + Adobe + Gaming + MoE + WSL2 ]
  (bár a MacBook Pro memória sávszélessége ennek a 2,5x -e)

  De egy profi AI konferenciára - nem dGPU -val, megy, hanem
  egy 128GB -os unified memories laptoppal
  ( Macbook Pro / RTX Spark / Strix Halo )

  Ez a gép nagy MoE -k futtatására ideális,
  Minden mást meg meg felhőben - vagy egy erősebb workstationn-on lehet futtatni.

• Reggie0 titán

  #13

  #11 IgorKGB

  jún. 10., 02:22:17

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  Reggie0

  titán

  #11 IgorKGB

  #11 IgorKGB

  mivel a spark egységes memoriát használ, ami lehet 128GB is, igy beleférnek a memoriába , a nagy offline AI modellek, igy pl egy fejlesztő nem a Claude-nak fizet havi 2500 dollárt a programozo intelligenciáért , hanem a saját számitógépén futtat programozó ügynököket, a nap 24 órájában , az nvidia megint aranyat tojik, mert a gépüket vinni fogják mint a cukrot, irdatlan lesz rá a kereslet, a mai világban ai nélkül lehetetlen megmaradni a programozoi világban

  Hat, azert annyira nem lesz ra nagy a kereslet. Jopofak ezek a 128GB-os unified memory-s bohockodasok, de eleg hamar korlatokba utkoznek. Ez olyan kozepkategorias juzereknek valo, aki komolyan AI-zik es 0-24-ben agensekkel kodoltat, az inkabb normalis GPU-t vesz.

• Reggie0 titán

  #12

  #10 F34R

  jún. 10., 02:21:07

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  Reggie0

  titán

  #10 F34R

  #10 F34R

  Erre is lesz lassan dedikalt hardware, mint a bitcoinra... nagyon fasza.. mijonmeg? ??

  Joreggelt, mar evek ota van ra dedikalt hardver

• IgorKGB csendes tag

  #11

  #4 ripla

  jún. 9., 22:47:19

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  IgorKGB

  csendes tag

  #4 ripla

  #4 ripla

  Azt ők sem tudják, csak jól hangzik, mint manapság egy aktuális marketingre kitalált hívószó. Volt itt már bitcoin meg VR, most meg épp AI-nak hívják az aktuális trendet. Ha majd ez is megbukik, akkor megint kitalálnak valamit.

  mivel a spark egységes memoriát használ, ami lehet 128GB is, igy beleférnek a memoriába , a nagy offline AI modellek, igy pl egy fejlesztő nem a Claude-nak fizet havi 2500 dollárt a programozo intelligenciáért , hanem a saját számitógépén futtat programozó ügynököket, a nap 24 órájában , az nvidia megint aranyat tojik, mert a gépüket vinni fogják mint a cukrot, irdatlan lesz rá a kereslet, a mai világban ai nélkül lehetetlen megmaradni a programozoi világban

• F34R nagyúr

  #10 jún. 9., 20:22:54

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  F34R

  nagyúr

  Erre is lesz lassan dedikalt hardware, mint a bitcoinra... nagyon fasza.. mijonmeg? ??

• tibaimp nagyúr

  #9

  #8 paatrick

  jún. 9., 19:47:48

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  tibaimp

  nagyúr

  #8 paatrick

  #8 paatrick

  Szóval az AI se tudja megmondani mire is jó

  Lehetővé teszi, hogy az MI-ügynök teljes hozzáférést kapjon a fájljaidhoz és alkalmazásaidhoz.
  
  Na attól védjen meg minket az isten
  Már látom előre az agyhalott prank videókat a tikitokiról: "hey alexa, delete every file. - Fine I deleted them. Broooooo chill its just a prank hahaha"

  Igen, kb. ez van, ezért írtam az utolsó mondatot is hozzá az előző hsz-ben.

• paatrick őstag

  #8

  #7 tibaimp

  jún. 9., 18:23:10

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  paatrick

  őstag

  #7 tibaimp

  #7 tibaimp

  Ezt én is megkérdeztem magamtól, majd az AI-tól, ezt írta:

  "Lokális MI-ügynökök: A PC, ami cselekszik helyetted Az eddigi "AI PC-k" (mint a Microsoft Copilot+ laptopok) leginkább csak chatelni tudtak, vagy apróbb képszerkesztési feladatokat végeztek el a felhőben. Az RTX Spark ezzel szemben egy szuperszámítógép-szintű hardver a táskádban, amely képes úgynevezett Agentic AI (cselekvőképes MI) funkciókat futtatni, internet nélkül. [1, 2, 3]

  NVIDIA OpenShell: Ez a Microsofttal közösen fejlesztett, vadonatúj biztonsági rendszer. Lehetővé teszi, hogy az MI-ügynök teljes hozzáférést kapjon a fájljaidhoz és alkalmazásaidhoz. Nemcsak válaszol a kérdéseidre, hanem önállóan elvégzi a munkát (pl. "Keresd meg az elmúlt havi számlákat, készíts belőlük egy Excel táblázatot, és küldd el e-mailben a könyvelőnek"). [1]

  Óriási modellek a gépeden: A 128 GB egyesített memóriának köszönhetően a laptop képes 120-200 milliárd paraméteres, professzionális nagy nyelvi modelleket (LLM) futtatni helyben. Ráadásul az MI hatalmas, akár 1 millió tokenes kontextust (pl. több egész könyvnyi vagy teljes kódnyelvi adatbázist) is képes egyszerre fejben tartani és átlátni. [1, 2]

  Kreatív MI-munka: Nem kell többé előfizetni külső szolgáltatásokra. A gépen helyben, másodpercek alatt generálhatsz fotórealisztikus 4K-s videókat, vagy 3D-s környezeteket a játékfejlesztéshez."

  Őszintén nem tudom eldönteni, hogy kell-e ez, de biztos meg van/lesz a célközönsége. Nekem egyelőre nincs rá szükségem, de gondolom sokan vagyunk így itt ezzel.

  Szóval az AI se tudja megmondani mire is jó

  Lehetővé teszi, hogy az MI-ügynök teljes hozzáférést kapjon a fájljaidhoz és alkalmazásaidhoz.
  
  Na attól védjen meg minket az isten
  Már látom előre az agyhalott prank videókat a tikitokiról: "hey alexa, delete every file. - Fine I deleted them. Broooooo chill its just a prank hahaha"

• tibaimp nagyúr

  #7

  #3 paatrick

  jún. 9., 17:49:18

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  tibaimp

  nagyúr

  #3 paatrick

  #3 paatrick

  Valaki aki benne van írja már le mit jelent az hogy AI-ra "készített" számítógép, akár win akár linux. Mire használják?

  Ezt én is megkérdeztem magamtól, majd az AI-tól, ezt írta:

  "Lokális MI-ügynökök: A PC, ami cselekszik helyetted Az eddigi "AI PC-k" (mint a Microsoft Copilot+ laptopok) leginkább csak chatelni tudtak, vagy apróbb képszerkesztési feladatokat végeztek el a felhőben. Az RTX Spark ezzel szemben egy szuperszámítógép-szintű hardver a táskádban, amely képes úgynevezett Agentic AI (cselekvőképes MI) funkciókat futtatni, internet nélkül. [1, 2, 3]

  NVIDIA OpenShell: Ez a Microsofttal közösen fejlesztett, vadonatúj biztonsági rendszer. Lehetővé teszi, hogy az MI-ügynök teljes hozzáférést kapjon a fájljaidhoz és alkalmazásaidhoz. Nemcsak válaszol a kérdéseidre, hanem önállóan elvégzi a munkát (pl. "Keresd meg az elmúlt havi számlákat, készíts belőlük egy Excel táblázatot, és küldd el e-mailben a könyvelőnek"). [1]

  Óriási modellek a gépeden: A 128 GB egyesített memóriának köszönhetően a laptop képes 120-200 milliárd paraméteres, professzionális nagy nyelvi modelleket (LLM) futtatni helyben. Ráadásul az MI hatalmas, akár 1 millió tokenes kontextust (pl. több egész könyvnyi vagy teljes kódnyelvi adatbázist) is képes egyszerre fejben tartani és átlátni. [1, 2]

  Kreatív MI-munka: Nem kell többé előfizetni külső szolgáltatásokra. A gépen helyben, másodpercek alatt generálhatsz fotórealisztikus 4K-s videókat, vagy 3D-s környezeteket a játékfejlesztéshez."

  Őszintén nem tudom eldönteni, hogy kell-e ez, de biztos meg van/lesz a célközönsége. Nekem egyelőre nincs rá szükségem, de gondolom sokan vagyunk így itt ezzel.

• ricsi99 addikt

  #6

  #3 paatrick

  jún. 9., 17:24:24

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  ricsi99

  addikt

  #3 paatrick

  #3 paatrick

  Valaki aki benne van írja már le mit jelent az hogy AI-ra "készített" számítógép, akár win akár linux. Mire használják?

  Gpu gyorsított lokal ai-t futtatni képes gép ,ami modern cpu sok ram +16gb vga... oszt mehet a plecsni

• S_x96x_S veterán

  #5 jún. 9., 15:44:21

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  S_x96x_S

  veterán

  a MS szándékai szerint
  a Windows Subsystem for Linux (WSL 2) - lesz elsődlegesen támogatva és továbbfejlesztve az RTX SPARK / ARM-en is.
  https://github.com/microsoft/WSL2-Linux-Kernel/releases
  ami már a 6.18-as kernelt is támogatja.

  És én hasonló esetben a DGX SPARK dockerizált image-ével próbálkoznék, hátha az fut.

• ripla addikt

  #4

  #3 paatrick

  jún. 9., 15:31:31

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  ripla

  addikt

  #3 paatrick

  #3 paatrick

  Valaki aki benne van írja már le mit jelent az hogy AI-ra "készített" számítógép, akár win akár linux. Mire használják?

  Azt ők sem tudják, csak jól hangzik, mint manapság egy aktuális marketingre kitalált hívószó. Volt itt már bitcoin meg VR, most meg épp AI-nak hívják az aktuális trendet. Ha majd ez is megbukik, akkor megint kitalálnak valamit.

• paatrick őstag

  #3 jún. 9., 14:58:29

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  paatrick

  őstag

  Valaki aki benne van írja már le mit jelent az hogy AI-ra "készített" számítógép, akár win akár linux. Mire használják?

• tibaimp nagyúr

  #2 jún. 9., 14:55:08

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  tibaimp

  nagyúr

  Kíváncsi leszek majd az összehasonlító tesztekre, hogy az AI programok mennyivel futnak gyorsabban a Linux-os verzión, mert ha sokkal jobban fog menni rajta, az elég nagy blama az MS-nek...

• Youri veterán

  #1 jún. 9., 14:07:44

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  Youri

  veterán

  Nyílván összeborul a két legnagyobb slop factory

Új hozzászólás Aktív témák