Vagy mondjuk optimalizálhatnák a mögötte lévő motort

Mobiloknál is inkább tesznek mögé nagyobb hardvert, mint a szoftver javítanák.

[ Szerkesztve ]

Lassú a mobilinterneted? 4G/LTE antennák, közvetlenül raktárról ---> http://bit.ly/LTE_Antennak

Szerintem mindenki és a kutyája is AI cuccokat kutat most. Elképzelheted hogy nem keveseven vizsgálják hogyan lehetne a Transformers-LLM architektúrát az előnyeinek megtartásával kisebb erőforrásigényűvé tenni. De jelenleg a GPT4 szintjén ekkora méretben ennyi hardverre van szükség ilyen minőségű valós idejű eredmény előállításához.

Kellene megint egy óriási áttörés. Van pár ígéretes kihívó (RETNET, RWKV) egyébként, de ezekhez még tényleges betanítást is csinálni kellene hogy igazolni lehessen, ami sok idő és rengeteg pénz.

[ Szerkesztve ]

Lehetne ezt azért finomabban is előadni, de mindegy lépjünk át ezen.

Mint részben programozó, részben üzemeltető, látom, hogy mindig van hova optimalizálni a rendszereket, vélhetően ez esetben sincs másképp. Ezért írtam azt, amit.

Lassú a mobilinterneted? 4G/LTE antennák, közvetlenül raktárról ---> http://bit.ly/LTE_Antennak

Átalános tapasztalatok alapján ugyanez a véleményem. Bár itt azért biztosan jobban igyekeznek, mint amennyire manapság az egyszeri alkalmazásoknál telibeszékelik, de mindig van mit tenni.

Meg amúgy is pukkannia kéne kicsit a lufinak, mert lenyűgözőek a technológiák által produkált eredmények és valóban hasznos is nagy részük, de piacilag káros a körülötte lévő hirtelen felhajtás (túl sok prioritást von el hirtelen más területekről), hosszútávon mindenkinek egy higgadtabb tempójú fejlődés lenne az előnyös, mert így is az elmúlt években számtalan más téren folyamatosan reng a világgazdaság, a chipek iránti igények volumene pedig már évek óta tarthatatlan szinten van (eth-pow, EU-s lázálmok miatti kényszerelektromosítás-kényszerelektronikázás az autóiparban, most meg mire az első épp lecsengett, már jött is az AI őrület). Vissza kell mostmár haladéktalanul térni a kínálati piachoz, ahol évente mindig fele annyiért kapsz a korábbihoz képest kétszer annyira fejlett/erős elektronikai termékeket, mert különben a technológiai fejlődés sem lesz fenntartható (ha ugyanazt a tudásszintet/teljesítményt is el lehet adni ugyanolyan drágán sok-sok éven át a megveszett keresleti viszonyok miatt, az a gyártókat az érdemi fejlesztések helyett max. a gyártási költségek lefaragására tudja ösztönözni a még nagyobb haszon érdekében és ez vásárlói oldalon nagyon ritkán hoz bármi pozitív dolgot, sokkal inkább viszont a minőséget szokta kompromittálni).

[ Szerkesztve ]

De miért kéne pukkanni a lufinak, azt nem értettem. Mert nem szolgálja a vásárlói oldalt? Ha nőnek a bevételek, akkor a vásárlói oldalt szerintem lekakkantják. Minőséget meg ellenőrzi akinek termelnek.

[ Szerkesztve ]

Kérek egy számot a jútútú

Ha az elérhető mennyiségről van szó, akkor mi van azzal, hogy a nem-nVidia AI-gyorsító chippeket is a TSMC gyártja? Az akkor ott egy szűk keresztmetszet amit nem kerülnek meg ezzel. Az már hihetőbb motiváció, hogy nem szeretnék az nVidia-nak fizetni a pofátlan haszonrést, amit majdnem-monopoliumként elkérhet.