Hirdetés

2024. május 27., hétfő

Gyorskeresés

Hozzászólások

(#1) Alusky


Alusky
aktív tag

Ne fűts, ne klímázz, autóra rá se merjél nézni, mert környiszennyi van, de az AI-nak kell a villany, aminek el tudom képzelni mekkora százalékát használják tényleg hasznos dologra...

Automata váltósként a legjobb barátom az akkumulátor.

(#2) MaCS_70 válasza Alusky (#1) üzenetére


MaCS_70
félisten

Meg a bányászat, ugye... Aminél a MI még mindig értelmesebb.

A MI fejlesztésénél tulajdonképpen elfogadható érvelés az, hogy ez a fejlődés szükségszerű stádiuma, de ez még nem jelenti azt, hogy jól csináljuk.

MaCS

Fán nem lehet motorozni, motoron viszont lehet fázni!

(#3) clon válasza MaCS_70 (#2) üzenetére


clon
aktív tag

Azért az érdekes, hogy az AI "csak úgy" rá lett eresztve a társadalomra és az eddigi lépcsőfokokat kihagyta pl. a katonai után a nagy céges vastag előfizetéses rendszer majd utána a bármilyen cég és végül mikor már "kifacsarták" a cégek akkor megkapják a "mindenki". A katonai után csak úgy be lett dobva, hogy "ússzál AI" vagy elsüllyedsz...

(#4) ddekany válasza Alusky (#1) üzenetére


ddekany
veterán

"mekkora százalékát használják tényleg hasznos dologra"

Alighanem jelenleg betanításra (kutatásra) kell ennyi energia elsősorban. Ha meg sokkal fejlettebb lesz mint most, akkor meg arra számítanák, hogy munka elvégzésére fog elmenni a rengeteg energia. Tehát ha majd a nem-fizikai munka jelentős részét ez végzi minden egyes cégeknél, akkor el lehet képzelni mennyi kell belőle.

[ Szerkesztve ]

(#5) MaCS_70 válasza clon (#3) üzenetére


MaCS_70
félisten

Sajnos ez van. A saját jövőm miatt is aggódom, a gyerekemé miatt pedig kiver a veríték.

MaCS

Fán nem lehet motorozni, motoron viszont lehet fázni!

(#6) Alusky válasza clon (#3) üzenetére


Alusky
aktív tag

Gyanítom a civilek csak a butítottat kapják jelenleg is. Amilyen ökörségeket csinál olykor pláne valószínű. Másrészt azt is gyanítom, hogy mivel az egész az adatokra épül, előbb az emberekből kell kiszívni mindent, majd utána lesz a tudására üzlet építve.

Automata váltósként a legjobb barátom az akkumulátor.

(#7) TESCO-Zsömle válasza MaCS_70 (#2) üzenetére


TESCO-Zsömle
félisten

Meg a bányászat

A bányászat mindennel együtt nem kérte a tizedét sem annak, amire most az AI bejelentkezett.

Sub-Dungeoneer lvl -57

(#8) NandoXXL válasza ddekany (#4) üzenetére


NandoXXL
senior tag

Tévedsz, elég nagyot. Maga az üzemeltetés hogy relevens válszt adjon a bankunkban igen erőforrásigényes, lassú szar, ami eszi a vasat. Fizumelés alig, erre meg elkezdik locsolni a pénzt.. levágnám a kezét sária szerint annak aki ezt költségként elszámolja.. Eszetlenül tolják, kiforrott optimalizált rendszerként még hasznos is lehetne. minden Istenverte barom fél hogy kimarad és lemarad, emberiség ellenes bűncselekmény, egy klíma válság alatt ebben a formában.

(#9) MaCS_70 válasza TESCO-Zsömle (#7) üzenetére


MaCS_70
félisten

Erre van valami forrásod? Komolyan érdekelne.

Köszönettel: MaCS

Fán nem lehet motorozni, motoron viszont lehet fázni!

(#10) ddekany válasza NandoXXL (#8) üzenetére


ddekany
veterán

Persze, ahol használják, ott zabál. Csak jelenleg még relatív kevesen használják, mert nem csak új, de mindenre még nem is jó ember helyett, közel sem. (Nem tudom mi az arány... nálunk is nyomják, de erősen pilot fázis.) Na de ha megbízhatóbb/okosabb lesz, na onnantól nagyságrendekkel több "következtetés" felhasználó lesz (és akkor minimum valami Groq szintű inference specializáció kell). De addig is, a modelleket fejlesztő nagy cégeknél pörög igazán a FOMO, elvégre akinek előbb van szuper-hiper megbízható AI-ja, az kb. a világ ura onnantól. Tehát megy a verseny padló gázzal, hogy ki tud több számítási teljesítményt kutatásra/betanításra rádobni, és így elsőre odaérni. (Pl. ott az MS tervezett Stargate-je, aminél egyik fő gondjuk, hogy egyik USA állam hálózata se bírja el.)

(#11) toto2700reg válasza MaCS_70 (#5) üzenetére


toto2700reg
aktív tag

Ha ebben az országban marad, akkor pornósztár vagy megélhetési politikus. Bár a kettő ugyanaz. :)

(#12) winhate


winhate
őstag

Ezen a nagy energiaigenyen azert elgondolkodnek.
Llm et mar lehet tenni egy 16gb rammal szerelt gepre is.
Tessek: [link]

"Egy olyan eszköz használata, mint az Ollama, lehetővé teszi az LLM-ek futtatását a saját gépén. Ez azt jelenti, hogy nem kell harmadik fél API-jára hagyatkozni vagy felhőszolgáltatást használni. A modellek helyi futtatása azt jelenti, hogy a felhasználók adatainak nem kell elhagyniuk a gépüket, ami magasabb szintű adatvédelmet és biztonságot kínál. Nagyfokú rugalmasság is biztosított, ami lehetővé teszi a modell testreszabását az Ön igényei szerint. Az Ollama REST API támogatást is kínál."

http://pouet.net/prod.php?which=5633

(#13) ddekany válasza winhate (#12) üzenetére


ddekany
veterán

Egyrészt egyenlőre valószínűleg tréningre kell, ami sokkal többet kér (és az otthon messze nem reális, nyilván).

Másrészt, szélesebb alkalmazásra jó modellek egyenlőre nincsenek, egy Claude 3 Opus is (aminek futtatásához messze kevés egy otthonigép) rendesen "hallucinál". Így nem tudjuk mekkorák lesznek, mire tényleg jók lesznek. Plusz, a fejlődés várható iránya, hogy az LLM-nek iterálni kell a válaszon, mielőtt kiírná neked (most ugye fix számú rétegen átfolyik, és rögtön kiírja neked a következő tokent), és úgy már sokkal de sokkal lassabb lesz, tehát gyorsabb vas kell alá. (Mondom ezt azzal együtt, hogy LLaMa 3 8B-t pont tegnap próbálgattam saját gépen, és érzetre már az 1 évvel ezelőtti felzúdulást kirobbantó kb. 200B-s ChatGPT 3.5 szintje.)

(#14) t72killer


t72killer
titán
LOGOUT blog

Pofonegyszerű: vegyenek meg kilóra valami Szaharai datolyaköztársaságot, nyomják tele kínai napelemmel és violá, lőn energia és főd.

Mér' eszik amúgy ennyit :F? Lehet előbb hatékony hardvereket kéne kifejleszteni alá, nem tamagocsin futtatni...

30€ Meta store bónusz Quest headset aktiváláshoz, keress priviben :)

(#15) ddekany válasza t72killer (#14) üzenetére


ddekany
veterán

Miért eszik ennyit? Nyilván mert nagyon sok számítást kell elvégezni. H100/H200 meg hamarosan érkező B200 nem épp tamagocsi. A többiek megoldási sem (Google TPU-i, AMD MIxxx).

Vannak a horizonton formabontóbb megoldások (pl. részben analóg), amik sokkal nagyobb hatékonyságot ígérnek. (Aztán javarészükről kiderül majd hogy még sem működik.) De hát türelem, ezeket nem épp pár év összedobni, meg ténylegesen elérhetővé tenni.

(#16) hemaka válasza Alusky (#1) üzenetére


hemaka
nagyúr

Pont ezért sz.rok rá nagy ívben az egészre. A nagy környezetvédelmem kimerül annyiban, hogy nem szemetelek.

(#17) kilua válasza winhate (#12) üzenetére


kilua
senior tag

Már 8giga ramos laptopomon is rendesen fut a LLaMA3 8B ami nem is rossz, és a stable diffusion 1.5 alapú modellek

Sőt már régi nem direkt MI chipes telefonon is:
[link]
[link]

Elhülyéskedni már az is jó.

Egyébként a "mire fel az energia igény" abban egyetértek hogy lehet túl lett tolva hirtelen és ebből akár valamekkora bukta is lehet de egyelőre úgy néz ki hogy egyre több dolgot kiválthat ami ... na igen vagy valami kényelmes utópia vagy valami disztópia felé visz.

(#18) Medocsabi


Medocsabi
addikt

"Nem bírják kiszolgálni az AI energiaigényét"
Miért, odaát nem süt a nap,nem fúj a szél?...
Szóval én átírnám arra, hogy:
"Nem bírják kiszolgálni az AI energiaigényét a jelenlegi megoldásokkal a profit maximalizálása mellett"
Így mindjárt más a leányzó fekvése. Szoktam mondani,hogy a "nem tudom megoldani", és a "nem akarom megoldani" között kurv@ nagy ám a különbség :)

(#19) Medocsabi


Medocsabi
addikt

Nem tudom hány éves vagy,én 38. Sokszor elgondolkozom ezen, hogy mit hagyunk majd hátra. Hogy fognak-e ujjal mutogatni ránk 100 év múlva,hogy mi tehettünk volna valamit,hogy legyen jövőjük, de nem tettünk. Nagyapáink még harcoltak a jövőért,apáink szenvedték ennek utóhatásait. Mi élveztük ezeknek a gyümölcsét, és-ahogy én látom- a nagy kényelemben valahogy mindenki megvakult a világ felé. Mintha senkit és semmit nem érdekelne mi lesz holnap,csak a ma van. A most. Szerintem mi még látni fogjuk azt,ami marad. Mi még emlékezni fogunk arra,hogy volt nagyon jó is. Ami talán rosszabb,mint ha csak a sz@rt látná valaki,ahogy az unokáink fogják, mert mi tehetünk volna ellene. De nem tettünk.
Szerintem.

(#20) MaCS_70 válasza Medocsabi (#18) üzenetére


MaCS_70
félisten

Miért, mikori megoldásokkal kellene most megoldani?

A profitmaximalizálás nem annyira alapértelmezett, hogy külön ki kellene írni?

MaCS

Fán nem lehet motorozni, motoron viszont lehet fázni!

(#21) t72killer válasza Medocsabi (#19) üzenetére


t72killer
titán
LOGOUT blog

Nem tudom, kinek volt válasz, de egy biztos: itt van (vagy inkább volt) nekünk egy 100% komplett TERMÉSZET, illetve szintén inkább csak volt ELÉG HELY a bolygón. Az egész AI-Ájtí-üvegfalmögöttprodzsektmenedzsment baromság abszolút semmi hulladék ahhoz képest, amit a természet felépített, röpke pár év alatt bármit művel a modern ember, az kuka, dédunokáinak már csak az alkalmasint radioaktív vagy épp évszázadok alatt lebomló műanyagszar szemétdomb marad és a kiirtott élővilág, amit nem lehet csak úgy csettintésre visszahozni.

Ezügyben halványlila motivációt nem látok az emberiségben, hogy változni akarna.
#1 probéma az óriási embertömeg. Kimondja bárki is, hogy állítsuk le a tömeges embergyártás? Jajjajdehogy, hát az mennyirenempíszí már!
#2 probléma maga a gazdasági "növekedés" hajhászása mindenek felett. Egy példa a millióból: úgy akarunk "klímacélokat" elérni, hogy tapsolunk egy-egy légitársaság növekvő forgalmának? Szánalmas...

Szóval ja, sajnos mutogatni fognak ránk utódaink teljes joggal, mert ami maradandó és értékes, teljes erőbedobással pusztítjuk, olyan "előnyökért" amiből már semmi sem fog létezni, mire ők megszületnek.

[ Szerkesztve ]

30€ Meta store bónusz Quest headset aktiváláshoz, keress priviben :)

(#22) ddekany válasza t72killer (#21) üzenetére


ddekany
veterán

Az egész lényegében annyi, hogy rövid távra optimalizálunk, mert törzsi lépték felett rohamosan zuhan az együttműködési képességünk. Mert aki ma nem győz, az holnap már nem létezik, mert mindig van valaki, aki nem fogja magát vissza, és szelekciós elven ő marad csak meg (persze hosszú távon már esetleg mindenkivel együtt megszívja). Illetve, a legtöbb embert szó szerint nem érdekli, mi lesz miután már meghalt, hiszen ő abból már nem érzékel semmit.

[ Szerkesztve ]

(#23) t72killer válasza ddekany (#22) üzenetére


t72killer
titán
LOGOUT blog

Pontosan, mint az alkesz drogos "szülő".

30€ Meta store bónusz Quest headset aktiváláshoz, keress priviben :)

(#24) janeszgol válasza Alusky (#1) üzenetére


janeszgol
félisten

+1

Röhejes az egész. Egyre hülyébb az emberiség.

(#25) ddekany válasza janeszgol (#24) üzenetére


ddekany
veterán

Nem hiszem, hogy egyre hülyébb lenne az emberiség, vagy nem hosszabb távon nézve, csak egyre feltűnőbb bajokat tud okozni önmagának és környezetének, ahogy a technika fejlődése egyre erősebb eszközöket ad a kezébe. Ezért is gondolom, hogy ha az AI tényleg oda fejlődik, hogy tud már rendesen gondolkodni, akkor az már túl nagy kihívás az emberiségnek. Mert vagy kicsináljuk egymást vele, vagy valakiknek sikerül átadnia az iránytást a mesterséges "létformának", mivel mi alkalmatlanok voltunk ilyen erejű eszköz birtoklására.

Copyright © 2000-2024 PROHARDVER Informatikai Kft.