The input is a sequence of N words (a.k.a tokens).

A RIOS rendkívül felhasználóbarát, csak megválogatja a barátait.

Az nem kérdés, hogy megvalósítható e a több testes megoldás. Idővel minden megvalósítható, a kérdés az, hogy megéri e. Pl. megvalósítható e, hogy egy autó repüljön (azért ez az analógia, mert mostanában nagyobb előrelépések voltak)? Alapvetően igen. Akkor miért nem repülnek az autók? Mert ez csak akkor éri meg, ha majd egyszer adottak lesznek ehhez a feltételek. De addig a repülő autó nem fog széles körben elterjedni. Bizonyos helyeken, bizonyos alkalmazásokra a közeljövőben előfordulhatnak majd, de le fogják e váltani mondjuk ötven éven belül a felszíni közlekedést? 100 éven belül? És a kamionforgalmat mikor váltja ki maradéktalanul a repülő kamion? Majd ha több előnye lesz mint hátránya.

"Ez, hogy nem lehet több teste..."
Én nem mondtam, hogy ne lehetne.

" De nem is kell majd, ahol a fentebb említett hierarchia praktikusabb."
Tehát egyetértesz velem.

A hierarchikus felépítés is egy út. A rovar ökoszisztéma működőképességét maga a természet igazolja, hiszen a rovarok már a dinoszauruszok előtt is itt voltak. De nem minden rovar képez kaptárakat, pedig ha abszolút megoldás lenne, akkor minden mást
kiszorítanának.
Az ember mint faj rendkívül sikeres. Azon is érdemes lenne elgondolkozni, hogy min alapul ez a siker.

"És ha bénázik valamelyik, mert túl specialista, akkor korrigálja a nagy."
Vagy inkább létrehoz egy hibafelderítésre, javításra optimalizált réteget, hiszen hosszú távon időt és energiát spórol vele.

[ Szerkesztve ]

Aki azt mondja "nem tudom elhinni az igazságot" az naiv. Aki azt mondja "nem akarom tudni az igazságot" az ostoba. Aki azt mondja "az igazság tilos" az gonosz. Aki azt mondja "én határozom meg az igazságot" az beteg.

"Az ember mint faj rendkívül sikeres. Azon is érdemes lenne elgondolkozni, hogy min alapul ez a siker."

A gondolkodási képessége legkarakteresebb ok, nyilván. Viszont, ez azzal járhat, hogy előbb-utóbb össze tudunk vele rakni egy gépet, ami ugyan ezt tudja, csak azzal az előnnyel indul, hogy sokkal nagyobb részben tervezhető/fejleszthető tudatosan, mint a biológiai, és könnyen másolható (ami pl. fejlesztésben hatalmas előny). És ezzel visszaértünk oda, hogy ez messze gyorsabb fejlődést tesz lehetővé, mint az tradicionális természetes, ami az előnyös véletlen mutációk elterjedésén alapul (ami ember esetén pláne lassú, mert nem vagyunk baktériumok pár órás életciklussal).

Az is durva, hogy adottak a lehetőségei, hogy a tudását 1 az 1-ben terjessze az időben. Nálunk ez egy szerencsétlenkedés nagyjából, amit próbálunk valahogy az egyetemekkel átmenteni, amelyek csúful belebuknak az igyekezetükbe, és lényeges építőkockák meg egyszerűen eltűnnek az időben. A vagyonon látni ezt igazán, hogy azt vérrel verejtékkel próbálják átmenteni a generációkon keresztül és az sem sikerül, a tudás az meg ugye messze nem élvez ilyen prioritást.

Kérek egy számot a jútútú

Igazából arra gondoltam, hogy az emberek az érintkezési hálón egymás között információt adnak át, és az információt az eszközhasználat miatt azonnal alkalmazni is tudják. Amit valaki kitalál egy szituációban, és a másik hall róla, automatikusan elgondolkozik azon, hogy ő ezt hogyan tudná adaptálni a saját környezetében. Jó kis magyar heftelés ugyebár.
Mivel ez minden emberre érvényes, ezért hiába lassú maga az információátadás, a párhuzamosítás miatt nem mondható lassúnak maga az alkalmazott fejlődés.
Ha ezt át akarod rakni AI-ra, akkor kell néhány milliárd AI (vagy lemondasz a párhuzamosított esetvizsgálat előnyéről), aki folyamatosan átküldi az eredményeit az összes többi gépnek, akik megvizsgálják, hogy az adott innováció (ami szükségszerűen minden információt tartalmaz, lehet egy csavar áthelyezése 1mm-el is) alkalmazható e az ő esetében vagy nem. Vagy minden egyes AI leszűri az összes információt mit küld tovább (ahogyan egy ember is).
Hiába összehasonlíthatatlanul gyorsabb egy számítógép mint egy ember, nyilván látod a feladat komplexitását, amely zabálja a teljesítményt. Akkor vedd hozzá, hogy ezeket a feladatokat egy ember átlagosan napi 2000 kcal-ból oldja meg. Egyetlen AI mennyit is fogyaszt? Valami olyasmit olvastam, hogy mindegyiknek saját atomerőművet javasolnak.
Karbantartás igény, stb. amiket az emberi test automatikusan mind megold...

"nem vagyunk baktériumok pár órás életciklussal"
Az ember már rég túl van a rövid reprodukciós idejű próbálkozásokon, azt a részt letudta néhány évmilliárddal ezelőtt. A számítógép gyors? Azt hiszed a sejtszintű információáramlás lassú? A számítógép azért gyors mert relatívv kevés feladatot kell végeznie.
Az emberi elme... nos olyan amilyen.
Mint feljebb írtam, a hozzáférhető információk alapján az AI-k jelenleg kb. azon a szinten vannak, ami a biológiában a vírusoknak felel meg. (Ez egy absztrakt példa. Nyilván nem azok, hiszen az AI-k komplex feladatot oldanak meg, viszont nem képesek önreprodukcióra, mint a vírusok.). Óriási fejlődés áll még előttük, és messze nem állnak olyan szinten, mint amit a befektetőkkel elhitetnek. De a fejlesztő cégek feladata az, hogy hazudjanak, mert egyébként nem jön a tőke. Viszont azt tudomásul kell venni, hogy azok akik azt sugallják, hogy majd az AI megmenti a világot, azok pofa nélkül hazudnak. Elpusztítani az lehetséges. Ahhoz nem kell túl sok minden.

Aki azt mondja "nem tudom elhinni az igazságot" az naiv. Aki azt mondja "nem akarom tudni az igazságot" az ostoba. Aki azt mondja "az igazság tilos" az gonosz. Aki azt mondja "én határozom meg az igazságot" az beteg.

"Amit valaki kitalál egy szituációban, és a másik hall róla, automatikusan elgondolkozik azon, hogy ő ezt hogyan tudná adaptálni a saját környezetében."

Ezek analógiái már most létezhetnek, technikailag. (Más kérdés, hogy bő 1 év alatt robbant fel a terület akadémián/laboron kívül, szóval szinte biztos nem találsz kulcsarakész megoldást.) Ha valami okosra "rájön" egy AI, kiposztolja egy oldalra, amit a többi hasonszőrű AI olvas, azaz, technikailag, bepakol a saját context window-ába. Esetleg szavaznak, hogy mit használtak sikeresen, vagy mi hülyeség. Persze a nagy context window drága (de vannak ígéretes fejlesztések ilyen téren), szóval lehet, hogy átrakod RAG-ba (ott is AI végezi az összegzést, stb., szóval elég jól automatizálható), és onnan csak a nekik épp releváns részeket húzzák be context window-ba. Végül pár havonta, futtatsz rendes tréninget a felgyűlt bölcsességekre, és így bekerül minden AI modelljébe (a paraméterekbe), és nem kell a context window-ba "lebegtetni" többé, meg RAG-ból átlapátolni a context window-ba. Ezekhez persze elég jó LLM-szerűség kellene, jobb mint ami most elérhető, de hát rohamosan fejlődnek is.

"Akkor vedd hozzá, hogy ezeket a feladatokat egy ember átlagosan napi 2000 kcal-ból oldja meg. Egyetlen AI mennyit is fogyaszt?"

Nincs univerzális munkarobot még, ez R&D erősen, szóval ki tudja mennyit fog, ha lesz. De az ember sem olcsó móka. 8 órában hasznos a cégnek (ott is rakás üresjárata van), de a többi tevékenységét is az általuk adott fizetésből finanszírozza. Na meg vannak igényei, amik egy robotnak nincsenek, bár ez visszafelé is igaz, de akkor megint lehet kalkulálin, melyik a drágább (pl. az ebédlő/WC vagy a töltőállomás).

De a kérdésre, hogy most mennyi energia az AI. Inference valami tényleg nagy modellen talán párszáz W, de csak amikor épp van mire válaszolni. Ha valami munkakört ez már mostani szinten ki tudott váltani, akkor az tuti, hogy ott messze kevesebb lesz a napi fogyasztás, mint a kiváltott emberek száma szorozva 2000 kcal-al. (Csak nagyságrend érzékeltetésére (8*60*60)s * 300W / 4184 J/kcal = 2065 kcal). De persze, bele kell számolni a training csillagászati költségét. Viszont, itt jön a képbe a másolhatóság. 1x trainigelsz csak, és futtatsz vele sok millió agent-et egy éven át.

[ Szerkesztve ]

"Ezek analógiái már most létezhetnek, technikailag."
Igen, de a részletektől eltekintve ott a nagyszámú párhuzamos problémamegoldás problémája (lásd fent). Néhány milliárd ember néhány milliárd problémával találkozik néhány milliárd egyedi helyszínen, amihez automatikusan vizsgálatot végez. Néhány millió AI fizikailag képtelen néhány milliárd helyen lennyi egyszerre. Nyilván ez így ebben a formában nem igaz, de pls. ne a számokon lovagoljunk. Maga a probléma adott. És ez csak alkalmazhatóság vizsgálat és csak egy a sokból.
Természetesen brutális a fejlődés jelenlegi üteme az AI kapcsán, de nulláról indulva mindig minden az. Aztán jönnek a problémák, és a fejlesztések ideiglenesen megrekednek. Ezeket szép lassan megoldja vagy az ember, vagy az AI. De itt a szép lassún van a hangsúly.

"De a kérdésre, hogy most mennyi energia az AI."
Na igen. Ezt így még nem számoltam át, hogy az ember kb. 100W-os átlagteljesítményű.

Aki azt mondja "nem tudom elhinni az igazságot" az naiv. Aki azt mondja "nem akarom tudni az igazságot" az ostoba. Aki azt mondja "az igazság tilos" az gonosz. Aki azt mondja "én határozom meg az igazságot" az beteg.

Nameg szalámiszsömiből van előállítva az a 100W.

Kérek egy számot a jútútú

"Néhány millió AI fizikailag képtelen néhány milliárd helyen lennyi egyszerre."

Ilyen szempontból a korlát ugyan úgy a létszám, mint az embernél, nem? Hogy hány robot van más-más helyszíneken. Csak mesterségesen a tudás felhalmozás sokkal hatékonyabb lehet. Pl. a sokszorosíthatóság miatt. Embereknél mindegyiknek külön kell végig gyalogolnia a betanítást, mert nem tudsz tudást letölteni, mint a Matrixban.

"Természetesen brutális a fejlődés jelenlegi üteme az AI kapcsán, de nulláról indulva mindig minden az. Aztán jönnek a problémák, és a fejlesztések ideiglenesen megrekednek."

Hát, majd jól meglátjuk. Egyenlőre inkább gyorsul, mint lassul a fejlődés, nem látszik az S görbe teteje. Ez azért meredek dolog, mert vannak töréspontok, amiket ha elérsz az S teteje előtt, az kinyit újabb ugrási lehetőségeket (újabb S görbéket), és így tovább. Ha pl. egy LLM-szerűség több józan paraszti esze van, akkor hirtelen valóban alkalmas építőkocka lesz a hosszasabban gondolkodó, önkorrigáló gondolkodási folyamat kiépítéséhez. Egy jobb AI meg hasznosabb a saját következő verziójának kifejlesztéséhez (ez már a most is igaz, hogy a betanításhoz nélkülözhetetlen volt az előző verzió segítsége).

Mindegy. Az is mindegy, hogy az emberi energiafelhasználás csak egy része információ feldolgozás. Ha elkezdjük bonyolítani, annak nincs teteje. Ami számít a konkrét esetben, hogy nagyságrendileg nincs különbség energiafelhasználásban egyének között.

Aki azt mondja "nem tudom elhinni az igazságot" az naiv. Aki azt mondja "nem akarom tudni az igazságot" az ostoba. Aki azt mondja "az igazság tilos" az gonosz. Aki azt mondja "én határozom meg az igazságot" az beteg.

Én azt mondom, hogy pont az a lényeg, hogy van amire az ember alkalmasabb, van amire az AI. És ezen nem fog változtatni az AI fejlettsége (nem lesz olyan pont ami után az AI mindeben jobb), mert a bonyolult felépítéssel nőhetnek a lehetőségek, de csökken a hatékonyság. Úgy gondolom ezt egy valódi AI fel tudja mérni és érti, ezért nem kell tartani attól, hogy bántani akarja az emberiséget (egyes egyéneket nyilván, ezzel mi is így vagyunk).
De egy gép ha pusztításra van programozva (mindegy, hogy ember vagy gép programozta) az hatékonyan képes végezni a dolgát. Egy primitívebb program, amely nem képes magasabb szinten információ feldolgozásra.Ezért kell ellenőrizni a mozgatórugókat.
Pl. az "irtsd ki a humán betegségeket" parancs egyenlő az emberiség kipusztításával.És ez egy olyan eset amikor nyilvánvaló az ok okozati összefüggés.
De az AI alapvetően olyan helyzetekben hasznos, amikor információ elemzésre az ember alkalmatlan a nagy adatmennyiség miatt. Tehát nem fogjuk előre látni az AI által hozott eredményt, de az AI sem valamiféle magasabb rendű létforma. A helyzetet nagyon jól szemléltetik a "Ne nézz fel" kapcsolódó jelenetei. Adott esetben tegy AI tűpontos, más esetben brutálisat tud tévedni.

[ Szerkesztve ]

Aki azt mondja "nem tudom elhinni az igazságot" az naiv. Aki azt mondja "nem akarom tudni az igazságot" az ostoba. Aki azt mondja "az igazság tilos" az gonosz. Aki azt mondja "én határozom meg az igazságot" az beteg.

"Nyilván ha egy tökéletlen cuccot akarunk, akkor OK, de akkor nem vagyunk igazán előrébb."

Hát, ilyet tudunk csinálni jelenleg... Bizonyosan lesz megbízhatóbbak mint a mostaniak, meg talán jobban bele fogunk látni a "fejébe" ezeknek idővel. De én nem számítok rá, hogy alapvetően más lesz ez jellegre. Azért, mert nem véletlen, hogy bizonyos problémákra nem bírsz algoritmust megfogalmazni. Vannak rendszerek/feladatok, amiket írtózatos munka lenne egzakt módon, aprólékosan levezetni. Ezek azok, amiken a szokványos programozás elbukik. A megoldás rájuk, hogy valamiféle statisztikai mintázatokat megfigyelsz, és ezeket addig állítgatod, amíg az okok mélyebb megértés nélkül, pofátlan módon, jó eredményt tippelsz 99.99...%-ban. Kb. ezt csinálja az AI. És könnyen lehet, hogy a mi gondolkodásunk alapja is ezt. (Persze minta utánzással utánozható a formális logika, és a mindenféle egzakt gondolkodási stratégiák is. De a mi fejlődésünkben is ez jött utólag, azaz nem ez az alap.)

[ Szerkesztve ]

Felfogható egy versenynek, hogy vajon marad-e haszna az embernek, vagy mindenben legyűr a mesterséges forma. Én sok esélyt nem adok egy természetes kiválasztósásos biológiai lénynek ezzel szemben, egyszerűen mert ez sokkal gyorsabban tud fejlődni. Szóval bármilyen hátránya van most, vagy 5 év múlva, azt néhány évvel később már valószínűleg megoldja. (Ezért is gondolkodtak sokan abban, hogy magunkba kell integrálni, akármilyen elborult ötlet. Persze onnantól jön "Ship of Theseus" kérdés.)

[ Szerkesztve ]

Nem értem ezt a halál ugrás dolgot. Ha(!) elér oda, hogy adott területen sokkal kevesebbszer hibázik mint egy ember (és tegyük fel nem drágább), akkor hibába nem garantált/bizonyítható, áttérsz rá.

Mit értesz kreativitás alatt pontosan, hogy kb. minden mást le lehet utánozni úgy, hogy az továbbra sem fog menni?

"A megoldás rájuk, hogy valamiféle statisztikai mintázatokat megfigyelsz, és ezeket addig állítgatod, amíg az okok mélyebb megértés nélkül, pofátlan módon, jó eredményt tippelsz 99.99...%-ban. Kb. ezt csinálja az AI."
Fura, hogy nem látod: ezzel a biológiai evolúció működését is leírtad. Az evolúció valójában egy matematikai szükségszerűség. (Pl.ezért nem kéne meglepődni azon, hogy máshol is van élet az univerzumban, sőt már a naprendszerben.)

Aki azt mondja "nem tudom elhinni az igazságot" az naiv. Aki azt mondja "nem akarom tudni az igazságot" az ostoba. Aki azt mondja "az igazság tilos" az gonosz. Aki azt mondja "én határozom meg az igazságot" az beteg.

Felfogható, de eléggé elbaltázott az az út. Az én felfogásomban az AI és az ember inkább kiegészíthetik egymást. No nem emberbe integrálásról beszélek, hanem játékelméletről.

Aki azt mondja "nem tudom elhinni az igazságot" az naiv. Aki azt mondja "nem akarom tudni az igazságot" az ostoba. Aki azt mondja "az igazság tilos" az gonosz. Aki azt mondja "én határozom meg az igazságot" az beteg.

máshol van élet a naprendszerben? hol?

Egy átlagos héten négy hétfő és egy péntek van (C) Diabolis

De ez nem az evolúció működése, hanem a gondolkodás egyik építőeleme (bizonyára). Az AI-ok nem evolúciós eleven fejlődnek.

"Az én felfogásomban az AI és az ember inkább kiegészíthetik egymást."

Mármint ezt preferálnánk, életösztönből. A valóságot meg a civilizáció mint nagy rendszer erőinek eredője dönti el (ideértve a gyakori "prisoner's dilema" önszívatásokat), meg a fizika. Ha netán kiderült, hogy a csodás emberi elme nem is akkora csoda, ha kiderül hogy semmi mágia nem maradt, amit csak ember tud, akkor ugye... gratulálunk, következő szintre léptetted az intelligens létet, köszönjük az önfeláldozó munkát, a viszont látása. Ha meg nem ez derül ki, akkor ugye mák, az egyszeri trutyi-lény önző szemszögéből legalábbis.

[ Szerkesztve ]

Az evolúció úgy működik, hogy ha van egy olyan verzió a genomban (nevezzük mondjuk adat mátrixnak) amely előnyös egy környezetben (nevezzük feltétel rendszernek), akkor az a genom szaporodik fel (nevezzük jó eredmény eltárolásának). Ez így megy sok cikluson keresztül, amíg 99,99%-ban adaptálódik a környezethez.

Aki azt mondja "nem tudom elhinni az igazságot" az naiv. Aki azt mondja "nem akarom tudni az igazságot" az ostoba. Aki azt mondja "az igazság tilos" az gonosz. Aki azt mondja "én határozom meg az igazságot" az beteg.

Játékelmélet. Matek.
Nem kell komolyan foglalkoznod vele. Elég ha a Wiki szócikket elolvasod, akkor már érteni fogod miről beszélek (remélhetőleg).

Aki azt mondja "nem tudom elhinni az igazságot" az naiv. Aki azt mondja "nem akarom tudni az igazságot" az ostoba. Aki azt mondja "az igazság tilos" az gonosz. Aki azt mondja "én határozom meg az igazságot" az beteg.

valójában az evolúció fordítva működik: ha van egy hátrányos mutáció, az kiszelektálódik.

Egy átlagos héten négy hétfő és egy péntek van (C) Diabolis

Az AI fejlesztés meg nem igazán így működik. Pl. a változtatások sokszor nem véletlenszerűek, hanem rakás tervezett van benne. Mint a betanítás módja, az architekturális változások. Meg persze a gradient descent sem random, sokkal gyorsabb mint véletlen mutáció. Illetve fejlődés közben nem kell túlélned és szaporodnod és elterjednek sok generáción át. Ha valami jobb, akár egy kicsit, akkor rácsap az OpenAI/Google/Anthropic/stb. az asztalra, hogy na gyerekek, ez bejött, holnapot ez az alap. Megint tudatos döntés.

[ Szerkesztve ]

Az fogalmat ismerem, de mi jön ki neked konkrétan itt játékelméletileg?

Valójában az evolúció statisztika. Azt, hogy mi hátrányos és mi előnyös a környezet dönti el.

[ Szerkesztve ]

Aki azt mondja "nem tudom elhinni az igazságot" az naiv. Aki azt mondja "nem akarom tudni az igazságot" az ostoba. Aki azt mondja "az igazság tilos" az gonosz. Aki azt mondja "én határozom meg az igazságot" az beteg.

Arra, hogy te csak és kizárólag versengő szituációkról beszélsz, pedig az alapvetően nem az hozza a legnagyobb hasznot a résztvevőknek egyenként sem. Egy megfelelően fejlett AI ezzel tisztában van. Ha nincs tisztában, akkor az egyértelműen primitív, nem valódi AI.

Aki azt mondja "nem tudom elhinni az igazságot" az naiv. Aki azt mondja "nem akarom tudni az igazságot" az ostoba. Aki azt mondja "az igazság tilos" az gonosz. Aki azt mondja "én határozom meg az igazságot" az beteg.

Azt, hogy valami irányított, attól gyorsabb, de a folyamat alapja nem változik.

Aki azt mondja "nem tudom elhinni az igazságot" az naiv. Aki azt mondja "nem akarom tudni az igazságot" az ostoba. Aki azt mondja "az igazság tilos" az gonosz. Aki azt mondja "én határozom meg az igazságot" az beteg.

Ja, de ez nem így van játék elméletben. Van akivel jobb együtt működni, mint versenyezni vele, de ez közel sem szükségszerű. Simán lehet olyan is, hogy az optimális megoldás egyenesen valaminek a kiiktatása.

Ha nagyságrendekkel gyorsabb, az már önmagában nyilván alapjaiban változtat a felálláson. De mint írtam sokszor, nem csak a sebesség tér el (pl. nagyobb völgyeken tud átkelni a kereső algoritmus).

Egyrészt a játékelméletben matematikával le lehet írni az egyes stratégiák alkalmazhatóságát. És az szerint általában célszerűbb együttműködni. Másrészt lehet olyan felállás, amiben célszerű lehet a partnert kiiktatni, de sokszereplős felállást még kvantumszámítógép sem tud érdemben lemodellezni.

Aki azt mondja "nem tudom elhinni az igazságot" az naiv. Aki azt mondja "nem akarom tudni az igazságot" az ostoba. Aki azt mondja "az igazság tilos" az gonosz. Aki azt mondja "én határozom meg az igazságot" az beteg.

Hiába a nagyobb sebesség, a biológiai rendszerek párhuzamosításra épülnek. Avagy szerinted a CPU és GPU alkalmazása kizárja egymást?

Aki azt mondja "nem tudom elhinni az igazságot" az naiv. Aki azt mondja "nem akarom tudni az igazságot" az ostoba. Aki azt mondja "az igazság tilos" az gonosz. Aki azt mondja "én határozom meg az igazságot" az beteg.