Én vagy négy hónapja előfizettem a ChatGPT-re. Eddig nagyon sok időt spórolt, mindenben segített - kivéve, amikben nem tudott vagy hülyeségeket szedett össze. Az jó stratégia részemről, hogy inkább azt fizetem a nagyobb tudásáért, minthogy itthon fejlesszek a miért is? : -)

A legtöbb mai trendi használt AI feature külső Interneten keresztül elérhető szolgáltatás, teljesen független a PC-ben lévő processzortól.

Az a baj a világgal, hogy a hülyék mindenben holtbiztosak, az okosak meg tele vannak kételyekkel.

Szerintem mobilokba, IOT, smart eszközökbe lenne értelme lokális chip+butább adatbázis mellet.
De PC esetén inkább vennék egy néhány (tíz) ezer Ft-os PCI eszközt, mint egy új gépet.
(AI alapú vírusírtó, vagy a munkát segítő lokálisan futó AI programok esetében ennek lenne értelme)
Ha ezért le kell cserélni a vasat, akkor tényleg lehet jobb felhőbe menni.

Kitekintés: Idővel jöhetnek az AI alapú játékok is, ahol az NPC-k valós időben generált szöveget dobnak, jobban reagálnak a karakterre, időjárásra, történésekre, így szerintem az ray tracing után ez lesz a következő "nagy" újítás még a GPU piacon is.

Tigerclaw: Persze, mert az új hardverek a jövő igényeit kell kiszolgálják.
Ha nincs hardver, lokális szoftver sem lesz. Már pedig AI futtatása eltér a hagyományos programozási megoldásoktól.

[ Szerkesztve ]

A cikkben szerepel a valasz. Akkor jo, ha grafikus vagy es Adobe szoftvert hasznalsz. Ezen kivul volt egy cikk, hogy majd be lehet olvastatni a windowsba epitett AI cuccal a doksikat es abbol tud majd kivonatot kesziteni.

Tudtommal jelenleg ennyire lehet jo az offline AI, semmi tobbre.

Az aktuális legjobb ChatGPT szintjét megközelítő megoldás nem is fog helyben futni belátható időn belül [*]. Szóval még a dilemma se létezik, hogy havonta előfizess, vagy inkább vegyél "AI PC"-t. Tehát most keresik a problémát a hardverhez, hogy mit lehetne kicsi, tehát nagyon specializált "AI-val" feljavítani, ami érinti a tömegeket.

*: Nem fog helyben futni olyan belátható időn belül, mert:

- Bár adott tudású LLM (legalább is a kb GPT 3.5 szintű) hardver igénye vagy tizedére csökkent csak 1 év alatt, a betanítás meg szoftvert oldal fejlődése miatt. De bőven van igény megbízhatóbb/okosabb LLM-ekre, amik viszont várhatóan legalább ennyivel több hasznos számítást is igényelnek. (Aztán persze lehetnek nagyon meglepő áttörések, ahol kiderül, hogy valójában egy pirítóssütő is lenyom minket... )

- Ha kliens oldalra kiadnak egy ilyen csúcs minőségű AI modelt, azonnal le lesznek kalózkodva, szóval én arra számítánák, hogy ezeket hét lakat alatt szerver oldalon tartják. Persze ki tudja, hogy a nyílt modellek mennyire tudnak a kereskedelmiek közelében maradni tudásban.

[ Szerkesztve ]

Főleg hogy a chat gpt és hasonló szolgáltatások álleejtő végeredménye legális és nagyrészt illegális big data adatgyűjtésen, tároláson és elemzésen alapul, amiből otthon csak az utóbbi lenne elérhető extrémen fapados megvalósításban. Írhatok sakkprogramot, de a milliónyi játszma adatbázisa nélkül elég halovány lesz, hacsak nem vagyok programozó matematikus zseni.

Az a baj a világgal, hogy a hülyék mindenben holtbiztosak, az okosak meg tele vannak kételyekkel.

Eddig nagyon sok időt spórolt, mindenben segített

mire hasznalod?

OK

A ChatGPT és hasonlók mögött van egy párszáz GB-s fájl (a model paraméterek), ami az összetömörített tudást tartalmazza, ember számára értelmezhetetlen formában. És ennyi, ami az adatokat illeti (mert persze még van még egyéb forráskód, de az pici). Ha azt megkapod otthonra, ugyan olyan okos/buta lesz mint az online szolgáltatás. Más kérdés, hogy egyrészt nem fogják kiadni a kezükből azt a fájlt, meg hogy ha nincs pászáz GB RAM-od, meg jó erős GPU/NPU-d ami azt gyorsan eléri, akkor használhatatlanul lassú lenne.

[ Szerkesztve ]

Arról van szó. De paraméterszám csökkent le kb. azonos tudáshoz. (Persze a tudás összevetése trükkös, de sac/kb.)

Ha grafikus vagy és Adobe-t használsz, akkor jó eséllyel van egy jobb videokártyád is, ami oda-vissza veri teljesítményben a CPU-ba kerülő pirinyó chiplet teljesítményét.

"Seems like humanity needs war and famine to correct itself."

A PC-gyártók abban bíznak, hogy az AI miatt új gépeket veszünk

Aham... Ha a windows 12 (13?) haedverkövetelményei közé beírja az MS az AI chipet, mint a 11-nél a TPM 2.0-t.

Rosszat sejtek...

Ne adj nekik ötleteket!

"Seems like humanity needs war and famine to correct itself."

Jajj, csak azt ne, akkor majd be kell pipalni megegy rubrikat.

Ezt a felhasználók hány százaléka ismeri/használja?

A bortól bolondokat gondol az ember, DE A PÁLINKÁTÓL MEG IS CSINÁLJA!!!

újabb érv a régi üzleti laptopok mellett

A tipikus munkafolyamat legjobb tesztszimulációja a tipikus munkafolyamat. A "napi anti-corporate hsz"-ok felelőse :)

Azoknak jo resze, akik maguknak telepitenek windowst. A tobbiekre majd siman rasozzak az uj uberhightech AI procit, ez igaz.

Pontosan!

A bortól bolondokat gondol az ember, DE A PÁLINKÁTÓL MEG IS CSINÁLJA!!!

Nem valószínű, hogy a Windows 12 meg fogja követelni az AI gyorsítót, mert a még nem is kapható új Ryzen-ekbe sem tesznek NPU-t 8500G és alatta. Persze nem kizárható, hogy extrém pofátlan az AMD is tervezett elavulás terén... De kicsit erős lenne, hogy idén veszel zsír új gépet, és a talán idén megjelenő Win12-nek túl régi.

[ Szerkesztve ]

A munkámhoz egyszer használtam eddig az AI-t, de akkor azt a generált 3 mondatot - egy több oldalas doksiból - egy sereg ember előtt felolvasták, hogy mégis ki volt az a balfasz, aki ezt írta?!

Hifiman fejhallgatóhoz keresek ballanced kábelt

Részemről ne reménykedjenek.

2024: nem lesz kegyelem a ZTE-, és HMD-féle hulladékgyáraknak.

Ne reménykedjenek! Elég volt a vadkapitalizmusból!

Thanos was right.

Érdekes egy PC-s fórumon olvasni, ahogy az emberek összeesküvés-elméletekkel megspékelt felkiáltásokkal ellenkeznek a fejlődés ellen.

Alcohol & calculus don't mix. Never drink & derive.

Avagy, először valami irigylésre méltót kell látnunk azoknál, akik ettől függetlenül új gépet vettek, ami így véletlenül "AI PC" lett. Ha úgy nem bizonyít, akkor nem tudom miben reménykednek...

A lehúzás nem fejlődés. Ha már nem a várt* szinten növekszik egy cég évről évre akkkor már pánikolnak a befektetők. Ezért kell évről évre a tyúklépésnyi "fejlődést" is eladni.

*várt=óriási profit

[ Szerkesztve ]

Thanos was right.

Talán azért, mert minél közelebb van valaki a tűzhöz, annál inkább tudatosul benne hogy az nem csak kellemesen melegíteni tud, hanem pusztítani is.

"Seems like humanity needs war and famine to correct itself."

Aha,apjuk f.....át,tavaly vettem ezt a gépet: [kép] [kép] +fullos macbook-ot.
Nem fogom kidobni őket.
Elmehetnek a p....ba,AI-val,nagyon rossz irányba megy a világ,addig ismétli magát a történelem,míg kipusztítjuk magunkat,mondjuk nem bánnám-sajnálom a bolygót-hogy mit kell kiállnia.

Nagy János

Ja... A TPM 2 is mekkora fejlődést hozott...

Amúgy meg az MS éppen most tolja be a windowsba a Copilot-ot.
Eddig alapértelmezetten KI volt kapcsolva.
Most alapértelmezetten BE lesz kapcsolva, éa a windows-al együtt indul. Akinek nem kell, MÉG kikapcsolhatja.
Vajon mi lesz a következő lépés? És az azt követő?

És valóban... ez egyenlőre egy összeesküvés-elmélet... ami egy sok-sok milliárd dolláros üzletről szól.

Egy haverom felrakta magának az NVIDIA Broadcastot, hogy ha már van 4090 a gépében, akkor ne legyen zajos az állásinterjún a zoom. Tök jól működött, csak éppen felsírt a grafkártya hűtője és a gép fogyasztása megugrott vagy 200W-al, így később már max. akkor kapcsolta be, ha call közben fúrtak a szomszédban vagy valaki járatta a motort az ablaka alatt.
Tehát egyrészt van AI-ra lakossági igény, másrészt egy GPU a napi rutinban nem versenyképes a dedikált hardverrel szemben.

"Tehát egyrészt van AI-ra lakossági igény, másrészt egy GPU a napi rutinban nem versenyképes a dedikált hardverrel szemben."

Most lehet hogy én vagyok tájékozatlan, de amennyire tudom, a modern NVidia kártyák minősülnek A dedikált hardvernek AI téren.

"Seems like humanity needs war and famine to correct itself."

Az igen!
Komolyan mondom,besírok ezeken az AI baromságokon.

Nagy János

Nem hiszem, hogy kötelező lesz az NPU Win12 alá; lásd korábban. Ha meg azt látod, hogy sokkal hatékonyabban lehet dolgozni (vagy amit csinálnál) az "AI PC"-n, akkor meg ugye értelmes okból kell lecserélni a PC-det. De az szerintem még odébb van. Eleve valószínűleg pár év múlva vicc kategória lesz a mostani NPU teljesítménye, mert ez egy új kategória, ami még gyorsan fog fejlődni.

Bolygó sajnálást meg kipusztulás kívánást meg ne már... mintha bármi garancia lenne rá, hogy egyáltalán még egyszer kialakul intelligens faj, és annak nem ugyan ezeken a csapdákon kell átvergődnie.

Hát,TOPSOLID+CNC progik közelébe ne jöjjön Ai.
Deckel Maho+DMG MORI öttengelyes CNC megmunkáló gépekkel dolgozok.
Kis hiba,aztán több száz millás kár keletkezik.
Szépen dolgozzon az ember(agya),azért van,ne ilyen AI-k!

Nagy János

hát, egyelőre úgy vagyok ezzel, hogy mutassák meg, miért jó ez nekem, aztán majd eldöntöm, hogy kell-e...
egyelőre marhára nem látom, hogy miben tud az itthoni dolgaimban segíteni.

meló az más. ha és amennyiben komolyan lerövidíti azt az időt, amit egy doksi/prezentáció összerakásával kell töltenem, akkor jöhet és jönni is fog. mert látom az értelmét.

"Jelenleg a cloud nem más mint a sales által elhazudott és eladott utópia, egy ígéret, csalánba csomagolt mézesmadzag, amit az üzemeltetés f@$zával vernek" | Feel the power! Intel Core i7 | iPhone 14Pro 256GB | iPad Pro 2017 64GB

Pont ez is írtam, hogy majd úgy is meglátjuk... Mert előbb-utóbb ilyen notebookot kap/vesz sok ember, mert csak ilyen lesz pl. üzleti szériában.

Copilot-nak minap feltöltöttem neki a macskám fotóját, és mondtam neki (angolul), hogy alakítsa olyanra, mintha száz éves fénykép lenne. Copilot adott három régi macska fényképet, csak egyiknek se volt semmi köze a macskámnak. Mondom neki, hogy oké, de az én macskám fényképét alakítsa ilyen régi kinézetüvé. Copilot elnézést kért, és mondta hogy ezúttal az én macskám fényképét dolgozza át, de egyszerűen csak visszaadott három másik véletlenszerű régi macska fényképet, egyik se hasnolított az enyémre. Mondom neki, hogy ez nem az én macskám egyik képen se. Erre Copilot elnézést kért, és mondta hogy azt hitte hogy az én macskám képét kell átszerkesztenie, de most már érti hogy nem, és visszaadta az előző három random macska fényképet... Ekkor felhagytam vele és egyszerűen rádobtam egy szűrőt egy fénykép appban és egyből lett AI nélkül régi fénykép a macskámról. A másik durva az volt, mikor több hónappal ezelőtt (azóta már javították), megkérdeztem ChatGPT-t, hogy mondja meg, hogy melyik két főváros van egymáshoz a leközelebb, azt mondta Teherán és Minszk. Mondom neki, hogy szerintem téved, mert nem inkább Bratislava (Pozsony) és Wien (Bécs). Erre ő, ja igen, bocsi, akkor Bratislava és Wien. Mondom neki, hogy biztos hogy ez jó, mert úgy tűnik hogy Brazzaville és Kinshasa sokkal közelebb vannak egymáshoz. Ja, mondja erre ő, igen, Brazzaville és Kinshasa vannak a legközelebb, elnézést kér. Mondom neki, és mi a helyzet Canberrával és Tokióval? Erre ő, nem nem, a világ két egymáshoz ledközelebbi fővárosa Teherán és Minszk... Na jó, akkor erről ennyit... Majd nyáron megint rájuk nézek. Programozó kolléga is mondja, hogy 20-ból 19x nagyon jól, hiba mentesen, már-már bravúrosan programozik, de a maradék 1x nagyon mellényúl és tök mást csinál mint amire kérte vagy hibás...

Én kinézek bármit Microsoftból is, meg AMD-ből is :-) El is halasztottuk feleség új gamer PC-jének építését őszig, addig kihúzza a mostanival :-)

Az NVIDIA piacvezető AI hardverben ha trainingről van szó, dedukcióra viszont vannak sokkal hatékonyabb dedikált megoldások a grafkártyáknál.

Az igen,én nem próbáltam ki.
Akkor ismételgető-megvezethető,olcsójános.
Ez még gyerekcipőben jár,majd térjünk vissza rá tíz év múlva,ha még lesz akkor itt valami.

Nagy János

Már csak definiálni kéne a fejlődés fogalmát.

Hifiman fejhallgatóhoz keresek ballanced kábelt

Nekem írt egy esszét József Attila 1848-as szabadságharcban betöltött szerepéről.

Hifiman fejhallgatóhoz keresek ballanced kábelt

Nekem valamelyik nap mikor megkérdeztem mennyi a hazai átlag testsúly nemenként bedobott egy linket az átlagbérről.

Origin/Steam/UPlay: yozsee

Debian.

Lá lá lá lá lááá lááá.. Lá lá lá lá lááá lááá .. Lá lá lá lá lááá lá lááá lá lá lá lááááá láááá

Ezek szerint az "AI a felhőben" lakik koncepció kukázva lett, mert túl drága. Inkább a felhasználók fizessenek sokat az áramért. Vagy fizessenek többet az áramért, de azért havonta nekik is...

A számítástechnika új negatív trendjei: ujtechkor.blog.hu

"A PC-gyártól és a chipcégek nehezen tudják rávenni a fogyasztókat, hogy váltsák le a legutóbb vásárolt laptopjaikat"

Dehát ez jó, nem? Hát nem akarják megmenteni a techcégek a Földet? Minek a felesleges fogyasztás?

[ Szerkesztve ]

A számítástechnika új negatív trendjei: ujtechkor.blog.hu

Nekik pénz kell, hogy vegyenek 1000 lóerős villanyautót, meg napelemes medencét, amivel majd személyesen megmentik a Földet.

Hifiman fejhallgatóhoz keresek ballanced kábelt

Nap mint nap használom a broadcastot, mert jól jön home office-ban telefonalaskor és konfoknál. 3070-es videokártyám van. Konkrétan nem hogy nem hangos, hanem 5 fokkal nem lesz melegebb, alapjáraton forgó ventillátorokkal. Ott valami más probléma lesz.

DDD, !

Nagy János

Szóval hogy mikre lehet használni:

- gyors ötletadónak, például rengeteg keresést megspórolnak az azonnali válaszai akármiről is; ételeösszetevőkről, csavarok fajtáiról, képátviteli protokollokról, kutyaszájkosarak fajtáiról stb., amiknek aztán részletesebben utána lehet nézni. Tud pontatlan lenni, de egyre jobb - megkérdeztem, melyik két főváros van a legközelebb, és nekem Rómát és Vatikánvárost mondta : -), de a következő legközelebbit már nagyon elhibázta,

- újabban már kerestetni is lehet vele (a Bingen, sajnos), hogy például egy adott problémáról beszélnek-e a fórumokban és összegezze a véleményeket (megír magának egy Python scriptet a saját API-jára, aztán ha nincs elég megfelelő válasz, korrigálja és újrafuttatja az egészet), ill. magától is elkezd keresni, ha nem tudja valamire a választ,

- feltöltök neki kép formában egy hibaüzenetet, ha karakterenként nem lehet kimásolni, felismeri a képen a szöveget, "értelmezi", aztán megkeresi a hálón, milyen találatok vannak rá,

- szöveget is jól fordít, a DeepL Write és Translate mellett ezt is használom,

- a DALL-E 3 zseniális, elképesztően jó képeket készíttettem vele nagyrészt szórakozásból.

Mindezt remek magyarsággal. Majd gondolkodom még rajta, sok kérdés (munkamenet) el van mentve.

[ Szerkesztve ]