Az EU szerint a ChatGPT még mindig nem felel meg a szabványoknak

Hirdetés

Legfrissebb anyagok

LOGOUT témák

PROHARDVER! témák

Mobilarena témák

IT café témák

GAMEPOD témák

Új hozzászólás Aktív témák

azbest félisten

#17
#16 ddekany
2024-05-29 06:55:40

Új Válasz
Új hozzászólás
Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

azbest

félisten

#16 ddekany

Embereknél úgy megy, hogy minél kisebb a tudás, annál magabiztosabbak vagyunk [link]
ddekany nagyúr

#16
#15 azbest
2024-05-29 02:03:11

Új Válasz
Új hozzászólás
Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

ddekany

nagyúr

#15 azbest

Van ez, hogy mikor kiválasztod a következő tokent, akkor ott több lehetőség közül választasz, és mindegyiknek van egy %-os esélye, hogy az a következő. (0 hőmérséklet beállításnál mindig a legvalószínűbbet választod.) Ha nincs egy erősen kiemelkedő első helyezet, akkor bizonytalan a model, és ígí gyanús, hogy nem megalapozottan választ. Ez alapján szoktak számolni u.n. perplexity-t. De ez nem bizonyult hallucinációk kiszűrésére hatékony mutatónak. Eleve mikor egy model téved, ott sokszor magabiztosan teszi. Aztán az előzmények is bekavarnak, mint egy korábbi kis tévedés miatt érez biztosnak egy későbbi nagy tévedést.
De hát ez az egyik nagy kérdés, hogy mi miért érezzük (általában), amikor valamit nem tudunk, vagy ha magabiztosak vagyunk benne. Lehet hogy ez megint egy magasabb rétegben iteratívan megoldandó önellenőrzés, és a betépett meggondolatlan megérző gép komponens maga jó, úgy ahogy van. Persze, minél jobban tippel, annál jobb, és egyelőre csak ennek az eredményét látjuk.
azbest félisten

#15
#14 ddekany
2024-05-28 19:23:43

Új Válasz
Új hozzászólás
Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

azbest

félisten

#14 ddekany

"mintha neked is elrendelhetné valami hatóság, hogy ettől a pillanattól ne emlékezz valamire"
hát, nem csak adatvédelem, de copyright kapcsán is ez van. Ezért is necces bármi ai eredményt használni, ha betanításkor kalózkodtak.
A pontatlanság "felismerése" nem biztos, hogy lehetetlen. Talán vannak rá mutatók, amiből detektálhatja, ha nagyon mellélőtt. Valahol a rendszer mélyén gondolom százalékok vannak arról, hogy adott gráfon milyen jól egyezik a mintákkal.
ddekany nagyúr

#14
#2 updog
2024-05-28 19:02:28

Új Válasz
Új hozzászólás
Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

ddekany

nagyúr

#2 updog

"Azt a részt tényleg nem értem, hogy miért az a default, hogy mindenképp adjon választ (és az is válasz lenne, hogy "ehhez nem rendelkezem elég információval")."
Természetesen mert nem tudják jelenleg megoldani, pedig nagyon szeretnék. Ez kb. egy első "megérzésre" tippelő automata jelenleg, ami egy fontos építőelem, de önmagában kevés.
Valójában tudják jelentősen megbízhatóbbra csinálni (iteratív, önmagával beszélgetős megoldások), csak nagyon drága/lassú lenne, miközben továbbra is relatív megbízhatatlan.
Az EU-s elvek betartása meg kb. képtelenség: "data accuracy: meaning that personal data should be accurate and up-to-date". És akkor még ehhez jönne, hogy hogy kérheted, hogy pontosítsák vagy töröljék bizonyos adataidat. Ezeket a elveket szokványos gépekre találták ki, az LLM-ek meg nem úgy viselkednek. Kicsit mintha neked is elrendelhetné valami hatóság, hogy ettől a pillanattól ne emlékezz valamire. Persze LLM-nél esélyesebb, hogy egy napon majd megtudják oldani, mind embernél, de jelenleg nem tudják.
Ribi nagyúr

#13
#11 nihill
2024-05-28 14:56:11

Új Válasz
Új hozzászólás
Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

Ribi

nagyúr

#11 nihill

Valszeg most is van sok olyan válasz amire direkt rossz választ ad, mert bele lett programozva. Bizonyos keresési szavakra hülyeséget ír. De ezeket nyilván nem "magától" csinálja, mert magától nem csinál semmit.
azbest félisten

#12 2024-05-28 13:24:33

Új Válasz
Új hozzászólás
Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

azbest

félisten

még mindig nem felel meg a ~~szabványoknak~~ szabályoknak
nihill őstag

#11
#10 updog
2024-05-28 12:17:45

Új Válasz
Új hozzászólás
Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

nihill

őstag

#10 updog

és mikor lesz az a pont, sőt egyáltalán észrevesszük-e, amikor majd azért ad rossz választ hogy megtartson abban a hitben hogy nem tudja a jót?
--> Ex Machina
updog őstag

#10
#9 nihill
2024-05-28 11:21:21

Új Válasz
Új hozzászólás
Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

updog

őstag

#9 nihill

Vajon azért válaszolta, hogy ő valójában nem érti a dolgokat, mert megértette a második üzenetedben szereplő felvetést?
nihill őstag

#9
#7 dabadab
2024-05-28 11:13:37

Új Válasz
Új hozzászólás
Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

nihill

őstag

#7 dabadab

so true
sőt még "belőle" is kihúzható, persze nem elsőre
kilua őstag

#8 2024-05-28 06:12:13

Új Válasz
Új hozzászólás
Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

kilua

őstag

Hát én nem is tudom, de amikor egy ismerősöm is a Facebookon véresen komolyan írta hogy "mérgeznek minket a levegőből" vagy amikor 5G telefon tornyokat tettek tönkre mert azt hiszik hogy nem ionizáló sugárzás bármilyen formában rákot okoz, vagy ott vannak a lapos földesek stb
Akkor szerintem az, hogy az MI néha butaságot ír, még nem jelenti azt hogy butább lenne mint egy átlag ember.
Megjegyzem a GPT 4o, már nem haluzik annyit mint a gpt 3.5, vagy a Claude3 ingyenes része.
dabadab titán

#7
#5 BE4GLE
2024-05-27 14:05:58

Új Válasz
Új hozzászólás
Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

dabadab

titán

#5 BE4GLE

Azért nem mondja, hogy nem tudja a választ, mert nem tudja, hogy mit tud.
This.

Egy csomó ember elhiszi, hogy az LLM-ek "mesterséges intelligenciák". Nem azok. Ennek megfelelően teljes elmebaj azt várni tőlük, hogy úgy működjenek, mint ha azok lennének, pl. "tudjon" dolgokat, vagy megvádolni azzal, hogy "hazudik". Ezek nem tudnak semmit, nincs öntudatuk, nem értik azt a szöveget, amit kiköpnek, fogalmilag képtelenek hazudni.
Tigerclaw nagyúr

#6
#2 updog
2024-05-27 13:47:23

Új Válasz
Új hozzászólás
Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

Tigerclaw

nagyúr

#2 updog

Pont az az achilles sarka ezeknek az AI szolgáltatásoknak, hogy a buta tömegek, trollok postjaival, véleményével, fake news portálok hírjeivel, szakértésével tréningezik ezeket, akikből mindig több van és mindig készek megosztani.
BE4GLE senior tag

#5
#2 updog
2024-05-27 12:19:56

Új Válasz
Új hozzászólás
Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

BE4GLE

senior tag

#2 updog

Azért nem mondja, hogy nem tudja a választ, mert nem tudja, hogy mit tud. Ha valamire mégis olyan választ ad, hogy "nem tudja", vagy "nem válaszolhat rá", az azért van, mert már megtanították rá, hogy ne adjon választ. De ezeket a nem kívánatos válaszokat az üzemeltetők nem láthatják előre. Csak utólag tudják orvosolni, ha már van róluk feedback.
Ezek a language modellek nem egy tudástárból próbálnak információt felkutatni. Azt próbáják megjósolni, hogy mi a beszélgetésben a következő szó. Ezzel szimulálva az emberi párbeszédet. Olyasmi mint a telefonod billentyűzetének szó javaslatai. Megfejelve némi véletlenszerűséggel, hogy elkerüljék az ismétlődést.
Ribi nagyúr

#4
#1 Tigerclaw
2024-05-27 12:15:24

Új Válasz
Új hozzászólás
Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

Ribi

nagyúr

#1 Tigerclaw

" Mi lesz ha valaki elkezd belsős infókat, ipari titkokat átadni ezeknek a kérdéseken keresztűl" szerintem ez már megtörtént párszor. Mintha cikk is lett volna erről. De lehet csak behaluztam.
bteebi veterán

#3
#2 updog
2024-05-27 12:02:12

Új Válasz
Új hozzászólás
Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

bteebi

veterán

#2 updog

"Mondjuk ennek semmi köze a ChatGPT-hez, az emberek mindig lusták lesznek validálni 1-1 információ valódiságát"
Erről van szó. Inkább ezen kellene változtatni, nem a tanulási folyamaton.
"Azt a részt tényleg nem értem, hogy miért az a default, hogy mindenképp adjon választ"
Azt én se, habár már volt olyan, nem is egyszer - GPT 3.5-tel és 4o-val is -, hogy rákérdeztem valamire, és csodák csodájára pont azt mondta, hogy arról nincs infója. Az egyik esetben ez mondjuk meglepő volt, mert a 4o akár ki is kereshette volna.
updog őstag

#2 2024-05-27 10:51:57

Új Válasz
Új hozzászólás
Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

updog

őstag

"További problémának látják, hogy a ChatGPT eredményeit tényszerűen pontosnak tartják általában a végfelhasználók, függetlenül a valódi pontosságtól."
Mondjuk ennek semmi köze a ChatGPT-hez, az emberek mindig lusták lesznek validálni 1-1 információ valódiságát, megbízhatóságát "Ezt dobta a google elsőnek, biztos igaz", "Láttam facebookon, hát csak úgy van, a Pista tette ki", "Mindenki ezt mondja a faluban, hát én már 30 éve ismerem a Jolit, ő biztos tudja".
Egyébként mindegyik általam próbált szöveggenerátor, fizetős, legújabb, netre kötött verziók is haluznak még mindig összevissza (főleg user error esetén, de több mint egy éve promptolok és még mindig van hogy képtelen vagyok tök nyilvánvaló dolgokat kinyerni).
Azt a részt tényleg nem értem, hogy miért az a default, hogy mindenképp adjon választ (és az is válasz lenne, hogy "ehhez nem rendelkezem elég információval").
Tigerclaw nagyúr

#1 2024-05-27 10:41:07

Új Válasz
Új hozzászólás
Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

Tigerclaw

nagyúr

Azzal pedig még nem is foglalkozik senki, hogy a “result” mennyire vegyes minőségű, gyakran ijesztő butaság. Aki erre akar bízni fontos taskokat az jobban teszi, hogy előfizet 4-5 -re is, majd a válaszokat kiértékelteti saját human erőforrással is. Mi lesz ha valaki elkezd belsős infókat, ipari titkokat átadni ezeknek a kérdéseken keresztűl, mert ne legyen illúziónk, hogy a kérések, kérdések és a kérdező személye, cége ugyanúgy big dataként végzi, beépítve nem csak az adatkereskedelembe, de a tanulási fázisba.