2. Fórumok
  3. Infotech
  4. Így oldaná meg a hallucináló chatbotok problémáját a Google, közbeszól az Intel
Keresés

Új hozzászólás Aktív témák

  • #29 ddekany veterán erer1000 #27
    Új Válasz #29
    Új hozzászólás
    Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra
    Privát üzenet küldése

    ddekany

    veterán

    válasz erer1000 #27 üzenetére

    Nagyon sok levegő nehezebb, mint egy F-35... ;]

  • #26 ddekany veterán cinemazealot #25
    Új Válasz #26
    Új hozzászólás
    Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra
    Privát üzenet küldése

    ddekany

    veterán

    válasz cinemazealot #25 üzenetére

    Ha pl. téged megkérdezlek (offline helyen...), hogy melyik évben született Albert Einstein, akkor mondasz hasra ütésre egy évszámot, vagy azt mondod, hogy nem tudod? Lehet én zseni vagyok, de én felismerném, hogy nem tudom, és azt mondanám, hogy valamikor az 1800-as évek vége felé, de pontosan nem tudom. A nap-föld dolog más, ott vallási mesék adják az elvárt választ, és tényleg nem tudja az illető, hogy nem jól tudja.

  • #24 ddekany veterán Lewzke #23
    Új Válasz #24
    Új hozzászólás
    Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra
    Privát üzenet küldése

    ddekany

    veterán

    válasz Lewzke #23 üzenetére

    Na de pont azt írtam, hogy lehetne az a legvalószínűbb válasz, hogy "Nem áll rendelkezésre elég információ". De ilyenre nincs példa, ha úgy tanítod, hogy egy meglévő szövegből kitakarod a maradékát.

  • #22 ddekany veterán cinemazealot #20
    Új Válasz #22
    Új hozzászólás
    Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra
    Privát üzenet küldése

    ddekany

    veterán

    válasz cinemazealot #20 üzenetére

    Ami hallucinálást illeti, eleve úgy van tréningezve a model, hogy lehetetlen feladatot oldjon meg minél nagyobb eséllyel, azaz eleve bullshitelni tanúl. Tehát pl. valahol a weben az áll, "Tegnap láttam egy hatalmas madarat.", és akkor ezt felfedik az utolsó szó nélkül, hogy folytassa. A pozitívan pontozott folyatás a "madarat." (pontosabban, azt akarod, hogy annak a folytatásnak minél nagyobb esélyt adjon a model a kimeneten), holott a helyes folytatás "[...] <meta>Ezt ennyi alapján nem lehet kikövetkeztetni!</meta>". Nem véletlen, hogy az egyik kutatási irány, hogy a bullshit generátort lehetne-e jobb betanításra használt anyag generálására használni. Mert meglepő módon, a GPT-4 bullshit generátor elég jó következtetési láncokat tud pl. generálni, és pl. ellenőrizni tudja a saját válaszát. Szóval ha még nem is tökéletes anyagot tud generálni, a webes szövegkupacnál bizonyosan sokkal jobbat. Erre példa az Orca. (De biztos ennél kreatívabbak zárt ajtó mögött... Pl. mi van, ha eleve nem sima szövegfolytatással edzel, hanem csak megoldható kiegészítésekre kéred, illetve ha a helyes válasz a "Nem megoldható", amikor a feladat nem megoldható.)

    Illetve persze a másik aspektus, hogy hagyni kellene gondolkodni a problémán, még mielőtt kapkodva elkezdene válaszolni. Erre van trükk, akit érdekel keressen rá a SmartGPT-re. Ezzel persze az a gond, hogy sokkal lassabban jön a végső válasz, mint alapból.

  • #17 ddekany veterán cinemazealot #16
    Új Válasz #17
    Új hozzászólás
    Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra
    Privát üzenet küldése

    ddekany

    veterán

    válasz cinemazealot #16 üzenetére

    Nem tudjuk hogyan működik a gondolkodás (mi több, nem tudjuk, hogy működhet-e emberihez hasonló eredményt adó gondolkodás máshogy, mint az emberé). De az én érzetem, első sorban saját magam alapján, hogy ez egy több rétegű dolog. Az alap a mintázatok megfigyelése (A-B-B-A utál általában B jön... akkor valószínűleg X-Y-Y-X után meg X). Ez tudatos szint alatt megy leginkább, mert ezek ilyen primitívek, építőelem. Utánra erre van felépítve egy magasabb szintű, érvelési láncra emlékeztető módszer, ami sokszor tudatos (viszont valószínűleg ez is a "minták utánzása" architektúrára épül - a formális érvelési szabályok eleve csak minták). Az emberi nyelvek szabályai állati kaotikusak (egy rakás történelmi hordalék), szóval ott az utóbbi tudatosabb "kiokoskodós" megközelítés egyszerűen nem hatékony módszer. Ellenben a programozás ahhoz képes egy nagyon egyszerű, egyértelmű szabályokkal operáló világban mozog, ezért ott a tudatos szinten megérteni és kikövetkeztetni hatékony módszer. Nekem úgy tűnik, hogy egy nagyobb LLM-nek, úgy ahogy (nem jól), mind a kettő megy. Azaz, a talált minták közé bekerültek azok is, amik a "hogyan gondolkodjunk" programot megvalósító minták. Csak mivel nem tudják az AI-s kutatók, hogy pontosabban miként történik ez, ezért csak próbálkoznak, hogy ilyen hiperparaméterekkel (hány réteg, stb.) jobb, ha ilyen módszerrel tréningezzük akkor jobb, stb.

  • #15 ddekany veterán cinemazealot #13
    Új Válasz #15
    Új hozzászólás
    Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra
    Privát üzenet küldése

    ddekany

    veterán

    válasz cinemazealot #13 üzenetére

    Próbálkoztál ilyenekkel (a program írós, módosíttatós, írjál-rá-tesztet dolgokkal), vagy honnan jön ez a meggyőződés? Én még mikor kijött a GPT-4 alapú mindenki számára elérhető Bing Chat (szóval még csak nem is valami kódolásra térnigezett AI), igen. Szóval mi az, hogy statisztikai alapon? Miféle statisztika ad ki ilyen eredményeket? Avagy, ha ez statisztikának hívjuk, akkor felmerül, hogy talán mi is statisztikai lapon működünk... Egyáltalán mi az értés? Az épülhet statisztikai alapon felfedezet összefüggésekre, és azok alkalmazására hasonló de eltérő szituációkban a megoldás megkeresésére? Vagy mi a kritérium?

  • #12 ddekany veterán paatrick #6
    Új Válasz #12
    Új hozzászólás
    Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra
    Privát üzenet küldése

    ddekany

    veterán

    válasz paatrick #6 üzenetére

    "Ez kb annyival tud többet hogy nagyobb az adatbázis, meg át tudja fogalmazni."

    Ja... és az a 6 éves vezető amerikai céges chat tudott pl. programot írni? Egy dolog hogy sokszor hibás, de egyáltalán, hogy elő tud valamivel jönni, sőt, tud hozzá unti test írni, átjavítani ha kritizálom. Ez egy másik szint, csak kiforratlan, kísérleti.

    "Cserébe hazudik"

    Az is egy képesség! ;] De igen, ez az egyik fő gond. Csak nehéz megjavítani valamit, amiről nem tudják hogyan működik... De aki először megoldja, az óriást fog kaszálni. Szóval gondolhatod, gőz erővel keresik a megoldást.

    Ahogy csak messziről láttam, amit most a Bard-al csináltak, hogy utólag kiszínezik ami büdös... ez még nem a megoldás. Ez egy workaround. És "AI Explained"-es csávó próbálta, és amit mutatott, az alapján nem is megbízható.

    "és a legutóbbi hírek szerint rohamosan butul."

    Az az ingyenes ChatGPT 3.5-re vonatkozott. Egyenlőre fejlődik a terület iszonyat sebességgel. Pl. a ChatGPT 4 jóval értelmesebb mint a ChatGPT 3.5. Csak mivel szénné kell moderálni (jail breaking, safety, politikai korrektség), ami valamiért rombolja a képességeit (ez szakmai körökben közismert dolog, nem valami legenda), így a 3.5 meg Bing Chat hülyül. Aztán ha kap egy napon valami főverzió váltást, akkor feljebb ugrik.

    Amúgy ez a moderálás dolog vicces, mert így csak a fejlesztő cégeknek van meg a nyers (foundational) model bármiből, te már csak valami leszedált/fevizezett változatot kaphatsz meg. Szóval mindíg náluk lesz a legintelligensebb model.

Új hozzászólás Aktív témák

Hirdetés