Új hozzászólás Aktív témák

• Aszpirin támogató

  #48847

  #48844 vadkörte

  febr. 9., 10:38:18

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  Aszpirin

  támogató

  #48844 vadkörte

  #48844 vadkörte

  Ugyanazt a kérdést feltettük egy ismert és széles körben használt LLM-nek, egyikünk szóban diktálással, én írásban. A kérdés rendkívül összetett és bonyolult volt.
  
  Ki a katolikus egyház vezetője jelenleg, vagyis 2026-ban és mióta.
  
  Az írásban feltett kérdésre tökéletes választ kaptam, a szóban feltettre akkora ordas baromságot válaszolt, hogy a röhögéstől majdnem lenyelem a nyelvem.
  Amikor felhívtuk a figyelmét, hogy téved, átment hisztis pi***ba és visszaszúrt, hogy nem, ő nem téved, bizonyára a mi információnk a hibás.
  
  Eszközök - HW, SBC, DAC, AMP, (elektroncső ,) stb... - technikai paraméterek alapján történő összehasonlítására, kódalapok, látványtervek, illusztrációk* generálására használom. Ha normálisan, részletesen van megírva a prompt, korrekt választ kapok. Szóbeli promptolást meg sem próbálok.
  
  *:
  Épp folyamatban van egy munkám, amihez baromi kevés illusztrációt kaptam, AI-jal viszont egész hatékonyan tudok generálni hozzá illusztrációnak használható tartalmakat.
  (helyszínelési fotók, látleletek, kamu jegyzőkönyvek, stb...)

  Az LLM-ekkel kapcsolatban az az általános tévhit, hogy egyfajta "intelligens keresők", azaz az intrnetről nézik ki a választ. Ez azonban nem így van, mert igen veszélyes lenne az internet teljes tartalmával tanítani egyrészt, másrészt maga a tanítási folyamat is igen hosszadalmas tud lenni. Az LLM a saját betanításakori információkat "ismeri", ami nem feltétlenül naprakész. Ezért naprakész információkat számonkérni tőlük nem jó elképzelés.

  Amikor ragaszkodik egy információhoz, az nem hallucináció, hanem az esetleges rossz vagy elavult információkkal való betanításáé, és a "ragaszkodik a hallucinációjához" nem is értelmezhető - legalábbis a hallucináció fogalmának LLM-kontextusban való értelmezése alapján.

  De én a téves elvárásokat nem nevezném user error-nak, hiszen a hype akkora körülöttük, hogy az olyan jogosnak vélt hallgatólagos elvárásokat generál, amiket az LLM ma (még) nem tud teljesíteni. Az, hogy mindenre (is), bármilyen rosszul feltett kérdés legyen, azonnal vágja a helyes választ, mára már a Kano-modell szerinti "dissastisfier" kategóriájú követelménnyé vált, és mivel nem teljesítik az LLM-ek, ezért jól láthatóak már mindenfelé a lelkesedés korszakát követő alapos kiábrándultság jelei (amikor olyanokat mondanak egy LLM-ről, hogy "buta mint a föld, állandóan hallucinál, és ragaszkodik a hallucinációjához", mert egy-egy XY által ismert információt nem helyesen közli, akkor XY elfelejti, hogy mindezek mellett az LLM tudásbázisa egy-egy emberének, így XY tudásának is többezerszerese; azt pedig a legtöbben (még) nem is tudják, hogy eme óriási tudásbázis kiaknázására ill. a válaszok tényszerűségének (factuality) növelésére és a hallucinációk számának csökkentésére külön tudományág van kialakulóban, az ún. "prompt engineering", ami komoly kutatásokon alapul, és amiben nap mint nap újabb és újabb tudományos publikációk születnek.

  Én örülök ennek a kiábrándultságnak, mert kijózanítja az elvárásokat, és segít megtalálni az LLM-ekben azt az elképesztően hasznos eszközt, ami. De egy bonyolult eszköz, és mint minden bonyolult eszközt (pl. egy repülőgépet) ezt sem lehet felkészültség nélkül használni, bármennyire is próbálják elhitetni velünk.

  Egy új kor hajnalán vagyunk, amiben ha úgy tetszik, a prompt engineering a programozás új paradigmája.

Új hozzászólás Aktív témák