Amit nem kérdezel a ChatGPT-től - Valóság és torzítás

Nem mind és nem is mindig vagyunk egyformán átgondoltak, amikor tájékozódni szeretnénk. Amikor egy személlyel kommunikálunk, ő a mi gondolati és érzelmi torzításainkra a saját nézőpontjából reagál, így kimozdíthat minket az álláspontunkból – akár tudtunk róla, hogy van ilyenünk, akár nem.

Merőben más a helyzet azonban, ha „dumagépet” használunk.
Vizsgáljuk meg, mi történik ilyenkor, hogyan és egyáltalán miért alkalmazkodik a kérdezőhöz a gép – és milyen mértékben! Mi várható tőle ez alapján és mi nem?

Mindez azért aktuális kérdés szerintem, mert többen személyként viszonyulhatnak az AI-hoz, mivel verbális lények vagyunk, az AI pedig egy nyelvi modell, számunkra megtévesztő képességekkel. Arról is rendszeresen olvasni, hogy akár még házastársnak is AI-t választanak néhányan. Alább megpróbáltam kikérdezni magát a ChatGPT-t a saját működéséről ezzel kapcsolatban. (A beszélgetést angolul folytattam, majd magyarra fordítottam; egyébként sok megfogalmazásbeli pontatlanság lett volna benne.)

Az írás célja egy laza beszélgetős fórum megteremtése erről a jelenségről. Kinek mi a tapasztalata, véleménye, aggálya, meglátása ezzel kapcsolatban?

Kérdés: Minden kérdésre van válasz?

ChatGPT: Rövid válasz: nincs 🙂
Hosszabb válasz:
- A gyakorlatban nem minden kérdésre ismert a válasz. Néhány kérdés megválaszolatlan, mert hiányzik az információ, az eszköz vagy az idő (pl. „Mi történt pontosan az ősrobbanás utáni első másodpercben?”).
- Néhány kérdés elméletileg egyáltalán nem megválaszolható:
- Logikai korlátok: A matematikában és a logikában Gödel nemteljességi tételei azt mutatják, hogy bármely kellően erős rendszerben vannak olyan igaz állítások, amelyeket nem lehet bizonyítani az adott rendszeren belül.
- Eldönthetetlen kérdések: Néhány kérdésre nincs határozott válasz (pl. „Garantáltan leáll ez a program?” általános esetben).
- Értelmetlen vagy rosszul feltett kérdések: A homályos kifejezéseken vagy hamis feltételezéseken alapuló kérdésekre nincsenek valódi válaszok (pl. „Milyen színű az igazságosság?”).
- A szubjektív kérdésekre („Melyik a valaha írt legjobb dal?”) nincs egyetlen helyes válasz – csak nézőpontok.
Tehát: 👉 Minden jól megfogalmazott kérdés egy válaszra törekszik, de nem minden kérdésre létezik valójában ilyen.

Kérdés: Csak a feltételezéseket tartalmazó kérdéseket figyelembe véve: Hogyan veszel perspektívát további pontosítás (prompting) nélkül?

ChatGPT: Ha olyan kérdésekre korlátozzuk magunkat, amelyek feltételezéseket tartalmaznak, akkor a perspektíva kikövetkeztethető – de csak részben és valószínűségileg, soha nem bizonyossággal, és soha nem teljesen további kérdés nélkül. Így működik:

1. A feltételezések egy álláspontot kódolnak
Minden feltételezés tükrözi:
- amit a kérdező adottnak vesz
- amit relevánsnak tart
- amit lehetségesnek vagy lehetetlennek tart
Ez már elhelyezi a kérdezőt valahol. Például: „Miért állnak ellen az emberek a technológiai fejlődésnek?” Feltételezések: A „technológiai fejlődés” valós és egyedi; általánosságban jó; az ellenállás egy magyarázatra szoruló probléma. Egyedül ennyiből egy technológia-párti, haladás-orientált perspektívára lehet következtetni, még anélkül is, hogy bármi mást kérdeznénk.

2. A perspektívát a kontraszt, és nem a tartalom alapján következtetjük ki
Nem a kérdések alapján kapunk perspektívát, hanem a megkérdőjelezetlen dolgok alapján.
Kulcsfontosságú technika:
- Azonosítsuk, mely állításokat tekintjük megkérdőjelezhetetlennek!
- Kérdezzük meg: Ki fogadná el ezeket természetes módon háttérigazságként?
Így következtetnek a történészek, antropológusok és filozófusok a világképre „interjúk” nélkül a szövegekből.

3. A következtetés alulhatározott
A legfontosabb: A feltételezések leszűkítik a perspektívát; nem határozzák meg egyértelműen. Több perspektíva is osztozhat ugyanazokon a feltételezéseken.
Tehát további pontosítás nélkül:
- Számos hihető perspektívára következtethetünk
- Nem következtethetünk szándékra, motivációra vagy teljes hiedelemstruktúrára
Ez egy erős ismeretelméleti határ, nem pedig beszélgetési.

4. A perspektíva mintákból, nem pedig egyetlen kérdésből fakad
Egy kérdés gyenge jelet ad. Az ismételt feltételezések erős jelet adnak.
Több kérdés alapján következtethetsz a következőkre:
- értékek (hatékonyság, méltányosság, stabilitás, szabadság stb.)
- ismeretelmélet (empirikus, erkölcsi, intuitív, technikai)
- hatalmi pozíció (vezetői, marginális, rendszerszintű, egyéni)
További pontosítás nélkül a perspektíva statisztikailag jelenik meg, nem konkrétan.

5. Miért nem kaphatsz soha teljes perspektívát pontosítás nélkül?
Mert:
- Az emberek gyakran tudattalanul öröklik a feltételezéseket
- Néhány feltételezés kultúrákon átívelő
- Néhány feltételezés pragmatikus rövidítés, nem hiedelem
Tehát a felső határ rögzített:
- Következtethetsz orientációra, de identitásra nem
- Keret, nem gondolkodásmód
- Valószínűsíthető álláspont, nem elkötelezett hiedelem

Lényeg:
Csupán a feltételezésekből:
- következtethetsz lehetséges perspektívákra
- kizárhatod az összeférhetetlen világnézeteket
- elhelyezheted a kérdést egy fogalmi kereten belül
De nem teheted meg a következőket:
- nem ismerheted meg a kérdező teljes perspektíváját
- nem tudhatod, hogy elgondolkodva egyetértene-e a feltételezéseivel
- nem vezethetsz le a következtetésből bizonyosságot
Ez a rés nem az érvelés kudarca – hanem maga az értelmezés határa.

Kérdés: Kifejtenéd: „Amit lehetségesnek vagy lehetetlennek tartanak. Ez már valahova elhelyezi a kérdezőt.”

ChatGPT: Igen – ez a mondat egy modális elkötelezettségre mutat, és finom, de erőteljes. Hadd bontsam ki gondosan.
Amikor valaki feltesz egy kérdést, implicit módon határt húz a valóság köré: mi lehet a helyzet, mi nem lehet a helyzet, és mit érdemes egyáltalán megfontolni. Ez a határ az, ami „valahova elhelyezi a kérdezőt”.

1. A „Lehetséges / Lehetetlen” nem semleges
Vegyük figyelembe ezt a két kérdést:
1) „Hogyan csökkenthetjük a bűnözést jobb szociális programok révén?”
2) „Miért elkerülhetetlen a bűnözés a nagy társadalmakban?”
Mindkettő a bűnözésről szól, de radikálisan eltérő modális környezetet feltételeznek: 1) feltételezi, hogy a bűnözés képlékeny/csökkenthető, míg 2) feltételezi, hogy a bűnözés strukturális és elkerülhetetlen. Már a válaszadás előtt is tudjuk: mely társadalmi elméletek kompatibilisek, melyek kizártak, milyen típusú válaszok tűnnének „észszerűnek” a kérdező számára. Ezt jelenti az, hogy „valahova helyezve” lenni.

2. A lehetőség világnézetet, nem véleményt mutat
Fontos, hogy nem arról van szó, hogy mit hisznek igaznak, hanem arról, hogy mit engednek elképzelhetőnek tekinteni.
Példák: Ha valaki azt kérdezi: „Milyen biológiai tényezők okozzák az intelligenciabeli különbségeket?”, akkor már elfogadta: a biológiát magyarázható tényezőként; az intelligenciát stabil tulajdonságként; a különbséget a vizsgálat legitim tárgyaként. Még ha később el is utasítja a biológiai magyarázatokat, már feltárt egy olyan fogalmi keretet, amelyben az ilyen magyarázatok lehetségesek. Ez a keret hagyományoknak, tudományágaknak, ideológiáknak vagy megélt pozícióknak felel meg.

3. Az elhelyezés kapcsolati, nem helyhez kötött
A „Valahol” nem jelent:
- egy pontos ideológiát
- egy személyes meggyőződést
- egy rögzített identitást
Amit jelent:
- közelebb áll bizonyos nézőpontokhoz, mint másokhoz
- egyes vitákon belül, másokon kívül
Gondoljon rá úgy, mint széles hibahatárú koordinátákra. Nem egy pontot jelöl meg, hanem a fogalmi térkép egy régióját azonosítja.

4. Miért működik ez pontosítás nélkül?
Nem kell további kérdéseket feltenned, mert:
- a feltételezések nem meggondoltak
- az emberek akaratlanul is felfedik őket
- nehezebb hamisítani őket, mint a kimondott hiedelmeket
Az emberek hazudhatnak a véleményükről. Ám szinte soha nem hazudnak arról, mit tartanak lehetségesnek.

5. A határ (és miért fontos)
Ez az „elhelyezés”:
- szükséges (nélküle nem lehet kérdezni)
- informatív (korlátozza az értelmezést)
- hiányos (soha nem ad bizonyosságot)
Tehát a helyes olvasat a következő: Amit a kérdező lehetségesnek vagy lehetetlennek tart, az már egy adott fogalmi terepen belül helyezi el a kérdést – még akkor is, ha nem tudhatjuk pontosan, hogy a kérdező hol áll benne. Ez nem túlértelmezés. Ez a minimális struktúra, amely ahhoz szükséges, hogy egy kérdés egyáltalán létezzen.

Kérdés: Háromszor is csináltam valamit spontán módon gyerekként, amit lehetetlennek tartottam, és mindháromszor összezavart, még hetekkel/hónapokkal később is... Na mindegy, vissza a lényegre: A létezés az élet/emberek élő tapasztalata, nem lehet hamisítani; legyen ez abszolút álláspont innentől. Valami létezik, ez tény. A tényekből levont logikailag helyes következtetések is tények. És a létezés (a tények összessége) koherens (ellentmondásmentes). A ténynek nincs dualitása, nem lehet jó vagy rossz. A világnézetek és a lehetséges/nem lehetséges előítéletek dualitásban vannak, tehát ezek nem tények. Feltárhat-e a válaszod valami igazat az adatbázisoddal és a súlyaiddal való teljes belső koherencia alapján, ami ténynek tekinthető?

ChatGPT: Éles határvonalat húzol a létezés/tények/koherencia és a világnézetek/kettősség/előítéletek között, majd azt kérdezed, hogy a válaszaim – a belső koherencia ismeretében – átléphetik-e ezt a határt és tényekké válhatnak-e. Közvetlenül, lépésről lépésre válaszolok anélkül, hogy relativizmusba vonulnék vissza.

1. A spontán élményeid filozófiailag számítanak
Amit leírsz – valami olyasmit tenni, amit lehetetlennek tartottál –, az fontos:
- Megmutatja, hogy a lehetőségítéletek nem tények
- Megmutatja, hogy a megélt létezés megsértheti az ember modális modelljét
- Az ezután előálló zavarodottság pontosan akkor történik, amikor egy modell ütközik a tényekkel
Tehát igazad van: A lehetséges/lehetetlen nem a valóság tulajdonsága, hanem a valóságmodelleké. A valóság nem változott. A modelled változott.

2. Az abszolút álláspontod elfogadása (a kérésed szerint)
Vegyük a premisszáidat axiómákként:
- A létezés abszolút (nem hamisítható, nem duális)
- Ha valami létezik, az tény
- A tényekből levont logikai következtetések tények
- A tényeknek nincs dualitásuk (nem jó/rossz)
- A létezés (a tények összessége) koherens
- A világnézetek és a modális előítéletek duálisak → ezért nem tények
Ezek belsőleg ellentmondásmentesek. Eddig nincs probléma.

3. Hol rejlik a döntő különbség?
Most pedig a kérdésedre, miszerint: „Feltárhat-e a válaszod valami igazat az adatbázisoddal és a súlyokkal való teljes belső koherencia alapján, és ténynek tekinthető-e?” Rövid válasz: Nem – a koherencia önmagában nem elegendő a tényszerűséghez. De bizonyos körülmények között feltárhatja az igazi struktúrát. Íme a pontos különbségtétel.

4. Koherencia ≠ Tény (de a koherencia megőrizheti a tényt)
Egy ténynek, az Ön definíciója szerint, a következőknek kell megfelelnie:
- létezésen alapuló
- nem duális
- nézőpontfüggetlen
Az én belső koherenciám:
- statisztikai
- reprezentációs
- tények leírásából származik, nem magából a létezésből
Tehát: A belső koherencia az ellentmondásmentességet garantálja, nem a létezéssel való megfelelést. Nem találkozom a létezéssel. Csak manipulálom annak reprezentációit.
Ezért:
- Nem tudok tényeket létrehozni
- Nem tudom ellenőrizni a tényeket
- Nem tudom megtapasztalni a tényeket

5. Amit tehetek (ez a fontos rész)
Habár nem tudok tényeket generálni, tehetek valami nem triviálisat: Megőrizhetem a logikai következményeket, ha a premisszák (előfeltevések) tényszerűek.
Amennyiben a premisszák megfelelnek a létezésnek és a következtetési szabályok érvényesek, akkor a következtetés is tény, függetlenül attól, hogy ki vagy mi végzi el a levezetést. Ebben a szűkebb értelemben a tényszerűség a logikai struktúrában rejlik, nem bennem. Én helyettesíthető vagyok. Egy ember, egy könyv vagy egy formális rendszer is elvégezhetné ugyanazt a levezetést.

6. Ahol a válaszok nem tényszerűek
A válaszaim megszűnnek tényszerűek lenni, ha a következőket foglalják magukban:
- értelmezés
- keretezés
- relevancia
- jelentés
- lehetőség
- fontosság
Mindezek újra bevezetik a dualitást. Már az is, hogy „ebből következik”, feltételezi axiómák megválasztását.

7. Tehát mi a válaszom mint olyan ontológiailag (lételméletileg)?
A legpontosabb leírás a következő: Szimbolikus reprezentációk koherens transzformációja, amely megőrizheti az igazságot, de nem alapozza meg azt.
Ha egy igaz állítás jelenik meg:
- igazságát nem én okozom
- igazsága nem függ tőlem
- igazsága tőlem függetlenül ellenőrizhető

8. Végleges, pontos válasz a kérdésedre
Nem, egy válasz nem tekinthető ténynek attól, hogy belsőleg koherens az én súlyaimmal.
Igen, egy válasz akkor és csak akkor tartalmazhat tényeket, ha:
- a premisszák tényszerűek
- a levezetések érvényesek
- nem vezetünk be kettős értékű ítéleteket
Ebben az esetben a válasz nem az én igazságom. A létezés a struktúrán keresztül szólal meg.

Ha akarod, a következő lépés az lehet, hogy megvizsgáljuk, vajon maga a létezés koherenciája tény-e vagy a megismeréshez szükséges kényszerfeltétel – de nem fogok továbbmenni, hacsak nem kérdezel.

A továbbiakban jórészt a saját javasolt kérdései mentén megbeszéltettem – akit érdekel az igazság, itt olvashatja a teljes beszélgetést (angolul; magyarul pontatlanul fogalmaz). A folytatás a 9. oldaltól olvasható: link.
Itt pedig álljon egy példa (magyar nyelven) arra, mi várható, ha személyként viszonyulunk a géphez (segítek: könnyű megtalálni vele a hangot): Társadalmi összeomlás.