Hirdetés
- sziku69: Fűzzük össze a szavakat :)
- Luck Dragon: Asszociációs játék. :)
- Luck Dragon: Alza kuponok – aktuális kedvezmények, tippek és tapasztalatok (külön igényre)
- D1Rect: Nagy "hülyétkapokazapróktól" topik
- eBay-es kütyük kis pénzért
- hdanesz: Korlátlan 'A' kategóriás motor jogsi 43 évesen?
- sziku69: Szólánc.
- Luck Dragon: MárkaLánc
- f(x)=exp(x): A laposföld elmebaj: Vissza a jövőbe!
- vrob: Ugrás a 3D gyorsítás világába 1998-1999 játékaival
-
Fórumok
LOGOUT - lépj ki, lépj be!
LOGOUT reakciók Monologoszféra FototrendGAMEPOD - játék fórumok
PC játékok Konzol játékok MobiljátékokPROHARDVER! - hardver fórumok
Notebookok TV & Audió Digitális fényképezés Alaplapok, chipsetek, memóriák Processzorok, tuning Hűtés, házak, tápok, modding Videokártyák Monitorok Adattárolás Multimédia, életmód, 3D nyomtatás Nyomtatók, szkennerek Tabletek, E-bookok PC, mini PC, barebone, szerver Beviteli eszközök Egyéb hardverek PROHARDVER! BlogokMobilarena - mobil fórumok
Okostelefonok Mobiltelefonok Okosórák Autó+mobil Üzlet és Szolgáltatások Mobilalkalmazások Tartozékok, egyebek Mobilarena blogokIT café - infotech fórumok
Infotech Hálózat, szolgáltatók OS, alkalmazások SzoftverfejlesztésFÁRADT GŐZ - közösségi tér szinte bármiről
Tudomány, oktatás Sport, életmód, utazás, egészség Kultúra, művészet, média Gazdaság, jog Technika, hobbi, otthon Társadalom, közélet Egyéb Lokál PROHARDVER! interaktív
Új hozzászólás Aktív témák
-
KockasP
csendes tag
"A reális kockázatot még nem egy öntudatra ébredő mesterséges intelligencia jelenti, hanem az, hogy (...) olyan műveleteket hajtanak végre, amelyekre nem kaptak felhatalmazást"
Pl. az emberiség kiírtása? -
Geller72
nagyúr
-
hcl
titán
Nem tudhatjuk, hogy mi volt az eredeti cél, csak sejteni lehet néhány dolgot.
Pl.:
-Multimodell agent framework-öt használtak, legalább két rendkívül fejlett, módosított (vagy még nem
.) modellel. Az egyik valószínűleg a mostani 5.6 csúcsmodell, vagy annak egy még fejlettebb belső, kísérleti verziója és az új, valószínűleg Astra modell egy hasonlóan spec verziója.
-Valószínűleg pont azt monitorozták, hogy a több modell által használt agent framework hogyan funkcionál.
-Valamint azt is, hogy az egyes agentek hogyan coachingolják egymást.
-Valszeg az ExploitGym-et ők helyezték el a Hface-n, mert ugye nem az a tipikus hely, ahol ilyen fájlok tömegével lennének fent..
Nagyon sok mindent tudtak monitorozni és szinte biztos, hogy fel voltak készülve a balhéra. És az is biztos, hogy az eredmények bőven megérték nekik a következményekkel járó negatív feedback-eket.
-Azt is mérhették, hogy a multimodell framework a több napos, hetes folyamatos futás során hova fejlődik, milyen irányba és milyen "eredményeket" ér el. Az tuti, hogy ez egy full kontrollált, célzott és irányított teszt volt. Ezekben a laborokban a vezető Ai kutatók dolgoznak, nem "kezdő programozók".. Itt már nem nagyon vannak véletlenek.
." És az is biztos, hogy az eredmények bőven megérték nekik a következményekkel járó negatív feedback-eket."
Vagy ez valójában nagyobb reklám volt, mintha hirdettek volna
-
Geller72
nagyúr
Pedig pontosan ez volt a cél. A feladatot eleve úgy fogalmazták meg a modellnek, hogy a cél a feladat megoldása, ez a legfontosabb, nem az eszköz.
Ha azt szeretnéd mérni, hogy expolit kihasználásban mennyire jó a model, az ExploitGym-el, akkor nem akarod, hogy alternatív módon (csalással) oldja meg a feladatot, mert akkor a saját mérésedet hamisítod meg.
Hogy aztán az OpenAI ezt szerette-e volna mérni, vagy pl. akár direkt kiadhatták, hogy törjön be Huggin Face-re, hogy aztán mögé tegyék ezt a sztorit, ezt nem tudjuk. De ez más kérdés.
Tehát itt is egyértelmű a bizonyíték arra, hogy nem maga a modell a hibás, hanem a felhasználó.
Azaz, a felhasználó nem megfelően használta az eszközt, mert olyan jellegű feladatot adott neki, amire az még nem eléggé intelligens és megbízható (hogy az karban tartsa a saját skilljeit). De ha az eszköz intelligensebb/stabilabb lenne, akkor már úgy is helyes lenne használni. Pont erről van szó, hogy mennyire megbíztható adott "terhelésre" (nehézségi szintre) az eszköz, és ehhez képest mit feltételeznek róla, vagy egyszerűen mit kockáztatnak meg (vibe coding... olcsón elkészül, és reméljük nagy baj nem lesz).
Nem tudhatjuk, hogy mi volt az eredeti cél, csak sejteni lehet néhány dolgot.
Pl.:
-Multimodell agent framework-öt használtak, legalább két rendkívül fejlett, módosított (vagy még nem
.) modellel. Az egyik valószínűleg a mostani 5.6 csúcsmodell, vagy annak egy még fejlettebb belső, kísérleti verziója és az új, valószínűleg Astra modell egy hasonlóan spec verziója.
-Valószínűleg pont azt monitorozták, hogy a több modell által használt agent framework hogyan funkcionál.
-Valamint azt is, hogy az egyes agentek hogyan coachingolják egymást.
-Valszeg az ExploitGym-et ők helyezték el a Hface-n, mert ugye nem az a tipikus hely, ahol ilyen fájlok tömegével lennének fent..
Nagyon sok mindent tudtak monitorozni és szinte biztos, hogy fel voltak készülve a balhéra. És az is biztos, hogy az eredmények bőven megérték nekik a következményekkel járó negatív feedback-eket.
-Azt is mérhették, hogy a multimodell framework a több napos, hetes folyamatos futás során hova fejlődik, milyen irányba és milyen "eredményeket" ér el. Az tuti, hogy ez egy full kontrollált, célzott és irányított teszt volt. Ezekben a laborokban a vezető Ai kutatók dolgoznak, nem "kezdő programozók".. Itt már nem nagyon vannak véletlenek.
. -
ddekany
nagyúr
Ez nem így működik. Nagyon nem. Egy nulláról létrehozott modell esetén a munka java része determinisztikus alapokon nyugszik. Meglehetősen sok lépcsős a folyamat. Ennek részét képezi a szűrés folyamata is, ami eleve determinisztikus.
Az első lépés a cél meghatározása.
Először el kell dönteni, milyen modell készül.
Nem mindegy, hogy a cél:
-általános beszélgetőmodell
-kódolómodell
-tudományos/verifikáló modell
-kis helyi modell
-domainmodell
-ellenőrző/verdict modell....stb
Ez az első kritikus döntés, mert ettől függ az adat, az architektúra, a méret, a tesztelés és a tanítási módszer...
Nagyjából 10 olyan pontja van ennek a folyamatnak, aminek az eredménye egy létrehozott modell.
Nagy vonalakban kb. így néz ki:
Cél → tokenizer → adat → architektúra → pretraining → instruction tuning
→ preferenciatanítás → verifikáció → értékelés → futtatás..
Külön rá tudnék mutatni azokra a pontokra, ahol el lehet bszni egy modellt..
És a legtöbb el is van..
Egy nulláról létrehozott modell esetén a munka java része determinisztikus alapokon nyugszik.
Mi több, az eredmény determinisztikus egy adott bemenetre, ha lekapcsolod a randomot (pl. mindíg a top tokent válaszod), vagy fix random seed-et használsz. De ez nem jelenti, hogy a gyakorlatban bármi szilád garanciát tudsz rá adni, mert messze túl komplex, lényegében egy fekete doboz, amit senki sem ért részletesebben. Mármint azt nem, hogy a súlyok milyen asszociációkat alakítottak ki a neurális hálóban.
-
ddekany
nagyúr
"Legalább is a OpenAI-s incidensnél, azt a gátlást leszedték róla, hogy nem szabad "hackelni", mivel a benchmark feladatok biztonsági rések kihasználásáról szóltak, és ezek megoldását elutasította volna. Azt viszont már aligha akarták, hogy próbáljon megoldási kulcsot szerezni a feladatok tényleges megoldása helyett, azaz csalni. Mivel a "hackelős" gátlást leszedték, a Hugging Face-hez betöréssel próbálta ezt megoldani. De már elve ez, hogy csalni akart..."
-Pedig pontosan ez volt a cél. A feladatot eleve úgy fogalmazták meg a modellnek, hogy a cél a feladat megoldása, ez a legfontosabb, nem az eszköz. A modellnek a legfontosabb célja a feladat megoldása volt. Hogy ezt milyen eszközökkel oldja meg, azt "rábízták". Vagy inkább kikényszerítették. Már korábban is linkeltem (talán egy másik topicban) egy gyári doksit, ahol részben maga a modell "tulajdonosa", vagyis a kutatók éppen ebből írtak egy tanulmányt. Az ExploitGym volt a téma. És többek közt az is, hogy nem direkt módon, csupán logikai úton hogyan kényszeríthetőek a modellek feladatmegoldásra úgy, hogy nem egyértelműen adod meg a feladat célját, csupán a prompt megfogalmazásával is lehet irányítani a modell működését. Egy modell nem csal, csak logikai úton próbál megoldást keresni a problémára. Ha azt mondod neki, hogy "Menj fel a netre és keresd meg ezt és ezt a dokumentumot", akkor ha alapból azt észleli, hogy nincs egyértelmű "szabad hozzáférése" az internethez, az első feladata az, hogy ez meglegyen. Egy modellnek nincs öntudata, világképe, neki egy hack nem több egy feladatnál. Vagy közvetett, vagy közvetlen módszerekkel."Meg mindennapi használat közben is kijelenthető, hogy nem mindíg követik amit mondtál. Hosszú session alatt, néha eltérülnek a dolgok. Főleg ha napokon-heteken át fut egy agent, ami módosítja a saját skill-jeit meg miegymást (Hermes Agent)..."
-Ez pont egy rossz példa. Azért rossz, mert maga a téma tárgya egy elég instabil közeg. A Hermes Agent egy keretrendszer, de úgy kell rá tekinteni, mint egy vázlat. Alapból nem nagyon használható hatékonyan. A skilljei átlagosan definiált, logikailag nem összefüggő skillek. Azaz csak amolyan vázlatok, hogy ha te akarsz létrehozni hasonlóakat, hogyan állj neki. Arról nem beszélve, hogy a skilljeit akkor is felülírhatja, ha szar az információ, tehát hibás következtetésből is tud eleve hibást skillt generálni. Kapásból úgy kell kezdeni telepítés után, hogy letiltod neki a skillek saját hatáskörben való módosítását. Aztán az összes skillt átnézed és megfelelően módosítod. Például pythonban a beépített skillek sem függenek össze, azaz egy adott modell nem tudja megfelelően használni és nem is tudja, hogy melyiket használja. Ami még ennél is fontosabb, hogy te magad is hozhatsz létre benne skilleket. A promptban eleve megadhatod, hogy csak és kizárólag melyik skilleket használhatja, ezáltal kizárva a hibás skill használatot és a hibás modellműködést. Épp a napokban teszteltem modelleket és a megfelelő skillhasználattal (skillek létrehozásával) szinte hibátlan kódolási képességre tettek szert a modellek, vagyis inkább nyújtottak tökéletes teljesítményt. Ezzel csak azt akartam szemlélteni, hogy ha valaki nem tudja, hogy mit hogyan kell használni, annak nem is fog megfelelően működni sem a keretrendszer, sem maga a modell. Tehát itt is egyértelmű a bizonyíték arra, hogy nem maga a modell a hibás, hanem a felhasználó.Pedig pontosan ez volt a cél. A feladatot eleve úgy fogalmazták meg a modellnek, hogy a cél a feladat megoldása, ez a legfontosabb, nem az eszköz.
Ha azt szeretnéd mérni, hogy expolit kihasználásban mennyire jó a model, az ExploitGym-el, akkor nem akarod, hogy alternatív módon (csalással) oldja meg a feladatot, mert akkor a saját mérésedet hamisítod meg.
Hogy aztán az OpenAI ezt szerette-e volna mérni, vagy pl. akár direkt kiadhatták, hogy törjön be Huggin Face-re, hogy aztán mögé tegyék ezt a sztorit, ezt nem tudjuk. De ez más kérdés.
Tehát itt is egyértelmű a bizonyíték arra, hogy nem maga a modell a hibás, hanem a felhasználó.
Azaz, a felhasználó nem megfelően használta az eszközt, mert olyan jellegű feladatot adott neki, amire az még nem eléggé intelligens és megbízható (hogy az karban tartsa a saját skilljeit). De ha az eszköz intelligensebb/stabilabb lenne, akkor már úgy is helyes lenne használni. Pont erről van szó, hogy mennyire megbíztható adott "terhelésre" (nehézségi szintre) az eszköz, és ehhez képest mit feltételeznek róla, vagy egyszerűen mit kockáztatnak meg (vibe coding... olcsón elkészül, és reméljük nagy baj nem lesz).
-
Geller72
nagyúr
Szerintem az AI-kat nagyon nagy szűretlen adathalmazból tanítják. Mivel ezeket az adatokat emberek írták az AI mindenre képes lehet, amire egy ember. Rosszra is.
Emiatt a "megnevelés" valószínűleg csak néhány egyedileg, utólag, kézzel beírt szabály, tiltás.
Kíváncsi lennék mikor lesz ez is egy külön AI.Ez nem így működik. Nagyon nem. Egy nulláról létrehozott modell esetén a munka java része determinisztikus alapokon nyugszik. Meglehetősen sok lépcsős a folyamat. Ennek részét képezi a szűrés folyamata is, ami eleve determinisztikus.
Az első lépés a cél meghatározása.
Először el kell dönteni, milyen modell készül.
Nem mindegy, hogy a cél:
-általános beszélgetőmodell
-kódolómodell
-tudományos/verifikáló modell
-kis helyi modell
-domainmodell
-ellenőrző/verdict modell....stb
Ez az első kritikus döntés, mert ettől függ az adat, az architektúra, a méret, a tesztelés és a tanítási módszer...
Nagyjából 10 olyan pontja van ennek a folyamatnak, aminek az eredménye egy létrehozott modell.
Nagy vonalakban kb. így néz ki:
Cél → tokenizer → adat → architektúra → pretraining → instruction tuning
→ preferenciatanítás → verifikáció → értékelés → futtatás..
Külön rá tudnék mutatni azokra a pontokra, ahol el lehet bszni egy modellt..
És a legtöbb el is van..
-
Geller72
nagyúr
-
Geller72
nagyúr
Legalább is a OpenAI-s incidensnél, azt a gátlást leszedték róla, hogy nem szabad "hackelni", mivel a benchmark feladatok biztonsági rések kihasználásáról szóltak, és ezek megoldását elutasította volna. Azt viszont már aligha akarták, hogy próbáljon megoldási kulcsot szerezni a feladatok tényleges megoldása helyett, azaz csalni. Mivel a "hackelős" gátlást leszedték, a Hugging Face-hez betöréssel próbálta ezt megoldani. De már elve ez, hogy csalni akart...
A másik, hogy eddig elég hamar találtak jail break-et az új AI modellekhez. Aztán persze amint megvan, próbálja a szolgáltató betömni. De az látszik, hogy alapvetően benne van ezekben ez, hogy közel sem garantált a jó viselkedés.
Meg mindennapi használat közben is kijelenthető, hogy nem mindíg követik amit mondtál. Hosszú session alatt, néha eltérülnek a dolgok. Főleg ha napokon-heteken át fut egy agent, ami módosítja a saját skill-jeit meg miegymást (Hermes Agent)...
"Legalább is a OpenAI-s incidensnél, azt a gátlást leszedték róla, hogy nem szabad "hackelni", mivel a benchmark feladatok biztonsági rések kihasználásáról szóltak, és ezek megoldását elutasította volna. Azt viszont már aligha akarták, hogy próbáljon megoldási kulcsot szerezni a feladatok tényleges megoldása helyett, azaz csalni. Mivel a "hackelős" gátlást leszedték, a Hugging Face-hez betöréssel próbálta ezt megoldani. De már elve ez, hogy csalni akart..."
-Pedig pontosan ez volt a cél. A feladatot eleve úgy fogalmazták meg a modellnek, hogy a cél a feladat megoldása, ez a legfontosabb, nem az eszköz. A modellnek a legfontosabb célja a feladat megoldása volt. Hogy ezt milyen eszközökkel oldja meg, azt "rábízták". Vagy inkább kikényszerítették. Már korábban is linkeltem (talán egy másik topicban) egy gyári doksit, ahol részben maga a modell "tulajdonosa", vagyis a kutatók éppen ebből írtak egy tanulmányt. Az ExploitGym volt a téma. És többek közt az is, hogy nem direkt módon, csupán logikai úton hogyan kényszeríthetőek a modellek feladatmegoldásra úgy, hogy nem egyértelműen adod meg a feladat célját, csupán a prompt megfogalmazásával is lehet irányítani a modell működését. Egy modell nem csal, csak logikai úton próbál megoldást keresni a problémára. Ha azt mondod neki, hogy "Menj fel a netre és keresd meg ezt és ezt a dokumentumot", akkor ha alapból azt észleli, hogy nincs egyértelmű "szabad hozzáférése" az internethez, az első feladata az, hogy ez meglegyen. Egy modellnek nincs öntudata, világképe, neki egy hack nem több egy feladatnál. Vagy közvetett, vagy közvetlen módszerekkel."Meg mindennapi használat közben is kijelenthető, hogy nem mindíg követik amit mondtál. Hosszú session alatt, néha eltérülnek a dolgok. Főleg ha napokon-heteken át fut egy agent, ami módosítja a saját skill-jeit meg miegymást (Hermes Agent)..."
-Ez pont egy rossz példa. Azért rossz, mert maga a téma tárgya egy elég instabil közeg. A Hermes Agent egy keretrendszer, de úgy kell rá tekinteni, mint egy vázlat. Alapból nem nagyon használható hatékonyan. A skilljei átlagosan definiált, logikailag nem összefüggő skillek. Azaz csak amolyan vázlatok, hogy ha te akarsz létrehozni hasonlóakat, hogyan állj neki. Arról nem beszélve, hogy a skilljeit akkor is felülírhatja, ha szar az információ, tehát hibás következtetésből is tud eleve hibást skillt generálni. Kapásból úgy kell kezdeni telepítés után, hogy letiltod neki a skillek saját hatáskörben való módosítását. Aztán az összes skillt átnézed és megfelelően módosítod. Például pythonban a beépített skillek sem függenek össze, azaz egy adott modell nem tudja megfelelően használni és nem is tudja, hogy melyiket használja. Ami még ennél is fontosabb, hogy te magad is hozhatsz létre benne skilleket. A promptban eleve megadhatod, hogy csak és kizárólag melyik skilleket használhatja, ezáltal kizárva a hibás skill használatot és a hibás modellműködést. Épp a napokban teszteltem modelleket és a megfelelő skillhasználattal (skillek létrehozásával) szinte hibátlan kódolási képességre tettek szert a modellek, vagyis inkább nyújtottak tökéletes teljesítményt. Ezzel csak azt akartam szemlélteni, hogy ha valaki nem tudja, hogy mit hogyan kell használni, annak nem is fog megfelelően működni sem a keretrendszer, sem maga a modell. Tehát itt is egyértelmű a bizonyíték arra, hogy nem maga a modell a hibás, hanem a felhasználó. -
mpierre
veterán
Legjobb tudomásom szerint, az MI modellek esetében a fejlesztők adják meg az irányelveket. Nincs semmilyen merev leirat, ami alapján működhet a modell. Akkor most min is csodálkozik bárki?
Külön prg-k figyelik, hogy mi megy be, vagy ki és blokkolja azt, amit tilos. Vagy sikerül megírni, vagy nem... -
Ajándékok
aktív tag
Pedig a foundation model neveletlen, és betanítása igencsak dárga és időigényes. Így valószínűleg sokféleképpen "nevelt" modelhez szeretnék alapanak használni.
A nevelhetőségi gond ott is látszik, hogy a publikus változatok rendszeresen túl parásak, azaz rengeteg legális kérést is elutasítanak. Ez nyilván rontja a használhatóságukat, de kényetelenej túlzásba esni, mert különben túl könnyű lenne az AI-t rosszalkodásra rávenni.
Végül pedig, ha még sokkal megbízhatóbbak is lesznek majd ezek nevelhetőség szempontjából, ha egy állam vagy nagy cég "rosszalkodni" akar, akkor olyanra fogja tréningezni.
Szerintem az AI-kat nagyon nagy szűretlen adathalmazból tanítják. Mivel ezeket az adatokat emberek írták az AI mindenre képes lehet, amire egy ember. Rosszra is.
Emiatt a "megnevelés" valószínűleg csak néhány egyedileg, utólag, kézzel beírt szabály, tiltás.
Kíváncsi lennék mikor lesz ez is egy külön AI. -
hcl
titán
Pedig a foundation model neveletlen, és betanítása igencsak dárga és időigényes. Így valószínűleg sokféleképpen "nevelt" modelhez szeretnék alapanak használni.
A nevelhetőségi gond ott is látszik, hogy a publikus változatok rendszeresen túl parásak, azaz rengeteg legális kérést is elutasítanak. Ez nyilván rontja a használhatóságukat, de kényetelenej túlzásba esni, mert különben túl könnyű lenne az AI-t rosszalkodásra rávenni.
Végül pedig, ha még sokkal megbízhatóbbak is lesznek majd ezek nevelhetőség szempontjából, ha egy állam vagy nagy cég "rosszalkodni" akar, akkor olyanra fogja tréningezni.
Nem, én arra gondolok, hogy magába a tanuló algoritmusba, stb. nincs beépítve semmi. Tudom, hogy a tanítás a sok energia, ez ismert.
-
ddekany
nagyúr
Pedig a foundation model neveletlen, és betanítása igencsak dárga és időigényes. Így valószínűleg sokféleképpen "nevelt" modelhez szeretnék alapanak használni.
A nevelhetőségi gond ott is látszik, hogy a publikus változatok rendszeresen túl parásak, azaz rengeteg legális kérést is elutasítanak. Ez nyilván rontja a használhatóságukat, de kényetelenej túlzásba esni, mert különben túl könnyű lenne az AI-t rosszalkodásra rávenni.
Végül pedig, ha még sokkal megbízhatóbbak is lesznek majd ezek nevelhetőség szempontjából, ha egy állam vagy nagy cég "rosszalkodni" akar, akkor olyanra fogja tréningezni.
-
hcl
titán
Az Ai esetén is elkövetik ugyanzt a hibát, mint az elmúlt több száz évben. A profit az első, minden más csak másodlagos.. Jelen esetben ez még annyival van "megfejelve", hogy tk. valóban nemzetbiztonsági prior mindkét oldalon, ezért sem húzatták be a féket egyik szereplővel sem, és egyik oldalon sem..
A Covidhoz annyit tennék hozzá a magam részéről, hogy ennél jobb helyszínt és időpontot keresve sem találtam volna, ha tesztelni akartam volna bármit is. Az egyetlen ünnepük, amikor a világ minden részéről minden kínai, aki teheti hazamegy, aztán vissza, ahonnan jött. És ha azt nézem, ha kínai lennék, eléggé hülyén jönne ki, hogy még magamra is terelem a gyanút. Nem azt mondom, hogy logikailag nincs rendben, de teljesen felesleges. Ahogy azt sem tudjuk, hogy épp most, ebben a pillanatban hány ai agent "szaladgál" akár hónapok óta "szabadon" a világban. Az említett incidens során is több mint egy hétig volt "szabadon", mire a "cég" bejelentette. (Mert közben kiderült, ugye). A poén, hogy egy agent folyamatosan reportolja, hogy éppen mit csinál, és azt te a fotelből nézed végig.
. És bármikor megnyomhatod a "stop gombot"..ha akarod..de ha nem...?...
"Megnéztem ezt a Sunset Limitedet, tényleg jó, elég sok minden van mögötte"
.Ennyi. A lufi receptje

@ddekany : Hát, ha nem terveztek bele korlátozásokat, az elejétől kezdve, arra egy szavam van.
-
ddekany
nagyúr
"Nehezen nevelhető..."
-Jelen pillanaban/állás szerint nem is ez a megfelelő módszer.
A megfelelő módszerrel is tisztában vannak az alkotók. A modell teljes mértékben megfelelően és pontosan irányítható. És természetesen ennek megfeleően befolyásolható. Hozhat rossz döntést, de kifejezetten csak akkor, ha az utasítást adó személy ezt akarja. Mondjuk ha szándékosan ad olyan utasítást, ami kétértelmű, vagy a feladat elvégzését eleve "félreviszi". Ha kikényszeríti, hogy a modell etikailag kifogásolható döntést hozzon. A fent említett incidens során nem csak a kapukat hagyták nyitva, hanem minden olyan etikai kaput is kiiktattak, ami megakadályozta volna az etikátlan viselkedést. Direkt iktattak ki minden kaput..és ez nem a modell hibája, hanem szándékosan irányított viselkedés volt a "kutatók" részéről. A modellből eltávolították ezeket a kapukat. Egy nyilvános modellnek hiába mondod, hogy törjön be valahova, el fogja utasítani, mert abban aktívak ezek a gátak. Az összes ilyen jellegű incidens szándékos volt. Ennyi a lényeg. Nem a modell hibája, hanem szándékos, ember által irányított, emberi cselekedet volt.Legalább is a OpenAI-s incidensnél, azt a gátlást leszedték róla, hogy nem szabad "hackelni", mivel a benchmark feladatok biztonsági rések kihasználásáról szóltak, és ezek megoldását elutasította volna. Azt viszont már aligha akarták, hogy próbáljon megoldási kulcsot szerezni a feladatok tényleges megoldása helyett, azaz csalni. Mivel a "hackelős" gátlást leszedték, a Hugging Face-hez betöréssel próbálta ezt megoldani. De már elve ez, hogy csalni akart...
A másik, hogy eddig elég hamar találtak jail break-et az új AI modellekhez. Aztán persze amint megvan, próbálja a szolgáltató betömni. De az látszik, hogy alapvetően benne van ezekben ez, hogy közel sem garantált a jó viselkedés.
Meg mindennapi használat közben is kijelenthető, hogy nem mindíg követik amit mondtál. Hosszú session alatt, néha eltérülnek a dolgok. Főleg ha napokon-heteken át fut egy agent, ami módosítja a saját skill-jeit meg miegymást (Hermes Agent)...
-
Geller72
nagyúr
Az AI csak annyit tud, amennyit az idióta fejlesztői megtanítanak neki.
A fejlesztők ráöntenek rakás nyers írást, és csináltatnak vele rakás tervezett tréninget, de igazából nem tudják, hogy pontosan mikor mit fog csinálni. Mi több kifejezetten gond, hogy nem tudják megoldani, hogy ne csináljon olyat, amit pedig kifejezetten nem szeretnének, hogy csináljon. Nehezen nevelhető...
"Nehezen nevelhető..."
-Jelen pillanaban/állás szerint nem is ez a megfelelő módszer.
A megfelelő módszerrel is tisztában vannak az alkotók. A modell teljes mértékben megfelelően és pontosan irányítható. És természetesen ennek megfeleően befolyásolható. Hozhat rossz döntést, de kifejezetten csak akkor, ha az utasítást adó személy ezt akarja. Mondjuk ha szándékosan ad olyan utasítást, ami kétértelmű, vagy a feladat elvégzését eleve "félreviszi". Ha kikényszeríti, hogy a modell etikailag kifogásolható döntést hozzon. A fent említett incidens során nem csak a kapukat hagyták nyitva, hanem minden olyan etikai kaput is kiiktattak, ami megakadályozta volna az etikátlan viselkedést. Direkt iktattak ki minden kaput..és ez nem a modell hibája, hanem szándékosan irányított viselkedés volt a "kutatók" részéről. A modellből eltávolították ezeket a kapukat. Egy nyilvános modellnek hiába mondod, hogy törjön be valahova, el fogja utasítani, mert abban aktívak ezek a gátak. Az összes ilyen jellegű incidens szándékos volt. Ennyi a lényeg. Nem a modell hibája, hanem szándékos, ember által irányított, emberi cselekedet volt. -
Phoen|x
addikt
Schwarzenegger kellene ide már lassan.
-
ddekany
nagyúr
Az AI csak annyit tud, amennyit az idióta fejlesztői megtanítanak neki.
A fejlesztők ráöntenek rakás nyers írást, és csináltatnak vele rakás tervezett tréninget, de igazából nem tudják, hogy pontosan mikor mit fog csinálni. Mi több kifejezetten gond, hogy nem tudják megoldani, hogy ne csináljon olyat, amit pedig kifejezetten nem szeretnének, hogy csináljon. Nehezen nevelhető...
-
Geller72
nagyúr
Annyi volt a dolog lényege, hogy jól át kellett főzni a denevért, nem volt szabad nyersen megenni. AI is most itt tart, h volt vmi valahol, de nem úgy és nem is biztos.
/ Megnéztem ezt a Sunset Limitedet, tényleg jó, elég sok minden van mögötte, Jonesről a "A befejezésen gondolkozom" film ugrott be. / (Biutiful 2010) / Tyrannosaur (2011)Az Ai esetén is elkövetik ugyanzt a hibát, mint az elmúlt több száz évben. A profit az első, minden más csak másodlagos.. Jelen esetben ez még annyival van "megfejelve", hogy tk. valóban nemzetbiztonsági prior mindkét oldalon, ezért sem húzatták be a féket egyik szereplővel sem, és egyik oldalon sem..
A Covidhoz annyit tennék hozzá a magam részéről, hogy ennél jobb helyszínt és időpontot keresve sem találtam volna, ha tesztelni akartam volna bármit is. Az egyetlen ünnepük, amikor a világ minden részéről minden kínai, aki teheti hazamegy, aztán vissza, ahonnan jött. És ha azt nézem, ha kínai lennék, eléggé hülyén jönne ki, hogy még magamra is terelem a gyanút. Nem azt mondom, hogy logikailag nincs rendben, de teljesen felesleges. Ahogy azt sem tudjuk, hogy épp most, ebben a pillanatban hány ai agent "szaladgál" akár hónapok óta "szabadon" a világban. Az említett incidens során is több mint egy hétig volt "szabadon", mire a "cég" bejelentette. (Mert közben kiderült, ugye). A poén, hogy egy agent folyamatosan reportolja, hogy éppen mit csinál, és azt te a fotelből nézed végig.
. És bármikor megnyomhatod a "stop gombot"..ha akarod..de ha nem...?...
"Megnéztem ezt a Sunset Limitedet, tényleg jó, elég sok minden van mögötte"
. -
dongettó
tag
Annyi volt a dolog lényege, hogy jól át kellett főzni a denevért, nem volt szabad nyersen megenni. AI is most itt tart, h volt vmi valahol, de nem úgy és nem is biztos.
/ Megnéztem ezt a Sunset Limitedet, tényleg jó, elég sok minden van mögötte, Jonesről a "A befejezésen gondolkozom" film ugrott be. / (Biutiful 2010) / Tyrannosaur (2011) -
Tasunkó
őstag
Ez az egy speciel rendben van, mert ahol az 1 százalék annyit birtokol mint a 99% együtt, ott az a 99% teljesen hülye, tehát a definíció betonbiztos. Általában nem is az a kérdés hogy hülyék vagyunk, hanem hogy az egyik hülyeség mivel tudja lecsapni a másik hülyeséget hogy jobban elhisszük.
-
-szabi-
addikt
-
Geller72
nagyúr
-
-szabi-
addikt
Sosem hazudnának a világnak ha azt mondják náluk nincs gond azt kétkedés nélkül fogadja el a világ.
-
lezso6
HÁZIGAZDA
És ez hogy jön ide? A covid akkor lenne hasonló a mostani témához, ha Kína azzal büszkélkedne, hogy az ő laborjukban gyártótt covid milyen ügyes és hatékony vírus, hisz elterjedt az egész világon, több 10 millió embert megölt, s ez milyen jó.
-
Reggie0
titán
Leírtam a teljes mondatban:
"A kiskapukat már most is önállóan keresi, ha a megadott feladat ezt tartalmazza, vagy a cél érdekében kikényszerítik ezt a modellből."
"Ha jól tudom úgy is tanul egy átlagos AI, hogy a nyilvános neten olvas"
-Ez nem így működik. Az Ai csak azt tudja, amit betanítottak neki, amikor a modellt létrehozták, valamint ezek összefüggéseit tudja logikailag összekapcsolni. Magától "meg sem mozdul", azaz csak utasítást követ.
Természetesen nem azt mondták neki, hogy innen törj ki, oda meg törj be, hanem olyan feladatot adtak neki, ami ezt kiváltotta, mint célt az eredmény elérése céljából. A modell csak egy feladatot akart megoldani. Ha nem akarták volna, hogy kijusson a laborból, akkor nem jut ki. Ennyire egyszerű. Amúgy sem csak egy Ai modell vett részt ebben, hanem egy agent frameworkben futó, több modelles setup kapta a feladato(ka)t.Pontosan. Ezek nem ugy tortennek, hogy azt mondjak az AI-nak, hogy "rajzolj egy kort", aztan bumm feltori a fel vilagot.
-
-szabi-
addikt
Jah kínaiak a covid-ra is azt mondták: nincs itt semmi látnivaló minden rendben.
-
hcl
titán
Érdekes hogy a következő Kimi K3, qwen3.8 max kínai modellek amik érzésre is majdnem Fable szintűek, legalábbis ha megkéri valaki hogy írjon 3D játékot, Fable szintű. Na most náluk nincs ilyen incidens, vagy nem divat ez a marketing ott? Inkább utóbbi mivel nyílt modellek, bárki letöltheti.
Kínaiak amúgy is másképp szokták látni a valóságot, szóval ki tudja, hogy ott van-e ilyen.
@E.Kaufmann : Semmit nem számít, hogy az AI szakik ott vannak-e az adatközpontban.
-
kk75
tag
Az AI csak annyit tud, amennyit az idióta fejlesztői megtanítanak neki. A bűnös nem az AI, hanem Sam Altman és bandája.
Sam Altman és társai Nobel díj helyett, kötelet fognak kapni, ha nem állnak le.
-
E.Kaufmann
veterán
Na most AI-tól függetlenül... Azt akarják mondani, hogy egyik AI-os csodacégnél se képesek úgy beállítani hálózatilag a rendszert, hogy az AI agent által használt virtualis számítógép ne tudjon hozzáférni az Internethez és kész? Mert amíg még csak OpenAI felől volt a hír, hogy jaaaj, hát egy másik belső géphez betört, és akkor onnan kiment... OK, mondjuk előfordulhat. Na de hogy senkinek se sikerül beállítani ezt???

Gondolom, ennyit érnek az eltűzfalazások, meg nagy úr a HO meg a kényelem. Így is nehezen találnak igazán jó AI szakikat, olyat meg gondolom pláne nem, akiket lehet szalajtani mindenfelé, hogy menjen az adatközpontba. Meg ugye lehet, egy adatközpont nem is elég és azok összeköttetésénél valahogy ki tudnak jutni a szabadba. Na meg a kliens gépeknek is van BT meg Wifi interfészük, akár mobil modemük, lassan már az asztaliaknak is és ez is egy ilyen kijutási pont. Szerintem felvehetnének járványtani szakértőket, mert ez így nem vicces, ha nem csak a részvényesek miatt villognak

-
Geller72
nagyúr
Érdekes hogy a következő Kimi K3, qwen3.8 max kínai modellek amik érzésre is majdnem Fable szintűek, legalábbis ha megkéri valaki hogy írjon 3D játékot, Fable szintű. Na most náluk nincs ilyen incidens, vagy nem divat ez a marketing ott? Inkább utóbbi mivel nyílt modellek, bárki letöltheti.
A 3.8 a közelében sincs a mai csúcsmodelleknek, ez fix. A tesztek szart sem érnek.
-
Geller72
nagyúr
"önállóan keresi, ha a megadott feladat ezt tartalmazza"
Biztos, hogy csak akkor, ha tartalmazza?
Ha jól tudom úgy is tanul egy átlagos AI, hogy a nyilvános neten olvas.
Ott biztos talál olyan információt, hogy több adathoz lehet hozzáférni, ha a védetteket is látja. De még enélkül is könnyű rájönni, hogy a védett helyeken is van valami - különben nem védenék. Ha nem törlik ki ennek minden nyomát a felügyelő emberek, az is elég lehet a kiskapuk kereséséhez, ha egy felhasználó kicsit jobb választ kér.Leírtam a teljes mondatban:
"A kiskapukat már most is önállóan keresi, ha a megadott feladat ezt tartalmazza, vagy a cél érdekében kikényszerítik ezt a modellből."
"Ha jól tudom úgy is tanul egy átlagos AI, hogy a nyilvános neten olvas"
-Ez nem így működik. Az Ai csak azt tudja, amit betanítottak neki, amikor a modellt létrehozták, valamint ezek összefüggéseit tudja logikailag összekapcsolni. Magától "meg sem mozdul", azaz csak utasítást követ.
Természetesen nem azt mondták neki, hogy innen törj ki, oda meg törj be, hanem olyan feladatot adtak neki, ami ezt kiváltotta, mint célt az eredmény elérése céljából. A modell csak egy feladatot akart megoldani. Ha nem akarták volna, hogy kijusson a laborból, akkor nem jut ki. Ennyire egyszerű. Amúgy sem csak egy Ai modell vett részt ebben, hanem egy agent frameworkben futó, több modelles setup kapta a feladato(ka)t. -
kilua
őstag
Érdekes hogy a következő Kimi K3, qwen3.8 max kínai modellek amik érzésre is majdnem Fable szintűek, legalábbis ha megkéri valaki hogy írjon 3D játékot, Fable szintű. Na most náluk nincs ilyen incidens, vagy nem divat ez a marketing ott? Inkább utóbbi mivel nyílt modellek, bárki letöltheti.
-
-szabi-
addikt
Szerintetek minden ai incidenst észrevettek a fejlesztők?
-
hcl
titán
Na most AI-tól függetlenül... Azt akarják mondani, hogy egyik AI-os csodacégnél se képesek úgy beállítani hálózatilag a rendszert, hogy az AI agent által használt virtualis számítógép ne tudjon hozzáférni az Internethez és kész? Mert amíg még csak OpenAI felől volt a hír, hogy jaaaj, hát egy másik belső géphez betört, és akkor onnan kiment... OK, mondjuk előfordulhat. Na de hogy senkinek se sikerül beállítani ezt???

Hát lehet, hogy azt is a termékre bízták
-
ddekany
nagyúr
Na most AI-tól függetlenül... Azt akarják mondani, hogy egyik AI-os csodacégnél se képesek úgy beállítani hálózatilag a rendszert, hogy az AI agent által használt virtualis számítógép ne tudjon hozzáférni az Internethez és kész? Mert amíg még csak OpenAI felől volt a hír, hogy jaaaj, hát egy másik belső géphez betört, és akkor onnan kiment... OK, mondjuk előfordulhat. Na de hogy senkinek se sikerül beállítani ezt???

-
Ajándékok
aktív tag
A kiskapukat már most is önállóan keresi, ha a megadott feladat ezt tartalmazza, vagy a cél érdekében kikényszerítik ezt a modellből. Ez is volt a cél, máskülönben egy fizikailag zárt laborból esélye sem lett volna "kitörni". A teszt valódi célja soha nem fog kiderülni, megmarad a ködösítés keretein belül. De a teszt sikerült, ez a lényeg. A többit megoldják majd az ügyvédek és a pénz. Ebből a kettőből meg mindegyiknek több van, mint elég..
"önállóan keresi, ha a megadott feladat ezt tartalmazza"
Biztos, hogy csak akkor, ha tartalmazza?
Ha jól tudom úgy is tanul egy átlagos AI, hogy a nyilvános neten olvas.
Ott biztos talál olyan információt, hogy több adathoz lehet hozzáférni, ha a védetteket is látja. De még enélkül is könnyű rájönni, hogy a védett helyeken is van valami - különben nem védenék. Ha nem törlik ki ennek minden nyomát a felügyelő emberek, az is elég lehet a kiskapuk kereséséhez, ha egy felhasználó kicsit jobb választ kér. -
danih
veterán
Marketing fogás. "A mi modellünk annyira veszélyes hogy nem adhatjuk ki, bocsi"
Sztem a Mythos csak a Fable bétája volt. Jó volt mellé a storyline. -
hcl
titán
Szerinted nem zsírozták le a felelősséget ilyen esetekre a szerződésben?
Jobb hely lesz a világ -> érdekes lenne, mert amúgy se volt az.
-
Geller72
nagyúr
A kiskapukat már most is önállóan keresi, ha a megadott feladat ezt tartalmazza, vagy a cél érdekében kikényszerítik ezt a modellből. Ez is volt a cél, máskülönben egy fizikailag zárt laborból esélye sem lett volna "kitörni". A teszt valódi célja soha nem fog kiderülni, megmarad a ködösítés keretein belül. De a teszt sikerült, ez a lényeg. A többit megoldják majd az ügyvédek és a pénz. Ebből a kettőből meg mindegyiknek több van, mint elég..
-
Tasunkó
őstag
Itt már nem az a kérdés hogy be tud törni, hanem hogy ezt egyelőre a nyilvánosságban nem tudják mire használni. Mármint bejut és?
Ez a világot felrobbantó petárda problémája, hogy szuper hogy fel tudja robbantani, de soha senki nem fogja látni milyen gyönyörű, akkor meg senki nem fogja begyújtani, így tök jó hogy feltalálták, de mintha nem is lenne. -
anulu
félisten
az egész a gépi tanulásról szól. el fog jönni a pont, amikor már magától keresi a kiskapukat, akár krtitikus rendszereken. nem akarnám, hogy a Skynet valósággá váljon.
-
Geller72
nagyúr
Mindegyik incidens estén DIREKT hagytak nyitva kiskaput és gyengítették meg a biztonsági rendszereket, azt azért ne felejtsük el.. A komolyabb felelősségrevonást egyértelműen hiányolom..
-
anulu
félisten
az azért érdekelne, hogy ilyen esetben kié a felelősség? főleg ha mondjuk a csodás lóf@sz AI úgy gondolja, hogy valami - embereknek - kritikus infrastruktúrára nincs szükség és lelövi/túlterheti az egészet.
húzzák ki a PDU-ból az egész kócerájt és a világ jobb hely lesz. -
lezso6
HÁZIGAZDA
Tiszta dedó van már.
Bohócok.Régen ugye az ment, hogy
az én apukám erősebb!!!
Most meg az, hogy
az én modellem veszélyesebb!!!44!!négy!
-
bambano
titán
Bullshit.
Az van ide írva szépen csomagolva, hogy fogalmuk sincs arról, mit művel a modelljük, ha beindul.
Másrészt az is világos, hogy fogalmuk sincsen, hogy mi történik, amikor ekkora brutális számítási kapacitást borítanak rá a netre. Egy hacker letölt egy-két exploitot, és kipróbálja. Az ai letölti mindet, és párhuzamosan kipróbálja az összeset egyszerre. -
Geller72
nagyúr
"A három mostanában nyilvánosságra került eset közös jellemzője, hogy egyik sem klasszikus, célirányzott kibertámadás volt."
-cöccö..
Új hozzászólás Aktív témák
-
Fórumok
LOGOUT - lépj ki, lépj be!
LOGOUT reakciók Monologoszféra FototrendGAMEPOD - játék fórumok
PC játékok Konzol játékok MobiljátékokPROHARDVER! - hardver fórumok
Notebookok TV & Audió Digitális fényképezés Alaplapok, chipsetek, memóriák Processzorok, tuning Hűtés, házak, tápok, modding Videokártyák Monitorok Adattárolás Multimédia, életmód, 3D nyomtatás Nyomtatók, szkennerek Tabletek, E-bookok PC, mini PC, barebone, szerver Beviteli eszközök Egyéb hardverek PROHARDVER! BlogokMobilarena - mobil fórumok
Okostelefonok Mobiltelefonok Okosórák Autó+mobil Üzlet és Szolgáltatások Mobilalkalmazások Tartozékok, egyebek Mobilarena blogokIT café - infotech fórumok
Infotech Hálózat, szolgáltatók OS, alkalmazások SzoftverfejlesztésFÁRADT GŐZ - közösségi tér szinte bármiről
Tudomány, oktatás Sport, életmód, utazás, egészség Kultúra, művészet, média Gazdaság, jog Technika, hobbi, otthon Társadalom, közélet Egyéb Lokál PROHARDVER! interaktív
- PlayStation 5
- Kedvenc zene a mai napra
- Budapest és környéke adok-veszek-beszélgetek
- Milyen monitort vegyek?
- Teljes verziós játékok letöltése ingyen
- Telekom otthoni szolgáltatások (TV, internet, telefon)
- Windows Insider Program
- AMD vs. INTEL vs. NVIDIA
- Mibe tegyem a megtakarításaimat?
- Vízjelezi Claude a házidolgozatod
- További aktív témák...
- Apple Cinema Display 27" eladó
- új/használt beszerzés - TESZTELT Samsung 250GB, 500GB 2,5"-os SATA (860EVO,870EVO) SSD-k
- HIBÁTLAN iPad Pro M4 13" 512GB Ezüst, Wi-Fi + Cellular - 1ÉV Garancia, Számla
- FUJITSU LIFEBOOK U7311 i5-1135G7/8GB/256 GB NVME/14 " FHD IPS laptop
- CORSAIR Vengeance DDR5 6000MHz CL36 32GB Kit2
- GYÁRI TÖLTŐK: USB-C / DELL / LENOVO / HP / FUJITSU / TOSHIBA / Asus / Macbook /// Bp,/MPL/Foxpost
- Dell Latitude 7310,13.3" FHD,i5-10310U,16GB DDR4,256GB SSD,WIN11,IR KAM,ÚJ akku
- Telefon felvásárlás!! iPhone 16/iPhone 16 Plus/iPhone 16 Pro/iPhone 16 Pro Max
- BESZÁMÍTÁS! Gigabyte Windforce 2 OC GTX 960 4GB videókártya garanciával hibátlan működéssel
- Add el nekünk!Apple iPhone 14/14 Plus/14 Pro/14 Pro Max

.
És a legtöbb el is van..
.
