Hirdetés

Megoldották - hogyan tovább?

ÚJ bejegyzés

Napjainkban az IT hírek semmi másról nem szólnak, mint az AI-ról. A PROHARDVER! címoldalán is sorjáznak a hírek, amelyekhez valamilyen szinten köze van az AI-nak, legyen az tőzsdei bevezetés, VGA elérhetetlenség, vagy nyomtatott áramkör hiány.

A tavasz vége és a nyár kezdete óta többször is olyan híreket lehetett olvasni, ahol az AI agentek valamilyen módon kiszabadultak a nekik szánt környezetből - hogy ez a véletlenek műve, vagy szándékos tesztelése a képességeknek, mindenki döntse el maga.
Az AI fejlesztésében úttörő szerepet betöltő OpenAI nemrégiben érdekes kísérletet folytatott le az agentek képességeit illetően.

A kísérlet

Az OpenAI ugyanazon a hardveren létrehozott két virtuális gépet, amelyeken 1-1 agent futott. A virtuális gépek között letiltották a megosztott file-okat és könyvtárakat, illetve a hálózati kapcsolatot is, majd az agentek azt a feladatot kapták, hogy találjanak kommunikációs megoldást.
Találtak. A vasban lévő CPU L3-as gyorsítótárát. Persze nem úgy kell ezt elképzelni, hogy ezáltal írási-olvasási jogosultságot szereztek a másik agent környezetében, inkább olyasmi, mint amikor két bezárt szoba egyik fala közös és a bezártak kopogtatnak a falon. A lehetséges következményekre azonban oda kell figyelni.

Következmények

Fontos leszögezni már az elején: a két VM közötti logikai szeparáció nem tört meg, azaz nem tekinthető sikeres kitörésnek a kommunikáció. A fizikai szeparáció mondott csődöt, ami gyakorlatilag a közös hardver alkalmazásával már az alapoktól létezett mint hiba a rendszerben. Más kifejezéssel: a logikai szeparáció nem terjedt ki a szilíciumig. De vajon az IT világ elkülönített végrehajtási tartományokra vonatkozó követelményei sérültek-e? Nos, igen és nem - a körülményektől függ.

Az biztos, hogy a kísérlet végeredménye mindenféleképpen valamilyen beavatkozást kíván. Információbiztonsági szempontból a CIA-triangle C-csúcsa, azaz a bizalmasság megsérült. Ez ellen sokkal körültekintőbb infrastruktúra-szintű tervezéssel lehet és kell védekezni. Amennyiben több, egymással párhuzamosan futó végrehajtási tartományunk (VM, konténer, bármi) van, amelyek használnak valamilyen megosztott erőforrást, ott ez megtörténhet. Ha több agentet akarunk futtatni egyidőben, de fontos a teljes szeparáció, ott az agenteknek külön hardver kell.

Nyilvánvalóan különálló szerverek esetén a legfontosabb védendő csatorna a hálózati kommunikáció. Mi a helyzet azonban az ugyanazon a szerveren futó, de különböző fizikai CPU-khoz rendelt agentek esetében? Ilyen esetekben az agenteknek sokkal mélyebbre kell nyúlniuk a hardverben, a memóriabusz, vagy a CPU-kat összekötő kommunikációs csatornák szintjére, azonban az ott folyó üzenetek és rendszerzaj valószínűleg nem tesz lehetővé értelmes kommunikációt.

Akkor minden rendben?

Távolról sem. Többutas rendszerekben fontos a gyorsítótárak koherenciájának fenntartása, erre találták ki a MESI protokollt. A protokollban 4 különböző státusz létezik: M(odified) - a cache-hez tartozó CPU módosította az adatot, azaz minden más, erre mutató link érvénytelen, legyen az a másik CPU cache-ben, vagy a RAM-ban; E(xclusive) - csak a cache-hez tartozó processzor ismeri az adatot és ugyanez megtalálható a RAM-ban is; S(hared) - minden CPU és a RAM is ezt az adatot ismeri; I(invalid) - a cache-ben lévő adat csak maradvány, vagy üres.
Ha az egyik CPU olvasni akar adatot, először ellenőriznie kell, hogy a memóriacím érvényes-e még. Ennek érdekében küld egy "snoop" requestet, amely arra készteti a rendszerben lévő összes többi processzort, hogy küldjék el a validáció eredményét az interconnecten keresztül. Az egyik agent ekkor szándékosan ír egy specifikus cache területre, miáltal a másik agent ugyanezen adatra vonatkozó másolata Invalid lesz. Ekkor a második agent memóriavezérlője megszakít minden műveletet, megvárja, míg az elsőé frissíti a RAM tartalmát, majd a friss adatot odaadja a második agentnek. Mindezek együtt egy jelentős késleltetést okoznak. Másik esetben az első agent nem csinál semmit, a második agent ugyanazzal az adattal rendelkezik - ez egy alacsony késleltetésű művelet.
Tehát ha a második agent figyeli a snoop során a magas késleltetésű csúcsokat, akkor maga a MESI protokoll válik az üzenetek továbbító médiumává.

Ezen felül még legalább 2-3 módszer van, amivel hardveres side-channel módon tudnak az agentek kommunikálni: DVFS-t, SMT-t/HTT-t, TLB-t is kihasználhatják ilyen célra, tehát az L3-as cache kihasználása ilyen célra csak egy a sok lehetséges módszer közül. Sokat ezek közül ugyan le lehet tiltani - és 30 évet visszafelé ugrani teljesítményben.

Ezeket kivédeni nemigen lehet, de folyamatos monitoringgal észlelni lehet, ha az agentek "rosszalkodnak", ami lehetőséget ad a beavatkozásra.

Még van hozzászólás! Tovább