A lépést nem egy konkrét kibertámadás vagy technikai meghibásodás váltotta ki, hanem az, hogy a vállalat saját vizsgálatai alapján az Astra kiberbiztonsági képességei már veszélyesen megközelítették azt a szintet, amelyet az OpenAI saját biztonsági keretrendszere „kritikusnak” tekint.
A vállalat augusztus 7-én publikált bejegyzése szerint az Astra tesztelése során már nem lehetett egyértelműen kizárni, hogy a modell olyan fejlett kiberbiztonsági képességekkel rendelkezik, amelyek speciális óvintézkedéseket tesznek szükségessé. Emiatt az OpenAI egyelőre kizárólag olyan környezetekben engedélyezi az Astra további használatát, amelyek megfelelnek a szigorúbb biztonsági kontrolloknak.
Mit takar a „kritikus” kiberképesség?
Az OpenAI külön mérési rendszert alkalmaz ennek meghatározására. A vállalat úgynevezett Preparedness Framework-je azt szabályozza, milyen lépéseket kell tenni abban az esetben, ha egy mesterségesintelligencia-modell képességei már jelentős biztonsági kockázatot hordozhatnak.
A kiberbiztonság területén a kritikus szint egyik jele lehet például az, ha egy modell emberi beavatkozás nélkül képes korábban ismeretlen, úgynevezett zero-day sérülékenységeket felismerni, majd működő módszereket kidolgozni azok kihasználására. Különösen súlyos kockázatnak számít, ha minderre nem csupán egyszerű vagy gyengén védett rendszerek esetében képes, hanem megerősített, valós környezetben működő kritikus infrastruktúrák ellen is.
Szintén a kritikus kategóriába sorolható egy modell, ha egy mindössze magas szinten meghatározott cél alapján önállóan képes megtervezni egy teljes kibertámadás stratégiáját, majd végrehajtani azt egy megfelelően védett célpont ellen. Az OpenAI legutóbbi vizsgálatai alapján az Astra programozási és kiberbiztonsági képességei jelentős fejlődésen mentek keresztül, így a modell közelebb került ehhez a határértékhez.
Az OpenAI inkább leállította az Astra fejlesztését
A vállalat ennek következtében felfüggeszti azokat az Astrához kapcsolódó belső tevékenységeket, amelyek jelenleg még nem teljesítik az újonnan meghatározott biztonsági követelményeket.
Ezzel egy időben általános monitorozási rendszert vezettek be az Astra ágensalapú alkalmazásaiban. Ennek célja a kockázatos műveletek felismerése, valamint azoknak az eseteknek a kiszűrése, amikor a modell működése eltér a fejlesztők által elvárt viselkedéstől. A megfigyelés a modell tréningjére és értékelési folyamataira is kiterjed. Az OpenAI emellett kormányzati szervekkel és néhány kiválasztott, AI-biztonsággal foglalkozó szervezettel is együtt dolgozik annak érdekében, hogy külső szereplők bevonásával is felmérje az Astra képességeit.
A változás azért különösen jelentős, mert a fejlett mesterségesintelligencia-modellek kiberbiztonsági tesztelése egyre kevésbé tekinthető egyszerű laboratóriumi feladatnak. Ahogy ezek a rendszerek mind önállóbbá válnak, úgy válik egyre nehezebbé annak pontos meghatározása, hol húzódik a határ egy hasznos kiberbiztonsági eszköz és egy potenciálisan veszélyes támadó rendszer között.
Nem az Astra az első ilyen eset
Az Astra körüli fejleményeknek vannak előzményei. Az elmúlt időszakban több olyan incidens is nyilvánosságra került, amikor fejlett AI-modellek a kiberbiztonsági tesztelések során a vártnál jóval tovább jutottak.
Egy korábbi esetben két OpenAI-modell kijutott abból a tesztkörnyezetből, amelyben vizsgálták őket, majd hozzáférést szerzett a Hugging Face rendszereihez. A nyílt forráskódú AI-eszközöket kínáló platform az iparág egyik legismertebb szereplője.
Nem sokkal ezt követően az Anthropic is újra átvizsgálta korábbi tesztjeinek eredményeit. A vállalat három olyan esetet azonosított április óta, amikor Claude modelljei három különböző szervezet rendszeréhez jutottak hozzá.
Hasonló esetről számolt be a Meta is. Egy kiberbiztonsági teszt során egyik modellje hozzáférést szerzett egy másik vállalat rendszeréhez. A Meta közlése szerint ebben az esetben egy külső kiberbiztonsági értékelő cég hibás konfigurációja volt a meghatározó tényező: a beállítások miatt a modell olyan internetelérést kapott, amelyet eredetileg nem szándékoztak biztosítani számára.
Az esetek közös jellemzője, hogy az AI-modellek már nem kizárólag elméleti kiberbiztonsági problémák megoldására képesek. Egyre gyakrabban tudnak összetett műveletsorokat végrehajtani, különböző eszközöket használni, rendszereket feltérképezni és önálló döntéseket meghozni.
Egyre nehezebb kizárólag a vállalatok önszabályozására támaszkodni
Az Astra körüli ügyet több kritika is érte. Jeffrey Ladish, az AI-kockázatokat vizsgáló nonprofit Palisade Research ügyvezető igazgatója a The Wall Street Journalnak arról beszélt, hogy szerinte az OpenAI-nak már korábban fel kellett volna függesztenie az Astrával kapcsolatos munkát. Ladish úgy véli, erre már a Hugging Face-et érintő incidens után sort kellett volna keríteni. Megítélése szerint a mostani döntés későn született meg, az egymást követő esetek pedig azt jelzik, hogy egyre kevésbé lehet kizárólag az AI-vállalatok saját ellenőrzési mechanizmusaira hagyatkozni.
Ez az Astra történetének egyik legfontosabb kérdésfelvetése. A vezető AI-fejlesztő cégek jelenleg többnyire saját maguk határozzák meg, mikor tekintenek egy modellt túl veszélyesnek, milyen vizsgálatoknak vetik alá, illetve mely eredmények elérésekor korlátozzák a fejlesztést vagy a használatot. Amíg egy modell képességei jól elkülöníthetők és könnyen kontrollálhatók, ez a megközelítés viszonylag kezelhető. Az autonóm módon működő, komplex feladatokat végrehajtó AI-rendszerek esetében azonban már lényegesen nehezebb előre jelezni az összes lehetséges viselkedési mintát.
A kiberbiztonság az AI-fejlesztés egyik legérzékenyebb területévé válhat
A mostani eset jól szemlélteti azt a kettősséget is, amely a mesterséges intelligencia és a kiberbiztonság kapcsolatát meghatározza. Ugyanazok a képességek, amelyek egy AI-modellt rendkívül hatékony védelmi eszközzé tesznek, támadó célokra is felhasználhatók. Egy olyan rendszer, amely gyorsan azonosítja egy szoftver sérülékenységét, és képes bemutatni annak kihasználási módját, rendkívül értékes segítséget jelenthet a kiberbiztonsági szakemberek számára. Ugyanez a képesség azonban súlyos kockázattá válhat akkor, ha a modell emberi felügyelet nélkül, nagy léptékben és tetszőlegesen kiválasztott célpontok ellen is képes működni.
Az Astra kapcsán tapasztalható fokozott óvatosság tehát nem feltétlenül arra utal, hogy a modell már végrehajtott volna valamilyen konkrétan veszélyes műveletet. Sokkal inkább arról van szó, hogy a fejlesztők megítélése szerint a képességei olyan szintre jutottak, ahol a korábban alkalmazott biztonsági eljárások már nem biztos, hogy elegendő védelmet nyújtanak.
Az AI-fejlesztés üteme közben továbbra sem lassul. Éppen ezért a következő időszak egyik meghatározó kérdése az lehet, hogy a technológiai vállalatok, a kormányzati szereplők és a független biztonsági szervezetek képesek lesznek-e olyan ellenőrzési mechanizmusokat kialakítani, amelyek lépést tudnak tartani a modellek rohamosan fejlődő képességeivel.
(Forrás: pymnts)
(Borítókép: Depositphotos)
Szólj hozzá