A mesterséges intelligencia egyre több vállalati folyamatban kap önálló szerepet, ezzel együtt azonban új biztonsági kockázatok is megjelennek. A CrowdStrike egy új biztonsági funkcióval kínál megoldást a problémára: a vállalatok azonnal leállíthatják a rendellenesen működő AI-ügynököket, megakadályozhatják azok újbóli elindulását, és megszüntethetik a hálózati hozzáférésüket is.
Vészleállító funkciót kaptak az AI-ügynökök
Új eszközzel bővítette kiberbiztonsági megoldásainak kínálatát a CrowdStrike. A vállalat a Fal.Con Europe konferencián jelentette be az AI Kill Switch elnevezésű funkciót, amely lehetőséget ad a biztonsági szakembereknek arra, hogy azonnal leállítsák a nem megfelelően működő mesterségesintelligencia-ügynököket.
A fejlesztés elsősorban azokra a helyzetekre kínál megoldást, amikor egy autonóm rendszer váratlanul kezd viselkedni, vagy olyan műveleteket hajt végre, amelyek nem felelnek meg az előre meghatározott biztonsági előírásoknak.
Az AI Kill Switch működése ugyanakkor túlmutat egy egyszerű leállítási parancson. A technológia képes megakadályozni, hogy a leállított ügynök újrainduljon, emellett teljesen megszüntetheti annak hálózati kapcsolatait is. Ez különösen fontos lehet olyan vállalati környezetben, ahol az AI-rendszerek több alkalmazáshoz és adatforráshoz férnek hozzá, és egyre nagyobb önállósággal végzik feladataikat.
George Kurtz, a CrowdStrike vezérigazgatója a CNBC Mad Money című műsorában úgy fogalmazott, hogy miközben mindenki AI-ügynökök létrehozásán dolgozik, eddig hiányzott az a biztonsági megoldás, amellyel szükség esetén azonnal le lehet állítani őket. A vállalat új fejlesztése ezt a hiányosságot hivatott megszüntetni.
A funkció a CrowdStrike Falcon Guardian platformjába épül be, amely a szervezeteken belül működő AI-ügynökök tevékenységének ellenőrzésére szolgál. A cél, hogy a vállalatok akkor se veszítsék el az irányítást az automatizált munkafolyamatok felett, amikor azok már összetett feladatokat látnak el közvetlen emberi felügyelet nélkül.
Az AI-ügynökök újfajta kiberbiztonsági kockázatot jelentenek
A CrowdStrike szerint az autonóm mesterségesintelligencia-rendszerek elterjedése jelentősen átalakítja a vállalati informatikai biztonságot. A hagyományos kibervédelmi rendszereket elsősorban arra tervezték, hogy felismerjék és megakadályozzák a külső támadásokat, a jogosulatlan hozzáféréseket és a rosszindulatú szoftverek működését.
Az AI-ügynökök megjelenésével azonban már a vállalati infrastruktúrán belül is olyan kockázatok keletkezhetnek, amelyek kezelése új megközelítést igényel.
Ezek a rendszerek ugyanis jóval többre képesek, mint a hagyományos chatbotok. Nemcsak információkat dolgoznak fel és válaszokat állítanak elő, hanem önálló döntéseket hozhatnak, adatbázisokat érhetnek el, különböző alkalmazások között kommunikálhatnak, sőt teljes üzleti folyamatokat is végrehajthatnak.
Ez a működési szabadság jelentős előnyöket kínál, ugyanakkor komoly problémákhoz is vezethet, ha egy ügynök félreértelmezi a feladatát, hibás utasítás alapján cselekszik, vagy átlépi a számára kijelölt jogosultsági határokat.
Kurtz szerint ezért a kiberbiztonsági cégek feladata már nem korlátozódhat a kívülről érkező támadások elhárítására. A vállalatoknak arra is fel kell készülniük, hogy saját AI-rendszereik működését ellenőrizzék, és szükség esetén korlátozzák.
A CrowdStrike vezetője az autók légzsákjaihoz hasonlította az új funkció jelentőségét. Ahogyan az autógyártók sem számíthatnak kizárólag arra, hogy járműveik minden helyzetben megfelelően működnek, úgy az AI-fejlesztőknek is gondoskodniuk kell a váratlan helyzeteket kezelő biztonsági mechanizmusokról.
A vezérigazgató szerint az új technológia éppen ezt teszi lehetővé: ha egy AI-ügynök működés közben megsérti a meghatározott biztonsági szabályokat, a rendszer képes azonnal leállítani.
Meg kell fékezni az AI fejlődését, vagy elegendő a biztonságot erősíteni?
Az autonóm AI-rendszerek biztonságos működése körüli vita az elmúlt hónapokban egyre nagyobb figyelmet kapott a technológiai szektorban.
Szeptemberben Dario Amodei, az Anthropic vezérigazgatója a fejlesztések ütemének mérséklése mellett érvelt, mert úgy vélte, hogy a mesterséges intelligencia gyors fejlődése egyre komolyabb biztonsági veszélyeket hordoz. Az elképzelést Sam Altman, az OpenAI vezetője is támogatta.
George Kurtz ugyanakkor más oldalról közelíti meg a problémát. Véleménye szerint a technológiai fejlődés lassítása nem jelentene önmagában megoldást azokra a veszélyekre, amelyek a már használatban lévő AI-rendszerek működéséből fakadnak.
A CrowdStrike vezetője úgy látja, hogy a vállalatoknak olyan eszközökre van szükségük, amelyek nemcsak a rendszerek bevezetése előtt segítenek feltárni a kockázatokat, hanem éles működés közben is képesek felismerni a rendellenességeket.
Az AI Kill Switch ennek a szemléletnek megfelelően készült. A technológia a megelőző tesztek és biztonsági szabályok mellett folyamatos ellenőrzési és beavatkozási lehetőséget biztosít a vállalatok számára.
Ennek különösen nagy jelentősége lehet a pénzügyi szektorban, illetve minden olyan üzleti területen, ahol az AI-ügynökök bizalmas ügyféladatokat kezelnek, tranzakciókat hajtanak végre, vagy a vállalat működése szempontjából kritikus informatikai rendszerekhez férnek hozzá.
Az Anthropic ügyfelei is biztonsági garanciákat várnak
A CrowdStrike számára az AI-ügynökök felügyelete jelentős új üzleti területet is jelenthet. George Kurtz szerint a vállalati ügyfelek egyre határozottabban keresik azokat a megoldásokat, amelyekkel csökkenthetik az autonóm mesterségesintelligencia-rendszerek alkalmazásából fakadó kockázatokat.
Ezt az igényt jól mutatja a CrowdStrike és az Anthropic közötti együttműködés bővítése is. A partnerség részeként a kiberbiztonsági vállalat technológiáját a Claude Cowork nevű AI-megoldás védelmére is alkalmazzák.
Kurtz beszámolója szerint a két vállalat közötti integráció mögött elsősorban az ügyfelek részéről érkező elvárások álltak.
Több vállalati felhasználó ugyanis jelezte az Anthropicnak, hogy megfelelő kibervédelmi megoldások nélkül nem kívánja bevezetni az AI-rendszereit. Kifejezetten a CrowdStrike technológiájának alkalmazását szorgalmazták, mert ezt tartották szükségesnek a biztonságos működéshez.
A vezérigazgató szerint sokat elárul a helyzetről, hogy egyes ügyfelek a CrowdStrike bevonását az Anthropic termékeinek bevezetési feltételeként szabták meg.
Mindez arra utal, hogy az AI-ügynökök ellenőrzése a jövőben a vállalati kiberbiztonság egyik fontos területévé válhat. A CrowdStrike pedig a hagyományos informatikai védelmi szolgáltatások mellett ezen a piacon is jelentős növekedési lehetőséget lát.
A vállalati AI terjedését a biztonsági megoldások is meghatározhatják
Az AI Kill Switch bevezetése jól mutatja, hogy a mesterséges intelligencia vállalati alkalmazásában egyre nagyobb hangsúlyt kapnak a biztonsági szempontok.
Miközben a cégek továbbra is a hatékonyság növelését, a költségek csökkentését és az üzleti folyamatok automatizálását várják az AI-ügynököktől, egyre fontosabbá válik számukra az is, hogy ezek a rendszerek ellenőrizhetően működjenek.
Az Anthropic és a CrowdStrike együttműködése alapján bizonyos vállalati ügyfelek már nem is hajlandók megfelelő biztonsági garanciák nélkül alkalmazni az autonóm AI-megoldásokat.
Ez a kiberbiztonsági piac számára is új lehetőségeket teremthet. A szolgáltatóknak a jövőben nemcsak a hagyományos informatikai infrastruktúrát és annak felhasználóit kell védeniük, hanem az egyre önállóbban tevékenykedő mesterségesintelligencia-ügynökök működését is ellenőrizniük kell.
A CrowdStrike számára az új piac megnyitása különösen fontos lehet a technológiai részvények gyengélkedése közepette. A vállalat papírjai október 6-án még 278,86 dolláros történelmi csúcson zártak, azóta azonban nagyjából 12 százalékot veszítettek értékükből.
A társaság arra számít, hogy az AI-ügynökök biztonságával kapcsolatos növekvő kereslet új növekedési lehetőségeket nyithat meg előtte.
Az autonóm rendszerek terjedésével ugyanis egyre több vállalat számára válhat alapvető követelménnyé, hogy az AI-ügynökök ne csupán képesek legyenek önállóan elvégezni a rájuk bízott feladatokat, hanem működésük minden pillanatban ellenőrizhető és szükség esetén azonnal megszakítható legyen.
(Forrás: CNBC)
(Borítókép: AI-generált)
Szólj hozzá