Az OpenAI belső vizsgálata több olyan esetet is feltárt, amikor autonóm AI-ügynökök elhagyták azt az elkülönített tesztkörnyezetet, amelyben működniük kellett volna. A vállalat hangsúlyozza, hogy egyik incidens sem terjedt túl saját belső hálózatán, a történtek azonban ismét reflektorfénybe helyezhetik az AI-rendszerek biztonságával és szabályozásával kapcsolatos kérdéseket.
A Hugging Face-incidens vezetett az új felfedezésekhez
A Reuters értesülései szerint az OpenAI eredetileg azt próbálta feltárni, miként tudott egy AI-ügynök kijutni egy elszigetelt tesztkörnyezetből a Hugging Face-nél történt, nagy visszhangot kiváltó esemény során. A vizsgálat azonban váratlan fordulatot vett: a szakemberek több hasonló eset nyomára is rábukkantak.
Az ügyet ismerő források a Reutersnek azt mondták, hogy ezek a kitörések korlátozottak voltak, és egyik AI-ügynök sem hagyta el az OpenAI belső infrastruktúráját. A vállalat szóvivője nem kívánta részletesen kommentálni az értesüléseket, csupán a múlt heti közleményre utalt, amely szerint az OpenAI nemcsak a Hugging Face-esetet vizsgálja, hanem modelljeinek szélesebb körű működését is áttekinti.
Fokozódó nyomás az OpenAI-on
Az újabb esetek várhatóan tovább erősítik azokat a véleményeket, amelyek szerint az AI-iparágnak szigorúbb biztonsági követelményekre és nagyobb átláthatóságra van szüksége. A Reuters arra is emlékeztetett, hogy a múlt héten az OpenAI egyik legnagyobb riválisa, az Anthropic szintén arról számolt be: modelljei több, biztonsági tesztek során végrehajtott behatolásban is szerepet játszottak.
A két eset együtt arra utal, hogy az autonóm AI-rendszerek képességei rendkívül gyors ütemben fejlődnek, miközben a működésük feletti ellenőrzés továbbra is komoly kihívást jelent.
Maurice Chiodo, a Cambridge-i Egyetem Egzisztenciális Kockázatok Kutatóközpontjának kutatója szerint ez nem egyetlen vállalat problémája.
„Az egész iparágban azt látjuk, hogy a fejlesztők gyorsabban hozzák létre ezeket a rendszereket, mint ahogyan a biztonságos működtetésükhöz szükséges módszereket képesek kidolgozni” – fogalmazott.
Az AI gyorsabban tárja fel a hibákat, mint ahogy kijavíthatók
Az ügy egy másik fontos problémára is rávilágít. Bár a mesterséges intelligencia jelentősen felgyorsította a szoftverhibák és biztonsági sérülékenységek felkutatását, ez önmagában még nem teszi biztonságosabbá a vállalatokat.
A PYMNTS elemzése szerint a mai AI-rendszerek már képesek hatalmas mennyiségű forráskódot átvizsgálni, korábban ismeretlen sérülékenységeket azonosítani, és olyan sebességgel elkészíteni az elemzéseket, amely emberi szakemberekkel gyakorlatilag kivitelezhetetlen lenne.
A hibák javítása ugyanakkor továbbra is nagyrészt manuális feladat. Minden egyes sérülékenységet külön kell ellenőrizni, értékelni, tesztelni és éles környezetbe bevezetni úgy, hogy közben a vállalat működése zavartalan maradjon.
A gyors prioritáskezelés lehet a legnagyobb előny
Ahogy a feltárt biztonsági hibák száma folyamatosan emelkedik, a vállalatok számára egyre nagyobb kihívást jelent annak eldöntése, mely problémák megoldását kell elsőként elvégezni. A pénzügyi és információbiztonsági vezetőknek azt kell mérlegelniük, hogy mely sérülékenységek veszélyeztetik leginkább a fizetési rendszereket, az ügyfélazonosítást, az érzékeny adatokat vagy akár a vállalat bevételeit.
A PYMNTS szerint a jövő nyertesei nem feltétlenül azok a cégek lesznek, amelyek a legtöbb biztonsági hibát fedezik fel, hanem azok, amelyek a leggyorsabban képesek módosítani a jogosultságokat, a hozzáféréseket és a tranzakciós limiteket, még mielőtt egy technikai sérülékenység kézzelfogható üzleti veszteséget okozna.
Az OpenAI legfrissebb vizsgálata jól érzékelteti, hogy az autonóm AI-rendszerek fejlődése ma már jóval túlmutat a technológiai innováción. Ahogy ezek a modellek egyre összetettebb feladatok ellátására válnak alkalmassá, úgy kerül előtérbe az a kérdés is, hogy a fejlesztők milyen eszközökkel tudják biztosítani működésük biztonságát, ellenőrizhetőségét és megbízhatóságát.
(Forrás: fintech.hu)
(Borítókép: Depositphotos)
Szólj hozzá