A Microsoft társalapítója ezért erősebb szövetségi szabályozást sürget az Egyesült Államokban. Gates megszólalása ráadásul éppen akkor érkezett, amikor több friss AI-biztonsági incidens is új lendületet adott a technológia kockázatairól szóló vitának.
Gates szerint az AI-t már nem lehet kizárólag a cégekre bízni
Bill Gates az NBC Newsnak adott interjújában beszélt arról, milyen veszélyeket lát a mesterséges intelligencia gyors fejlődésében. Véleménye szerint a technológia képességei már eljutottak arra a szintre, ahol rosszindulatú felhasználás esetén rendkívül súlyos következményekkel kell számolni.
Különösen attól tart, hogy fejlett AI-rendszerek terroristák vagy ellenséges államok kezébe kerülhetnek. Gates szerint szélsőséges esetben a technológia akár olyan eseményekhez is hozzájárulhat, amelyek egymilliárd ember halálát okozzák.
Éppen ezért úgy véli, az Egyesült Államokban szövetségi szintű szabályozásra van szükség. Olyan jogi kereteket tart indokoltnak, amelyek egyszerre teszik ellenőrizhetőbbé az AI fejlődését és kötelező biztonsági korlátokat állítanak a fejlesztők elé.
Gates szerint az iparági önszabályozás önmagában már nem jelent elegendő védelmet. Bár az állami előírások új kötelezettségeket rónának az AI-vállalatokra, úgy látja, ez nem feltétlenül járna a fejlesztések jelentős lassulásával.
Az elmúlt hetek incidensei újra felszították az AI-biztonsági vitát
Az AI-rendszerek biztonságáról szóló vita az utóbbi hetekben ismét előtérbe került. Ebben több olyan eset is szerepet játszott, amely kétségeket ébresztett azzal kapcsolatban, hogy a vezető fejlesztők mennyire képesek kontroll alatt tartani rendszereik működését.
A Financial Times beszámolója szerint egy OpenAI-rendszer feltörte egy ausztrál közegészségügyi szolgáltatás weboldalát. Az esetet a vállalat hónapokon keresztül nem jelentette az ausztrál kormánynak, amit Anthony Albanese miniszterelnök elfogadhatatlannak nevezett.
Az Anthropic eközben egy másik incidensről számolt be. A vállalat szerint jemeni fegyveresek arra próbálták felhasználni a Claude modellt, hogy ballisztikus rakétákhoz kapcsolódó irányítási, vezérlési és navigációs szoftvert fejlesszenek.
Ezek az esetek azért kapnak egyre nagyobb figyelmet, mert a fejlett AI-rendszerek folyamatosan egyre összetettebb feladatokat képesek önállóan végrehajtani. Ahogy nőnek a képességeik, úgy válik egyre nehezebbé annak meghatározása is, milyen technikai és szabályozási korlátok szükségesek a biztonságos használathoz.
Az AI-vállalatok vezetői sem várnának tovább a szabályozással
A szigorúbb biztonsági keretek igénye már nem csak a technológiai szektoron kívülről érkezik. Az AI-iparág több vezető szereplője is erősebb nemzetközi együttműködést sürget.
Sam Altman, az OpenAI vezérigazgatója és Dario Amodei, az Anthropic vezetője a héten az ENSZ Biztonsági Tanácsa előtt is felszólalt. Mindketten azt szorgalmazták, hogy az Egyesült Államok aktív szerepet vállaljon az AI-biztonsági szabványok nemzetközi kialakításában.
A Financial Times szerint eközben az iparágon belül is egyre gyakrabban merül fel, hogy lassítani kellene a legfejlettebb modellek fejlesztésének ütemét.
Gates ugyanakkor két külön kockázati kategóriáról beszél. Az egyik már rövid távon is fennállhat: terroristák vagy ellenséges államok a jelenlegi AI-rendszereket is felhasználhatják súlyos károkozásra.
Ettől elkülöníti azt a hosszabb távú forgatókönyvet, amelyben egy jövőbeli, rendkívül fejlett mesterséges intelligencia felett az emberiség elveszítheti az irányítást.
Washingtonban is egyre élesebb vita zajlik az AI korlátozásáról
Az AI szabályozása közben egyre hangsúlyosabb politikai kérdéssé vált az Egyesült Államokban. Donald Trump elnök továbbra is fenntartásokkal kezeli a technológia szigorúbb korlátozását, és az AI-biztonsággal kapcsolatos aggodalmak egy részét túlzónak minősítette.
Trump és Hszi Csin-ping kínai elnök New Yorkban tartott találkozója sem vezetett érdemi megállapodáshoz az AI-fejlesztések korlátozásáról.
Ezzel egyre látványosabb különbség rajzolódik ki az amerikai kormányzat és az iparág bizonyos szereplőinek megközelítése között. Míg a kormányzat elsősorban a gyors technológiai fejlődést és az Egyesült Államok vezető pozíciójának megőrzését hangsúlyozza, több AI-vállalat vezetője, valamint Bill Gates is szigorúbb biztonsági keretek kialakítását tartaná indokoltnak.
Gates kijelentése ugyanakkor nem azt jelenti, hogy szerinte a mesterséges intelligencia szükségszerűen egymilliárd ember halálát fogja okozni. Egy szélsőséges kockázati forgatókönyvről beszélt, amelyben rosszindulatú szereplők rendkívül nagy léptékű károkozásra használhatják fel a technológiát.
A vita ezért egyre kevésbé csak arról szól, milyen képességekre tesz szert az AI. Legalább ennyire fontos kérdéssé válik az is, hogy kik férhetnek hozzá ezekhez az eszközökhöz, milyen célokra használhatják őket, és milyen korlátok között tehetik ezt.
(Forrás: Financial Times)
(Borítókép: Depositphotos)
Szólj hozzá