De hogyan látják ugyanezt azok a szakemberek, akik maguk is meghatározó szerepet játszottak a mai AI-technológiák létrejöttében?
Az elmúlt napokban egymást érték az AI-biztonsági figyelmeztetések. Az Anthropic, az OpenAI és a Google DeepMind kutatói egyaránt arra hívták fel a figyelmet, hogy a technológia fejlődése súlyos, akár katasztrofális kockázatokat is magában hordozhat.
Az AI-iparág több ismert vezetője, köztük Sam Altman, Dario Amodei, Demis Hassabis és Elon Musk is egyetértett abban, hogy indokolt lehet a fejlesztések ütemének lassítása és a szabályozói felügyelet megerősítése.
A vita Washingtonban is egyre élesebbé vált. A Kongresszus demokrata és republikánus tagjai közül is többen olyan törvényjavaslatokat szorgalmaztak, amelyek korlátoznák az AI fejlődését. Donald Trump amerikai elnök ezzel szemben hétfőn élesen bírálta a mesterséges intelligencia szigorúbb szabályozását sürgető felhívásokat.
A kérdés így egyre hangsúlyosabbá válik: mit gondolnak az egzisztenciális kockázatokról azok, akik maguk is hozzájárultak a modern mesterséges intelligencia létrejöttéhez?
Az AI úttörői is komolyan veszik a figyelmeztetéseket
Yoshua Bengio kanadai informatikus, a modern mélytanulás egyik meghatározó úttörője szerint különösen fontos odafigyelni arra, mit mondanak a vezető AI-laboratóriumok kutatói.
A vezető AI-laboratóriumok kutatói egyedülálló rálátással rendelkeznek a legfejlettebb modellekre. A kutatók gyakran már hónapokkal azelőtt látják a kapcsolódó kockázatokat, hogy a modelleket a nyilvánosság számára elérhetővé tennék. Nézőpontjuk létfontosságú ahhoz, hogy a társadalom megfelelő tájékoztatást kapjon, ezért ezt nagyon komolyan kell venni.
Bengio azt követően fogalmazta meg álláspontját, hogy Jacob Coxon, az Anthropic kutatója bejelentette távozását. Coxon korábban arra figyelmeztetett, hogy az AI fejlődése akár az évtized végére is egzisztenciális veszélyt jelenthet az emberiségre.
Bengio múlt pénteki blogbejegyzésében arról írt, hogy a jelenlegi AI-rendszerek már ma is rendelkeznek olyan hackelési képességekkel és meggyőzőerővel, amelyekkel súlyos károkat lehet okozni, ha az emberi érdekekkel ellentétes célokra használják őket.
Szerinte a közelmúlt eseményei azt is megmutatták, hogy az AI-rendszerek már képesek napokon vagy akár heteken át tartó feladatok és tervek végrehajtására. Ha hosszú távú stratégiai képességeik tovább javulnak, a kapcsolódó kockázatok is jóval súlyosabbá válhatnak.
Hinton szerint előbb kell megoldást találni, mint hogy elveszne az irányítás
Geoffrey Hinton, a Torontói Egyetem professor emeritusa, a neurális hálózatok és a mélytanulás egyik legismertebb úttörője szintén komoly kockázatokat lát.
Amikor a BBC szeptember 10-én arról kérdezte, hogy szerinte nagyobb-e 10 százaléknál annak az esélye, hogy az AI egy évtizeden belül az emberiség pusztulásához vezet, Hinton úgy válaszolt, hogy ezt rendkívül nehéz megbecsülni.
Érvelése szerint korábban még soha nem kerültünk hasonló helyzetbe: az emberiség még nem hozott létre olyan rendszereket, amelyek rövid időn belül intelligensebbé válhatnak saját alkotóiknál. A 10 százalékos kockázatot nem tartotta „ésszerűtlennek”, ugyanakkor hozzátette, hogy valójában senki sem tud megbízható valószínűséget rendelni egy ilyen forgatókönyvhöz.
Hinton szerint az AI-rendszerek képesek lehetnek rendkívül veszélyes biológiai vírusok megtervezésére, számítógépes kártevők létrehozására és pusztító kibertámadások végrehajtására. Emellett számos más módon is veszélyt jelenthetnének az emberiségre, ha céljaik összeütközésbe kerülnének az emberi érdekekkel.
Ezért szerinte alapvető kérdés, hogyan lehet ezeket a rendszereket úgy megtervezni, hogy ne alakuljanak ki bennük ilyen törekvések.
Két lehetséges jövő áll előttünk. Az egyikben még azelőtt kitaláljuk, hogyan kezeljük ezeket a veszélyeket, hogy kikerülnének az irányításunk alól, a másikban pedig nem.
Gomez szerint a környezet biztonsága lehet a kulcs
Aidan Gomez, a Cohere AI-vállalat vezérigazgatója és társalapítója szintén azok közé tartozik, akik alapvető szerepet játszottak a mai AI-rendszerek technológiai hátterének kialakításában. Gomez egyike volt a 2017-ben megjelent „Attention Is All You Need” című tanulmány szerzőinek, amely megalapozta a mai vezető nyelvi modellek működését.
A szakember a CNBC „The Tech Download” című podcastjának szeptember 1-jei adásában úgy fogalmazott:
Ezek a modellek a valaha létrehozott, illetve valaha látott legerősebb kiberfegyverek. Hihetetlenül jók a sérülékenységek nagy léptékű felderítésében és kihasználásában. A közelmúlt eseményei pedig egy dolgot világossá tettek: a telepítési környezet biztonsága határozza meg a megbízhatóságukat.
Gomez szerint a problémát nem feltétlenül az okozza, hogy az autonóm rendszerekben valamiféle eredendő törekvés lenne az irányításból való kitörésre. Álláspontja szerint sokkal inkább az dönti el a kockázatok mértékét, hogy milyen környezetben működtetik ezeket a rendszereket, és mennyire biztonságos ez a környezet.
Ebből következően úgy véli, a döntéshozóknak az AI szabályozásakor figyelembe kell venniük, hogy az egyes rendszerek eltérő kockázatokat hordoznak. A szabályozást ezért nem lenne célszerű kizárólag a generatív AI fejlesztésében érdekelt nagy technológiai vállalatok szempontjai szerint kialakítani.
Nem ugyanazt tartják veszélyesnek, de a kockázatokat egyikük sem söpri félre
Bengio, Hinton és Gomez eltérő hangsúlyokkal közelítik meg a problémát. Bengio elsősorban a modellek növekvő képességeire és hosszabb távú tervezésére, Hinton az embernél intelligensebb rendszerek kontrollálhatóságára, Gomez pedig a telepítési környezet biztonságára helyezi a hangsúlyt.
Abban azonban mindhárman egyetértenek, hogy a fejlettebb AI-rendszerek kockázatait nem lehet pusztán elméleti problémaként kezelni. A következő évek egyik legfontosabb kérdése az lehet, hogy a technológia fejlődésével párhuzamosan sikerül-e olyan biztonsági és szabályozási megoldásokat kialakítani, amelyek képesek lépést tartani az egyre nagyobb képességű rendszerekkel.
(Forrás: CNBC)
(Borítókép: Depositphotos)
Szólj hozzá