A megszólalás azért kapott különösen nagy figyelmet, mert nem sokkal korábban egy másik Anthropic-kutató AI-biztonsági aggályokra hivatkozva hagyta el a vállalatot.
Tíz százalék fölé teszi a katasztrofális forgatókönyv esélyét
Evan Hubinger, az Anthropic Alignment Science Leadje az X-en arról írt, hogy ő és több kollégája is komolyan számol azzal a lehetőséggel, hogy a mesterséges intelligencia fejlődése végül az emberiség pusztulásához vezethet. Saját becslése szerint több mint 10 százalék az esélye annak, hogy az AI a következő tíz évben ilyen súlyos következményekkel járjon.
Hubinger ugyanakkor élesen elválasztotta egymástól a jelenlegi modelleket és a jövőben megjelenő rendszereket. Úgy véli, a ma elérhető AI-modellek közvetlen veszélye alacsony. Aggodalmai elsősorban egy olyan szuperintelligens rendszerre vonatkoznak, amely saját képességeit ismételten tovább tudná fejleszteni.
A kutató szerint az Anthropic aktívan dolgozik ezen a problémán, de egyelőre nincs kész válasza arra, hogyan lehetne egy ilyen rendszert megbízhatóan az emberi célokhoz és érdekekhez igazítani.
Biztonsági aggályok miatt távozott egy másik Anthropic-kutató
A vita azt követően erősödött fel, hogy Jacob Coxon, az Anthropic egyik kutatója bejelentette távozását a vállalattól.
Coxon korábban az OpenAI-nál és az Anthropicnál is AI-modellek tanításával kapcsolatos kutatásokon dolgozott. Távozását azzal indokolta, hogy véleménye szerint a vezető AI-cégek túl gyorsan haladnak az egyre fejlettebb, akár önmagukat is továbbfejlesztő rendszerek létrehozása felé.
Megfogalmazása szerint az iparág szereplői egy olyan versenyben vesznek részt, amelynek végpontja egy önmagát fejlesztő szuperintelligencia lehet, miközben az ilyen rendszerek következményeit még nem tudják megfelelően kontrollálni.
Coxon azt is hangsúlyozta, hogy az AI-fejlesztésben dolgozó szakemberek körében az ilyen kockázatokkal kapcsolatos félelmek valódiak. Szerinte nem marketingfogásról vagy figyelemfelkeltő kommunikációról van szó, hanem olyan veszélyről, amelyet a területen dolgozók egy része ténylegesen reálisnak tart.
Az Anthropic sem tud egyszerűen kiszállni a versenyből
Coxon az OpenAI és az Anthropic belső hozzáállása közötti különbségekről is beszélt.
Szerinte az Anthropic munkatársai kifejezetten tisztában vannak azzal, hogy a fejlett AI megjelenése milyen civilizációs következményekkel járhat. A probléma inkább az, hogy a vállalat ettől még nem tud egyszerűen kilépni a technológiai versenyből.
Úgy látja, az Anthropic vezetésében jelen van az a gondolat, hogy ha más vállalatok mindenképpen továbbfejlesztik ezeket a rendszereket, akkor jobb, ha egy olyan szereplő jut el elsőként a fejlettebb AI-hoz, amely komolyan veszi a biztonsági kérdéseket.
Ez azonban éppen azt a problémát erősíti tovább, amelyet a kutatók is kritizálnak. Minden vállalat a versenytársak gyors fejlesztésére hivatkozva indokolhatja a saját tempóját, miközben a biztonsági megoldások könnyen lemaradhatnak a technológiai fejlődés mögött.
Egyre többen lassítanák a fejlesztési tempót
A mostani vita nem elszigetelt jelenség. Az elmúlt hónapokban több vezető AI-kutató és iparági szereplő is jelezte, hogy szükség lehet a legfejlettebb modellek fejlesztési ütemének tudatosabb kontrolljára.
A júliusban megjelent „Pacing the Frontier” című nyilatkozatot többek között az Anthropic társalapítói, Dario Amodei és Jared Kaplan, az OpenAI vezető kutatója, Jakub Pachocki, valamint a Meta AI vezető kutatója, Shengjia Zhao is aláírta.
A dokumentum szerint ahhoz, hogy az AI-ban rejlő lehetőségeket biztonságosan ki lehessen használni, időre lehet szükség az új kockázatok feltérképezésére, a megfelelő biztonsági megoldások kidolgozására és a felügyeleti rendszerek kialakítására.
A kezdeményezés egyik központi problémaként azt emelte ki, hogy egyetlen vállalat számára rendkívül nehéz önként lassítani, ha közben a versenytársai változatlan tempóban folytatják a fejlesztéseket.
Az OpenAI vezető kutatója is hasonló problémára figyelmeztetett
Jakub Pachocki, az OpenAI vezető kutatója szintén hasonló álláspontot fogalmazott meg. Egy nemrég megjelent blogbejegyzésében arról írt, hogy megítélése szerint jelenleg egyik vezető AI-labor sem oldotta meg megfelelően az igazodás és a modellek felügyeletének problémáját.
Pachocki szerint emiatt egyre fontosabb kérdés, hogy meddig folytatható felelősen a modellek jelenlegi, rendkívül gyors skálázása.
A mostani megszólalások azt mutatják, hogy az AI-biztonságról szóló vita már nem kizárólag külső kritikusok és szabályozók között zajlik. A legnagyobb modelleket fejlesztő vállalatok saját kutatói is egyre nyíltabban teszik fel ugyanazt a kérdést: mi történik akkor, ha a technológiai fejlődés gyorsabb lesz annál, mint amilyen ütemben a hozzá kapcsolódó biztonsági problémákat meg tudjuk oldani?
(Forrás: Forbes)
(Borítókép: Depositphotos)
Szólj hozzá