A 2025 októberében közzétett tanulmányról kiderült, hogy maga is számos AI-hallucinációt tartalmazott. A problémás állításokat és hivatkozásokat a GPTZero kutatócég tárta fel, az esetet pedig a Financial Times is megerősítette. A jelentésben szereplő 45 hivatkozás közül mindössze öt vezetett valóban a megfelelő forráshoz. Így egy olyan anyag bukott el saját AI-használatán, amelynek éppen azt kellett volna bemutatnia, miként alkalmazhatják a vállalatok megbízható módon a mesterséges intelligenciát.
Mindössze öt helyes hivatkozás a 45-ből
A GPTZero vizsgálata alapján a tanulmány 45 hivatkozásából csupán öt bizonyult pontosnak. A fennmaradó forrásmegjelölések egy része kitalált volt, más részük átírt formában szerepelt, míg több hivatkozás annyira általánosnak bizonyult, hogy érdemben nem lehetett ellenőrizni. A kutatócég külön kifejezést is használt a jelenségre: „vibe citing”. Ez olyan hivatkozásokat takar, amelyek első látásra hitelesnek tűnnek, de alaposabb ellenőrzés után nem támaszthatók alá valós forrásokkal.
A jelentés több ismert nagyvállalatot és szervezetet is sikeres AI-bevezetési példaként említett. A UBS esetében például azt állította, hogy a pénzintézet AI-ügynököket alkalmaz befektetési tanácsadásra, kockázatkezelésre és compliance-feladatokra. Sergio Ermotti vezérigazgató vállalata azonban cáfolta ezeket az állításokat. A UBS-nél valóban több mint 280 aktív AI-projekt fut, és működik a Red nevű AI-asszisztens is, önálló döntéshozatalra képes AI-ügynököket azonban nem használnak. Hasonlóan hibás állítások jelentek meg a Transport for London, a Svájci Államvasutak és az Emirates kapcsán is.
A KPMG mellett az EY és a Deloitte is érintett
A KPMG hivatalos reakciója visszafogott hangvételű volt. A vállalat közölte, hogy kiemelten fontosnak tartja publikált anyagainak pontosságát és integritását. A jelentést eltávolították, és vizsgálják a publikáció körülményeit. A KPMG azt is hangsúlyozta, hogy munkatársaitól elvárja az AI felelős használatára vonatkozó belső irányelvek betartását, beleértve az emberi felügyeletet és a független forrásellenőrzést is.
Az eset ugyanakkor nem elszigetelt, hanem egy tágabb iparági problémára világít rá. Az EY 2026 májusában vont vissza egy kiberbiztonsági tanulmányt, miután kiderült, hogy annak 27 hivatkozásából 16 fabrikált volt. A Deloitte egy hasonló ügyet követően egy 440 ezer ausztrál dollár értékű állami megbízás díjának egy részét fizette vissza. A The Register találó megfogalmazása szerint a tanácsadócégek évek óta figyelmeztetik ügyfeleiket az AI-hallucinációk veszélyeire; a GPTZero szerint a KPMG most gyakorlatilag élő példát szolgáltatott erre.
Mit üzen az ügy a magyar tanácsadói piacnak?
A Big Four szereplői Magyarországon is meghatározó pozíciót töltenek be. A KPMG, a Deloitte, az EY és a PwC több ezer munkavállalót foglalkoztatnak hazánkban, és rendszeresen készítenek tanulmányokat banki, állami, valamint nagyvállalati ügyfelek számára.
A mostani eset két fontos tanulsággal szolgálhat a magyar piac számára. Az első, hogy az AI-eszközökkel készített anyagokat továbbra sem szabad emberi kontroll nélkül publikálni. A második, hogy a hivatkozások tételes ellenőrzése – vagyis a „vibe citing” elleni védekezés – mostantól a riportkészítés alapvető követelményévé kell váljon.
A 2026 augusztusától alkalmazandó uniós AI-rendelet elsősorban a magas kockázatú AI-rendszerekre vonatkozik. Egy tanácsadói AI-jelentés önmagában nem feltétlenül ebbe a kategóriába tartozik, a tartalom hitelességéért viselt felelősség azonban ettől még nem kerülhető meg.
A magyar bankok, biztosítók és állami megrendelők számára ezért a kérdés egyre egyértelműbbé válik: ki ellenőrizte a következő tanácsadói anyag hivatkozásait – ember vagy mesterséges intelligencia?
(Forrás: fintech.hu)
(Borítókép: Depositphotos)
Szólj hozzá