Egy jól felépített történet, valódi alapító, profi vizuális megjelenés és megbízható működés együtt alakította ki azt a bizalmat, amely miatt a fogyasztók hajlandóak voltak prémium árat fizetni egy termékért. A generatív mesterséges intelligencia (Gen AI) azonban gyökeresen átalakítja ezt a környezetet. Ma már akár néhány óra alatt létrehozható egy teljesen fiktív márka a közösségi médiában, amely első ránézésre szinte megkülönböztethetetlen egy valódi vállalkozástól.
Ez a jelenség azonban jóval túlmutat egy egyszerű technológiai érdekességen. Az AI által készített online csalások egyre nagyobb számban jelennek meg a közösségi platformokon, ráadásul mind kifinomultabb eszközökkel próbálják manipulálni a vásárlókat. Az érzelmekre ható történetmesélés, a mesterségesen felépített márkaimázs és az AI-generált videók olyan digitális környezetet teremtenek, ahol a fogyasztók sok esetben észre sem veszik, hogy egy nem létező vállalkozással kerültek kapcsolatba.
Egy megható történet, ami valójában sosem létezett
Az egyik legismertebb eset egy Instagramon terjedő videó volt, amelyben egy fiatal nő arról beszélt, hogy nagyapja hosszú évtizedeken át kézzel készített bőrtáskákat egy apró műhelyben, és most életművét korlátozott ideig online is elérhetővé tették. A videó minden részlete gondosan megkomponált volt: meghitt jelenetek, nosztalgikus háttérzene, érzelmes narráció és egy részletesen kidolgozott családi történet.
A probléma csupán az volt, hogy az egész történet hamisnak bizonyult.
A videóban szereplő „mesterember” nem létezett, a műhely képei mesterséges intelligenciával készültek, a márka mögött pedig egy gyorsan összerakott webshop állt, amely olcsó importtermékeket árult prémium árazással.
Az ABC News riportja szerint ez korántsem egyedi eset. TikTokon, Instagramon és YouTube-on ma már tömegével jelennek meg olyan profilok és márkák, amelyek AI segítségével építenek fel teljes vállalkozói identitásokat. Hamis alapítók, generált gyártási felvételek és mesterségesen létrehozott termékvideók segítségével próbálnak érzelmi kapcsolatot kialakítani a fogyasztókkal.
Az AI-alapú „bizalomgyár”
A módszer egyszerű, mégis rendkívül hatékony. Az AI-t használó csalók pontosan értik, hogy az online vásárlók nem csupán termékeket keresnek, hanem történeteket és érzelmi kötődést is. A családi vállalkozások, a kézműves hagyományok vagy a nehézségekből talpra álló kis cégek narratívája különösen jól működik.
Egy állítólag New Yorkból működő ruházati márka például AI által generált képet tett közzé egy megrongált üzlethelyiségről: betört kirakat, rendőrségi szalagok és drámai hangvételű üzenet kísérte a „mindent kiárusítunk” kampányt. A cél egyértelmű volt: sürgető érzelmi helyzetet teremteni, amely gyors vásárlási döntésre ösztönzi a felhasználókat.
A közösségi média ideális terepet biztosít ehhez. A felhasználók folyamatosan görgetik a tartalmakat, kevés időt fordítanak az ellenőrzésre, és gyakran impulzívan döntenek. Az úgynevezett „scroll-and-buy” mechanizmus éppen azt a kritikus gondolkodást kapcsolja ki, amelyre egy hagyományos webshopban vagy fizikai üzletben nagyobb eséllyel sor kerülne.
A csalások ráadásul sokszor gyorsabban terjednek, mint ahogyan lelepleződhetnének. Mire megérkeznek az első negatív értékelések vagy panaszok, az adott oldal gyakran már eltűnik – vagy új néven, más termékekkel folytatja működését.
Milliárdos károk a közösségi médiában
A probléma súlyosságát jól mutatják az amerikai Szövetségi Kereskedelmi Bizottság (FTC) adatai. A szervezet szerint az amerikai fogyasztók 2025-ben több mint 2,1 milliárd dollárt veszítettek olyan csalások miatt, amelyek közösségi médiás platformokról indultak. Ez nyolcszoros növekedést jelent 2020-hoz képest.
A tényleges veszteség azonban valószínűleg ennél is magasabb, mivel az ilyen visszaélések jelentős részét soha nem jelentik hivatalosan.
A háttérben részben az áll, hogy a generatív AI drasztikusan csökkentette a csalások „belépési költségét”. Korábban komoly befektetés kellett profi reklámvideók, termékfotók vagy hiteles márkaidentitás létrehozásához. Ma viszont néhány jól megírt prompt és néhány AI-eszköz segítségével szinte bárki képes professzionálisnak tűnő online márkát építeni.
Versenyfutás az AI-csalások ellen
A közösségi platformok és online piacterek egyre nehezebb helyzetben vannak. Egyszerre kell gyors és gördülékeny felhasználói élményt biztosítaniuk, miközben ki kell szűrniük azokat az „embereket”, akik valójában nem is léteznek.
A TikTok például 2025 első hat hónapjában több mint 1,4 millió eladói regisztrációt utasított el, 70 millió terméket blokkolt még a megjelenés előtt, és körülbelül 700 ezer eladót távolított el szabálysértések miatt. Ez jól érzékelteti, milyen gyorsan nő az AI által támogatott csalási kísérletek száma.
A platformok azonban gyakran hátrányból indulnak. A mesterséges intelligencia ugyanis nemcsak a védekezést segíti, hanem a csalók kezébe is rendkívül erős eszközöket ad. A deepfake videók, a hamis identitások és az AI-generált dokumentumok egyre nehezebbé teszik a valódi ellenőrzést.
Már nemcsak a tranzakció a kérdés, hanem maga az eladó is
A fizetési szolgáltatók és online piacterek számára ma már sokszor nem az a legnagyobb kihívás, hogy egy tranzakció csalás-e, hanem az, hogy egyáltalán létezik-e a kereskedő a háttérben.
A Visa szerint a kiberbűnözők generatív AI segítségével úgynevezett szintetikus identitásokat hoznak létre. Ezek részben valós, részben kitalált adatokból épülnek fel, és sok esetben képesek átjutni a hagyományos ellenőrzési rendszereken.
Egy hitelesnek látszó LinkedIn-profil, egy professzionális weboldal, néhány AI-generált termékvideó és egy jól megírt márkatörténet gyakran elegendő ahhoz, hogy egy csaló vállalkozás regisztráljon különböző platformokra. Ez különösen veszélyes tendencia, mert az AI nem egyszerűen felgyorsítja a csalásokat, hanem ipari méretben teszi lehetővé azokat.
A digitális bizalom új korszakba lép
A generatív mesterséges intelligencia nemcsak a tartalomgyártást alakítja át, hanem az online hitelesség fogalmát is újradefiniálja. Az internet hosszú időn át arra épült, hogy a bizalom megszerzéséhez időre, következetességre és valódi munkára volt szükség. Az AI azonban lehetővé teszi, hogy mindezt mesterségesen és rendkívül gyorsan lehessen reprodukálni.
A következő évek egyik legfontosabb kérdése ezért az lesz, hogy a platformok, a szabályozók és a felhasználók mennyire tudnak alkalmazkodni ehhez az új digitális valósághoz. Miközben a mesterséges intelligencia óriási lehetőségeket teremt, minden korábbinál könnyebbé teszi azt is, hogy valaki hitelesnek tűnjön anélkül, hogy valóban az lenne.
(Forrás: fintech.hu)
(Borítókép: depositphotos)
Szólj hozzá