Azok a platformok, amelyek célja a felhasználók felhatalmazása és a tudás terjesztése volt, egyre inkább tele vannak dezinformációval, szervezett bot-hálózatokkal és a politikai vagy kereskedelmi érdekeket szolgáló úgynevezett „zoknis báb” fiókokkal.

A vezető kutatók és politikai döntéshozók figyelmeztetnek, hogy gyorsan elérhetjük a fordulópontot: néhány éven belül a dezinformáció mennyisége és kifinomultsága annyira túlterheli a rendszert, hogy „a neten senki sem bízhat meg semmiben”.

Ahogyan egy nemrégiben Indiában tartott csúcsértekezlet kiemelte, a közösségi média gyorsan a legtöbb ember elsődleges információforrásává válik, mégis sokan hiányolják azokat a digitális írástudási készségeket, amelyek szükségesek a manipulált vagy félrevezető tartalmak azonosításához.

Ez különösen akut a fél-városi és vidéki területeken, ahol a szabályozás és a felhasználói oktatás gyenge.

A generatív mesterséges intelligencia eszközök felnagyították a problémát.

Ezek a technológiák megbízható hamis szöveget, képeket és hanganyagot képesek nagy mennyiségben létrehozni, lehetővé téve a rosszindulatú szereplők számára, hogy megszemélyesítsenek hangokat, kitalált eseményeket gyártsanak vagy elrabolják a narratívákat.

A dezinformációs kampány életciklusa most magában foglalja a létrehozást, az algoritmikus ajánlási rendszereken keresztüli felnagyítást, és a kitartást még a cáfolat után is.

Az eredmény: a bizalom csökkenése az intézményekben, a hírügynökségekben és egymásban.

A kormányok, a média szabályozói és az akadémikusok egyetértenek abban, hogy a tét magas.

A Világgazdasági Fórum a dezinformációt a legfőbb rövid távú globális kockázatként azonosítja, amely képes aláásni a demokráciát, a társadalmi kohéziót és a közbiztonságot.

Szabályozási keretek alakulnak, például az Európai Unió Digitális Szolgáltatások Törvénye és az Egyesült Királyság Online Biztonsági Törvénye — de ezek lemaradnak a technológiai változások sebességétől.

A platformok és a szabályozók egyaránt még mindig alkalmazkodnak olyan jellemzőkhez, mint a deepfake-ek, az AI-alapú botok és az elköteleződést a pontosság elé helyező ajánlási rendszerek.

A nagy platformok jelenlegi üzleti modelljének nagy része táplálja a tendenciát: az algoritmusok a polaritást, a szenzációt és a gyors terjedést jutalmazzák, míg a monetizációs rendszerek a felhasználói kattintások magas volumenéből nyereséget húznak, függetlenül azok valóságtartalmától.

Ez a dinamika erős ösztönzőket teremt a dezinformáció előállítására és felnagyítására, gyakran minimális elszámoltathatósággal.

Közben a platformok gyakran kiszervezik a moderálást, vagy átláthatatlan rendszerekre támaszkodnak, amelyek belső működése nincs alávetve független ellenőrzésnek.

Egyes szakértők szerint a kihívás nem csupán a tények további helyesbítéséről szól, hanem egy egész bizalmi ökoszisztéma újjáépítéséről.

A média-írástudási programok, az átlátható algoritmikus tervezés, a vírusos terjedésben jelentkező súrlódás és a jobb felhasználói eszközök gyakran szerepelnek a megoldás részeként.

Például egy kutatási keretrendszer három szakaszra osztja az intervenciókat: azok, amelyek felkészítik az embereket a manipulációval szembeni ellenállásra, azok, amelyek mérséklik a terjedést, és azok, amelyek reagálnak a hamis narratívákra, miután azok életbe lépnek.

Mégis, a gyógymódok ellenére sok megfigyelő pesszimista a rövid távú kilátásokat illetően.

Egy kormány által megrendelt tanulmány figyelmeztetett arra, hogy amint a digitális manipuláció automatizált és skálázható lesz, a rossz szereplők számára a költség-haszon számítás egyre kedvezőbbé válik — ami azt jelenti, hogy az intervenciók küzdeni fognak, hogy lépést tartsanak, hacsak nem történnek strukturális változások.

A kérdés most az, hogy a társadalmak időben cselekszenek-e.

Meg tudják-e változtatni a platformok a nyereségösztönzőiket?

Kényszerítenek-e a kormányok értelmes szabályozásokat anélkül, hogy elfojtanák a szólásszabadságot?

Befogadhatják-e az egyes polgárok a hiteles és a manipulált közötti különbségtételhez szükséges készségeket?

Komoly beavatkozás nélkül a lehetősége annak, hogy „a neten semmiben sem lehet bízni” egyre közelebb kerül, és ezzel együtt a tájékozott demokrácia lehetősége is.

Ebben az értelemben az online igazság válsága nem csupán technológiai probléma — hanem társadalmi, politikai és morális is.

És az akcióra való ablak egyre szűkül.