A közösségi média új kihívásai: Felháborító tartalmak és algoritmusok hatása
A közösségi média hatalmas szerepet játszik életünkben, azonban egyre aggasztóbbá válik a tartalomkezelés módja. A legfrissebb információk szerint a Facebook és a TikTok, mint a legnagyobb platformok, tudatosan olyan tartalmakat népszerűsítenek, amelyek felháborodást váltanak ki a felhasználókból. A BBC által nyilvánosságra hozott információk alapján, a közösségi médiát uraló cégek, hogy növeljék elköteleződést és felhasználói aktivitást, több káros tartalmat juttattak el a hírfolyamokba, olyanokat, amelyek erőszakkal, szexuális zsarolással és terrorizmussal kapcsolatosak.
A Meta, a Facebookot és Instagramot üzemelő cég, belső források szerint arra utasította mérnökeit, hogy engedélyezzék a határesetnek tűnő káros tartalmak megjelenését a TikTokkal való verseny érdekében. Ennek következményeként a felhasználóknak az összeesküvés-elméletek és nőgyűlölő posztok is megjelentek a hírfolyamukban.
További aggasztó információk érkeztek a TikTok kapcsán, ahol egy alkalmazott arról számolt be, hogy a felhasználói panaszokat kezelő felület ügyei között háttérbe szorították a gyermekeket érintő káros bejegyzések kezelését a politikai tartalmak priorizálásával. Ezen lépések célja a politikai kapcsolataink megőrzése volt, hogy elkerüljük a szigorúbb szabályozásokat.
A TikTok mellett az Instagram Reels bevezetése is az iparváltozás válaszlépése volt, amely egyértelműen jelezte a TikTok gyors felemelkedését. A Meta 700 új fejlesztőt vont be a projektbe, azonban elutasították a gyermekvédelmi szakemberek felvételét. A BBC belső kutatásai szerint a Reels kommentjei között sokkal magasabb arányban jelentek meg a gyűlöletbeszéd és zaklatás esetei, mint az Instagram hagyományos moduljaiban.
Egy Meta szenior mérnöke, Matt Motyl nyilvánosságra hozta azokat a dokumentumokat, amelyek tanúsítják, hogy a cég már tisztában volt az algoritmusának általi káros következményekkel. Motyl kijelentette, hogy a biztonsági személyzet a Reelsért felelős csapatok jóváhagyásától függött, és a „toxikus” tartalmakat a gyengébb elköteleződés miatt nehezen lehetett visszahúzni. Az algoritmus működése következtében a felhasználók továbbra is a káros tartalomra kattintottak, mivel az éppen hogy a legnagyobb érdeklődést keltette.
Válaszul a felvetett aggályokra a Meta kijelentette, hogy a bármilyen állítás, miszerint szándékosan felerősítik a káros tartalmakat anyagi haszonszerzés céljából, egyértelműen téves. A TikTok pedig a vádakat „kitalált állításoknak” minősítette, hangsúlyozva a platform technológiai fejlesztéseit a káros tartalmak kiszűrése érdekében.
Ruofan Ding, aki gépi tanulási mérnökként dolgozott a TikTok ajánlómotorján 2020 és 2024 között, kifejtette, hogy a teljesen biztonságos rendszerek kiépítése nehéz feladat, és a mérnökök számára a tartalmak szűrése nem volt prioritás. A káros bejegyzések eltávolítása egy külön csapat feladata volt, a mélytanuló algoritmusok pedig a felhasználói tapasztalat minőségét paradox módon csökkenthetik, ha nem kezelik megfelelően őket.
Az új algoritmi módosítások eredményeként, amelyekre a TikTok folyamatosan reagált a piaci részesedésért folytatott versenyben, egyre több határeset szerű tartalom nyerte el a népszerűséget, önálló gyűlöletbeszéd, nőgyűlölet illetve rasszista bejegyzések formájában, amelyek megjelenése hasonló problémákat vet fel, mint a Facebook korábbi tapasztalatai.
