A kutatók figyelmeztetnek arra, hogy a Meta mulasztásainak súlyos hatásai lehetnek a fiatalokra.
Dán kutatók egy különleges kísérlet keretében egy privát Instagram profilt hoztak létre, amely hamis képeket mutatott be 13 éves fiatalokról. Az oldalon 85 olyan képet osztottak meg, amelyek vért és borotvapengét ábrázoltak, és a tartalom fokozatosan egyre drámaibbá vált, sőt, egyes posztok önkárosításra is ösztönöztek - számolt be róla a The Guardian.
A kutatás célja az volt, hogy értékeljék a Meta által tett kijelentést, amely szerint jelentős előrelépéseket értek el a káros tartalmak eltávolítására szolgáló folyamataikban, és hogy ezekhez már mesterséges intelligenciát is alkalmaznak.
A technológiai cég korábban azt nyilatkozta, hogy a káros tartalmak 99%-át még a bejelentések érkezése előtt sikerül eltávolítania.
A Digitalt Ansvar álláspontja szerint a Meta platformjának nem megfelelő moderálása arra figyelmeztet, hogy nem tartja be az uniós jogszabályokat. Az Európai Unió digitális szolgáltatásokról szóló törvénye megköveteli a nagy digitális szolgáltatóktól, hogy "azonosítsák a rendszerszintű kockázatokat, beleértve a fizikai és mentális jólétre gyakorolt előrelátható negatív hatásokat".
A Meta szóvivője kiemelte: "Az önkárosításra ösztönző tartalmak ellentétesek a szabályainkkal, ezért amint észleljük őket, azonnal eltávolítjuk. 2024 első felében több mint 12 millió, öngyilkossággal és önkárosítással kapcsolatos anyagot töröltünk. Az év elején bevezettük az Instagram Teen Accounts szolgáltatást, amely külön figyelmet fordít a tinédzserek profiljainak ellenőrzésére. Ennek köszönhetően jelentősen csökkent a valószínűsége, hogy érzékeny tartalmakat ajánljunk nekik, és sok esetben teljesen el is rejtjük ezeket a posztokat" - tájékoztatott a vállalat.
Egy dán kutatás arra a megállapításra jutott, hogy az Instagram nem csupán passzívan szemléli az önkárosító tartalmakat, hanem éppen ellenkezőleg, az algoritmus működése révén elősegíti azok elterjedését. A tanulmány megállapításai szerint "az Instagram algoritmusának szerepe kiemelkedően fontos az önkárosító közösségek kialakulásában és terjedésében."
Az Observer számára Ask Hesby Holm, a Digitalt Ansvar vezérigazgatója kifejtette, hogy a cég számára meglepőek voltak az eredmények, mivel arra számítottak, hogy idővel figyelmeztetniük kell a platform felhasználóit. "Az önkárosító képek megfelelő moderálásának elmulasztása komoly következményekkel járhat, és szoros kapcsolatban áll az öngyilkossági esetekkel" - tette hozzá.
Ahogy már említettük, márciusban a Meta tanácsadó pszichológusa lemondott a pozíciójáról, mivel véleménye szerint az Instagram és a Facebook anyavállalata valójában nem elkötelezett a felhasználók jólétének és biztonságának megőrzése iránt.
