A mesterséges intelligencia elterjedése és az online térben eltöltött idő megnövekedése olyan problémák megjelenéséhez vezettek, amelyek eddig vagy nem is léteztek, vagy ennél ritkábbak voltak.
2024 januárjában érkezett a hír, hogy a brit rendőrség szexuális támadás ügyében nyomoz a metaverzumban, vagyis a virtuális valóság egy olyan terében, amely lehetővé teszi a felhasználók számára, hogy interakcióba lépjenek egymással.
A bejelentést egy tizenhat éves lány tette, miután egy felnőtt férfiakból álló csoport megtámadta őt játék közben. Az áldozat hasonló pszichés traumát élt át, mint az, akit fizikailag megerőszakoltak. A rossz hír pedig, hogy ez nem egyedi, elszigetelt eset. A tizenhat éves lányt ért támadást vizsgáló rendőrök rámutattak, hogy a szexuális bűncselekmények a virtuális szférában ma már „elterjedtek”, és ezek a terek a ragadozók táptalajává váltak. A The Economist Intelligence Unit globális tanulmánya szerint a nők 38 százaléka tapasztalt már valamilyen formában online erőszakot, és 85 százalékuk volt már szemtanúja annak, hogy ez más nőkkel is megtörtént.
Hasonló a helyzet a deepfake (olyan tartalmak, amelyekben az arcokat vagy a hangokat kicserélik vagy manipulálják) esetében. Ezt az elmúlt években többségében úgynevezett bosszúpornó készítésére használták. Példának okaért egy videóban bukkant fel Emma Watson (arca), a kamera előtt látszólag épp szexuális aktusra készülvén. Kiderült, hogy a videót megalkotó arccserélő-alkalmazás mögött álló cég célja – amely lehetővé teszi, hogy ugyanezt bármelyik arccal megtehessük egy tetszőleges videóban – épp a termék népszerűsítése volt. A sajtó beszámolója szerint a kampány részeként több mint kétszáz videót készítettek, ráadásul nemcsak Emma Watson képmásával, hanem sok más ismert színésszel, mint például Scarlett Johanssonnal is. Miután ezeket a tartalmakat több millióan látták, azok eltűntek a Meta felületeiről, az alkalmazás pedig az Apple és Google Play áruházakból. Ez azonban nem ad okot a megnyugvásra, mert számos más deepfake alkalmazás közül válogathatnak a felhasználók. Ráadásul ma már igen meggyőző, valósnak tűnő tartalmakat készíthet vele szinte bárki, bárkiről.
Éppen ezért nem nehéz megjósolni, hogy mindezt hogyan használhatják fel fegyverként álhírek terjesztésére, konfliktusok gerjesztésére, politikai botrányok kirobbantására, közszereplők lejáratására vagy emberek zaklatására. A nem konszenzuson alapuló, hamisított szexvideókat például használták már nők elhallgattatására, megalázására és zaklatására. Volt áldozat, aki végül a névváltoztatás mellett döntött, más inkább törölte magát az internet minden felületéről, remélve: így elkerülheti, hogy ismét belefusson a róla készült álvideóba.
A digitális hamisítás következő hullámára nem vagyunk kimondottan felkészülve. Ugyan a legtöbb közösségi média platformja tiltja a deepfake-eket és a félrevezető módon manipulált tartalmakat, de ezek a felületek nem kifejezetten jók az ilyen jelenségek szűrésében. Az Emma Watsont ábrázoló hirdetés jó ideig a Meta platformjain maradt, mielőtt eltávolították volna. A korábban említett deepfake-videók közül pedig sokakat soha nem is távolítottak el. A megoldás valószínűleg a deepfake-felismerő szoftverek leszekn, de még ezek is kezdetleges, kis hatékonysággal működnek. A technológia pedig egyre csak fejlődik.
Szeretném megemlíteni, hogy az Európai Unióban nemrég új szabályozás történt a témakörben. Egy 2022 márciusában kidolgozott irányelv kriminalizálná a nők elleni fizikai és pszichológiai erőszakot, a gazdasági és szexuális erőszakot EU-szerte, offline és online egyaránt. Az Európai Parlament és a Tanács tagjainak idén februárban sikerült kötnie egy politikai alkut a kérdésben. Rögzítették egyebek mellett a szexuális jellegű deepfake-ek, az online zaklatás, a nők ellen irányuló gyűlöletbeszéd, a privát fotók nyilvánosságra hozatala és a kéretlen intim fotók, vagyis a cyber flashing elleni fellépést. A tervezet súlyosbító körülményként tekintene arra, ha közszereplő, újságíró vagy emberi jogi jogvédő ellen történik a bűncselekmény. Emellett akkor is fokozott büntetésre lehet számítani, ha valakit szexuális irányultsága, neme, bőrszíne, vallása, származása vagy politikai meggyőződése miatt céloznak meg.
Tagadhatatlan, hogy egy egyre inkább online, egyre inkább virtuális jövő előtt állunk. Amit ma teszünk – és ami talán még fontosabb, amit nem teszünk – a virtuális terekben terjedő káros viselkedésformákkal szemben, az minden bizonnyal precedenst teremt az elkövetkezendő időkre. Ha továbbra is elutasítjuk a nemi alapú online és virtuális erőszak kérdését, ahogyan ezt nemcsak személyek, de techcégek is rendszeresen teszik, és továbbra is ugyanazt az áldozathibáztató retorikát alkalmazzuk, amelyet a valós világban elkövetett szexuális erőszak áldozatai már behatóan ismernek, akkor a helyzet valószínűleg csak rosszabb lesz.
