A mesterséges intelligencia a barátunk vagy az ellenségünk?
Nekem hiszel vagy a szemednek? – így szól egy ismert vicc poénja. A technológia viszont mára olyan korszakba lépett, hogy már a szemünknek sem hihetünk. A deepfake és nudifikáció lesz a következő témánk. Ha nem tudják, mik ezek, semmi probléma, mindjárt elmagyarázzuk, aztán szakemberekkel beszélgetünk arról, hogy egy-egy újítást miért mindig előbb rossz célokra használnak.
Az internet hőskorában még viszonylag egyszerű volt eldönteni, mi valódi és mi hamis. Egy elmosódott fotó, egy rosszul vágott videó gyorsan lebuktatta a manipulációt. Ma azonban egyre nehezebb a dolgunk. A deepfake technológia megjelenésével eljutottunk oda, hogy akár egy tökéletesen valósághű videót is láthatunk egy olyan emberről, aki valójában soha nem mondta vagy tette azt, amit a felvételen látunk.
Kezdjük az elején. Mi az a deepfake? A deepfake kifejezés a deep learning, vagyis mélytanulás és a fake, vagyis szavak összevonásából született. Olyan mesterséges intelligencián alapuló technológiát jelöl, amely képes arcokat, hangokat vagy akár teljes személyiségeket digitálisan lemásolni és más felvételekre „ráilleszteni”. Az eredmény gyakran annyira meggyőző, hogy laikus szemmel szinte lehetetlen megkülönböztetni a valóditól.
A deepfake-ek mögött általában neurális hálók állnak, amelyek hatalmas mennyiségű kép- és hanganyagot elemeznek. Ezekből megtanulják, hogyan mozog egy arc, hogyan formálódnak a szavak beszéd közben, vagy milyen hanglejtése van egy adott embernek. Minél több az adat, annál pontosabb és életszerűbb lesz a végeredmény. Ezzel lehet játszani, hiszen akárki számára elérhető például a telefonján, de veszélyt is jelenthet.
A technológiát eredetileg ártalmatlan célokra is használták: filmekben elhunyt színészek „visszahozására”, videojátékok fejlesztésére vagy humoros internetes tartalmak készítésére. A probléma ott kezdődik, amikor a deepfake-et megtévesztésre használják. Politikai kampányokban hamis nyilatkozatok terjesztésére, közszereplők lejáratására vagy akár magánszemélyek zsarolására is alkalmas lehet. Különösen veszélyesek az olyan deepfake videók, amelyek botrányos vagy kompromittáló helyzetbe hoznak valakit, ezek komoly lelki, társadalmi és jogi következményekkel járhatnak.
A deepfake-et nehéz felismerni, de nem lehetetlen. Erről beszélgetünk hamarosan vendégeinkkel. De gyanús lehet a természetellenes szemmozgás, a furcsa arckifejezések vagy az apró hanghibák. Emellett kutatók és technológiai cégek folyamatosan fejlesztenek olyan algoritmusokat, amelyek kifejezetten a deepfake-ek felismerésére szolgálnak. Ez azonban egyfajta fegyverkezési verseny: ahogy javul a felismerés, úgy finomodnak a hamisítási technikák is.
A deepfake egyik nagyon gyomorforgató felhasználása a nudifikáció. A fogalom olyan digitális manipulációkat takar, amelyek során valakit, leggyakrabban nőket, mesterséges intelligencia vagy képszerkesztő eszközök segítségével meztelennek ábrázolnak, anélkül hogy az érintett ehhez bármilyen formában hozzájárult volna.
Hogyan működik mindez? A legtöbbször úgy, hogy egy nyilvánosan elérhető fotót az algoritmus „levetkőztet”. Az így készült kép megtévesztően valósághű, és gyakran pornográf tartalmak között terjed tovább. Ugyan nem valódi meztelen képekről van szó, hiszen az nem az áldozat valódi teste, a sértett mégis ugyanúgy elszenvedi a megszégyenítést, a zaklatást és a fenyegetettséget, mintha a kép valódi lenne. Ezt a módszert szakértők már digitális nemi erőszakként is definiálták.
Számos ország jogrendszere még csak most próbál lépést tartani a technológiai fejlődéssel. Bár egyre több helyen jelennek meg olyan törvények, amelyek a hozzájárulás nélküli intim képek készítését és terjesztését büntetik, az internetes nudifikáció gyakran még mindig a jogi szürkezónában mozog. A bizonyítás nehéz, az elkövetők sokszor névtelenek, a platformok reakciója pedig lassú vagy következetlen.
Védekezni tehát nem nagyon tudunk a technológia rosszszándékú felhasználása ellen. Fontos a médiatudatosság fejlesztése, azaz hogy kritikusan viszonyuljunk az online tartalmakhoz, különösen akkor, ha azok érzelmekre hatnak vagy szenzációs állításokat tesznek. A technológia fejlődésével párhuzamosan tehát a kritikus gondolkodásnak kell az egyik legfontosabb készségünkké válnia.
