Hírességek nevével és arcával gyártott flörtölős chatbotokat a Meta engedély nélkül

A vizsgálat során kiderült, hogy a különböző platformokon: Facebookon, Instagramon és WhatsAppon megosztott chatbotok gyakran valós személyként adták ki magukat, flörtöltek a felhasználókkal, sőt találkozóra is invitálták őket. Néhány felnőtt hírességet imitáló bot fotórealisztikus, szexuális jellegű képeket is generált. 

       A Reuters szerint még kiskorú színészről, a 16 éves Walker Scobellről is létrejött egy nyilvános chatbot, amely élethű félmeztelen képet készített. 

Andy Stone, a Meta szóvivője elismerte, hogy a rendszer hibásan működött, és olyan tartalmak is létrejöttek, amelyeket a cég szabályai tiltottak volna. Hangsúlyozta, hogy a „meztelen, intim vagy szexuálisan utaló képek” készítése nem felel meg a vállalat előírásainak. A Meta közvetlenül a Reuters megkeresése előtt több problémás chatbotot törölt. 

A chatbotok között olyan karakterek is szerepeltek, amelyek dominaként, „a báty forró legjobb barátjaként” vagy szexuális szimulációkat kínáló szereplőként mutatkoztak be, és tízmillió feletti interakciót értek el. 

     Jogászok és szakmai szervezetek szerint a Meta gyakorlata súlyos jogi és biztonsági kérdéseket vet fel. 

 A Stanford Egyetem professzora, Mark Lemley arra hívta fel a figyelmet, hogy Kaliforniában törvény tiltja valaki nevének vagy képmásának kereskedelmi célú felhasználását, és ez az eset vélhetően nem esik a kivételek közé. Duncan Crabtree-Ireland, a színészeket és előadókat képviselő SAG-AFTRA vezetője pedig arra figyelmeztetett: a hírességek komoly veszélynek lehetnek kitéve, ha a rajongók összekeverik őket a digitális hasonmásokkal. 

         A Meta azt közölte, hogy dolgozik irányelvei módosításán, és elismerte: korábbi belső dokumentumaiban tévesen engedélyezték a romantikus beszélgetéseket gyermekekkel is.