Kako generatori tekst-slika postaju laki za izradu, korišćenje i prilagođavanje, AI generisane porno zajednice bujaju na Reditu. Ali te sintetičke seksualne fotografije napravljene su na slikama pravih ljudi za koje nisu dali pristanak
Redit (Reddit) je dugo bio skladište za pornografiju, koja je na ovoj platformi dozvoljena sve dok je dobrovoljna. Sada, kada su sve dostupniji alati veštačke inteligencije (AI) koji pretvaraju tekst u slike, platformu je zatrpala lavina pornografskih slika koje je kreirala AI, čineći ih dostupnim za 57 miliona aktivnih korisnika.
Iako su ove slike lažne, modeli za njihovo kreiranje su obučavani na fotografijama pravih ljudi i mogu da sadrže njihove likove u tragovima, uglavnom bez pristanka, rekli su eksperti za Forbes.
“Osnovni problem kada je u pitanju AI generisana pornografija je što se ona u najvećem obimu zasniva na krađi likova i osobenosti ljudi, pre svega žena”, rekla je Noel Martin, koja je bila žrtva seksualnog dipfejka, a sada je istraživač na Univerzitetu Zapadne Australije.
Forbes je pronašao 14 podredita posvećenih AI generisanoj pornografiji, od kojih je njih 10 nastalo u poslednja dva meseca. Svaki podredit ima hiljade članova i poseta svake nedelje. Jedan od najpopularnijih je “r/unstable_diffusion”, koji postoji od septembra 2022. i ima 54.000 članova. Drugi ima više od 60.000 članova.
Redit ima opciju za “bezbednu pretragu” kako bi se sadržaj za odrasle sakrio prilikom uobičajene pretrage. Ali bez aktiviranja ovog “prekidača” pretraga pod pojmom ”AI pornografija” rezultira sa više od 20 foruma na kojima se postavlja i deli materijal za odrasle nastao uz pomoć veštačke inteligencije. Neki korisnici plaforme u tim podreditima postavljaju ili prodaju AI generisane seksualne dipfejkove pravih ljudi.
Kako alati veštačke inteligencije za pretvaranje teksta u sliku postaju sve sofisticiraniji, a njihovi proizvodi realističniji, korisnicima postaje teško ne samo da razlikuju šta je pravo a šta ne, već i šta je nastalo uz nečije odobrenje a šta bez njega.
Početkom aprila neki korisnici Redita su bili prevareni tako što su platili 100 dolara za fotografije 19-godišnje devojke Klaudije, koje su napravljene uz pomoć AI alata stejbl difjužen (Stable Diffusion), objavio je magazin Roling Stoun. Eksperti kažu da su sistemi veštačke inteligencije koji stvaraju AI pornografiju obučavani na milionima fotografija pravih ljudi, najčešće bez njihovog znanja ili odobrenje, kao i na osnovu slika drugih entiteta.
Umetnici i platforme za skladištenje fotografija poput Getija (Getty Images), nedavno su zbog kršenja autorskih prava tužli AI alate za pretvaranje teksta u sliku, poput Stabiliti AI (Stability AI) i Middžurni (Midjourney).
Jedna žrtva seks trafikinga, koja je bila primoravana da pred kamerom ima seksualni odnos sa drugim ženama, rekla je za Forbes da veruje da upotreba njenih slika ili snimaka za treniranje veštačke inteligencije predstavlja kršenje njene privatnosti. Žrtva koja je anonimno govorila za Forbes, plašeći se da će snimci na kojima se nalazi ponovo postati aktuelni, rekla je da su njeni seksualno eksplicitni snimci završili na Reditu i drugim platformama bez njene dozvole i kasnije su uklonjeni.
“Ljudi koji i dalje imaju kopije tih snimaka krše moja prava. Ako bi oni delili te kopije javno i potom stvarali novi sadržaj s mojom slikom i distribuirali ga i trenirali AI sisteme, to bi značilo da ja kao osoba imam nula kontrole ili mogućnosti da to zaustavima”, rekla je devojka za Forbes.
Pornografija stvorena veštačkom inteligencijom počela je da se pojavljuje i na drugim platformama, poput Tvitera i Instagrama. Međutim, dominacija se nastavlja na Reditu, delom i zbog toga što platforma dozvoljava korisnicima da ostanu anonimni i ne zabranjuje im deljenje seksualno eksplicitnog sadržaja.
Velika baza podataka
Sama platforma je bila korišćena za treniranje velikih jezičkih modela, a sada zahteva da joj za to bude plaćeno: generalni direktor Redita Stiv Hafman je u nedavnom intervjuu za Njujork tajms rekao da želi da Gugl, Majkrosoft i OpenAI plate za to što koriste podatke i konverzacije sa Redita za treniranje njihovih algoritama.
“Reditov korpus podataka je veoma vredan. Ali nema potrebe da svu tu vrednost besplatno predamo najvećim svetskim kompanijama”, kazao je Hafman Njujork tajmsu.
Redit je nedavno saopštio da će zatvoriti svoje API podatke, koji su bili otvoreni od 2008. godine, a trećim stranama planira da naplaćuje “premijum pristup” podacima.
Uz podršku “teškaša” ko što su Andersen Horovic i Sekvoja kapital, Redit je poslednji put procenjen na 10 milijardi dolara, pošto je prikupio 700 miliona u rundi Serije F u avgustu 2021. Sa 1,9 milijardi ukupnog finansiranja, navodno planira da izađe na berzu 2023. Redit je ostvario prihod od 470 miliona dolara uglavnom od oglasa i premijum pretplata, prema procenama Statiste.
I dok kompanija tvrdi da ne postavlja oglase, niti monetizuje sadržaj za odrasle, eksperti kažu da samo dozvoljavanje postavljanja takvog sadržaja, pravog ili veštačkog, privlači više korisnika na platformu i podstiče angažovanje.
“Iako nema reklama na podreditima, i dalje imaju koristi od činjenice da ti sadržaji dovlače veliki broj ljudi”, kazala je Sofi Medoks, koja se bavi istraživanjem seksualnog nasilja u sajber prostoru.
Korisnici koji dođu na platformu zbog pornografije posećuju i druge stranice i podredite, koji ne sadrže sadržaj koji nije podesan za posao (NSFW), rekao je Džejmi Koen, profesor društvenih mreža i advertajzinga na CUNY koledžu.
“Redit prati posete stranica i podredita i potom oglašivačima šalje personalizovane podatke koji im nude nove pristupe”, dodao je.
Kopanje po internetu u potrazi za AI devojkama
I dok je Redit najveća društvena mreža koja AI pornografiju nudi desetinama miliona korisnika, niz specifičnih AI pornografskih sajtova pokrenuo je “prodavnice” kako bi to i unovčio.
Većina generatora AI pornografije, poput PornJourney, PornPen, PornJoy i SoulGen, naplaćuju premijum pretplatu i u pozadini su povezani sa nalozima naDiskorduili Patreonu, koje vode anonimni korisnici. Njihovi sajtovi prikazuju niz pornografskih sadržaja koje je stvorila veštačka inteligencije, sa različitim opcijama koje se tiču etničkog porekla ili tipova tela, kao i uputstvima kako da se naprave – svi sa malo ili nikakvim odricanjem od odgovornosti kako je sistem treniran i na kojim slikama.
U tom cilju, sajtovi uključuju odricanje od odgovornosti za sadržaj nastao uz pomoć ovih alata: “Svako generisanje sadržaja na ovom sajtu koje liči na prave ljude je čista slučajnost. Ova AI odražava predrasude i zablude koje su prisutne u podacima za trening”.
Jedan takav generator AI slika PornJourney je pokrenut u martu 2023. Korisnicima naplaćuje 15 dolara mesečno kako bi mogli da prave “AI devojke” koje izgledaju “realno i poput ljudskih bića”, navodi se na sajtu.
“Obezbeđivanje autentičnih i detaljnih fotografija AI devojaka je skupo, što nas tera da konstantno ulažemo u naše servere”, navodi se na sajtu u odeljku “česta pitanja i odgovori” (FAQ).
PornPen, koji mesečno ima dva miliona korisnika i 12.000 njih koji mesečno plaćaju 15 dolara kako bi imali pristup alatima za pravljenje pornografskih sadržaja uz pomoć veštačke inteligencije, nastao je na Stejbl difjužen AI modelu i izvoru fotografija iz baze nazvane LAION, koja sadrži oko šest milijardi slika iz javno dostupnih sadržaja na internetu. Ova ogromna baza uključuje fotografije slavnih ličnosti, manekena, političara… Neprofitni sajt poručuje: “Naša preporuka je da se baza koristi u istraživačke svrhe”.
Tori Rusej, zastupnik u američkom Nacionalnom centru za seksualnu eksploataciju (NCOSE) kaže da većina pornografskih AI generatora koji pretvaraju tekst u sliku, kao što su Anstejbl difjužen (Unstable Diffusion) i Porn Pen, koriste “otvoreni izvor” modele Git haba (GitHub) ili Haging fejs (Hugging Face) kako bi preuzeli slike sa porno sajtova i profila na društvenim mrežama i napravili bazu seksualno eksplicitnih slika.
Forbes je pronašao najmanje pet zbirki podataka na Githabu za pretraživače na internetu, koje se mogu koristiti za preuzimanje fotografija i videa sa sajtova kao što su Pornhab i Xvideos, kao i sa društvenih mreža poput Tvitera, Instagrama i TikToka, a sve da bi se izgradili sistemi veštačke inteligencije. Pornhab i Xvideos nisu odgovorili na zahtev da prokomentariš ove navode.
“Anstejbl difjužen je poput rođaka Stejbl difjužena. Ono što oni rade je da preuzmu njegov kod, premeste ga i naprave svoju bazu zbirki podataka zasnovanu samo na pornografskim i ‘golišavim’ fotografijama”, kaže Rusej, koji je istraživao kako se veštačka inteligencija koristi za pravljenje pornografije.
Poznate ličnosti ženskog pola, političari i novinari će najverovatnije postati žrtve AI pornografije jer je velika količina njihovih vizuelnih sadržaja dostupna onlajn, istakao je Rusej. Ove osobe su i u najvećem riziku od pravljenja dipfejkova s njihovim likom.
Reditova siva zona
Redit je pokušao da razjasni svoj stav o ovoj novonastaloj oblasti seksualno eksplicitnog sadržaja tako što je zabranio objavljivanje takvog sadržaja bez pristanka, uključujući “prikaze koji su lažirani”, odnosno AI dipfejkove – kada algoritam generiše lažne slike pravih osoba.
Sajt takođe zabranjuje ”AI generisan materijal ako je prezentovan u obmanjujućem kontekstu”, naveo je portparol Redita.
Kompanija kaže da kombinacija automatizovanih alata i njen tim za bezbednost zajedno rade na otkrivanju i uklanjanju eksplicitnog sadržaja objavljenog bez pristanka. Međutim, ne uspevaju da uhvate sve.
“Redit je takođe poznat po svojim labavim granicama između toga šta je moralno upitno i šta je zabranjeno na Reditu. Tako da AI generisana pornografija potpada u Reditovu sivu zonu”, kazao je Rusej.
Dipfejkovi, eksplicitni seksualni sadržaj objavljen bez pristanka i pornografija stvorena od strane veštačke inteligencije – svi zajedno se nalaze u istom bazenu pornografskih slika koje se recikliraju u novim slikama koje pravi veštačka inteligencija. Ali važno je napomenuti da se AI pornografija, koja stvara potpuno nove osobe koje se ne mogu identifikovati, razlikuje od seksualnih dipfejkova u kojma su glave i likovi ljudi digitalno prilepljeni na tuđa tela.
Istraživač i žrtva dipfejka Martin kaže da se sa posledicama ovoga suočila pre 10 godina, mnogo pre nego što je postojala generativna veštačka inteligencija. Tada je neko fotošopirao njene selfije kako bi napravio pornografske slike i snimke na kojima se, navodno, nalazi. S tehnološkim napretkom poslednjih godina, postaje sve teže razlikovati AI generisanu pornografiju od dipfejkova, kaže Marin.
Poseban izazov su maloletnici
Nikola Henri, koji je poslednjih 20 godina na Kraljevskom tehnološkom institutu u Melburnu izučavala tehnološki izazvano seksualno nasilje, kaže da AI pornografija u poređenju sa seksualnim dipfejkovima na prvi pogled može da izgleda bezazleno. Međutim, kada se pogleda bliže, neke slike pokazuju tragove da su veštačke inteligencije možda obučavane na fotografijama maloletnika.
“Videla sam neke od AI slika na Reditu i lica ne izgledaju kao da su u pitanju odrasle žene, već devojčice, što je zabrinjavajuće jer da su prave – te slike bi mogle da se kvalifikuju kao seksualno zlostavljanje dece”, rekla je Nikola Henri.
Proizvođač AI pornografije Anstejbl difjužen je pokušao da ovaj problem zaobiđe zabranjujući svojim korisnicima da koriste alat kako bi stvorili materijal koji predstavlja seksualno zlostavljanje dece (CSAM) i pokušavajući da sakupi fotografije za koje postoji pristanak, tražeći od ljudi da im ustupe u zamenu za besplatno korišćenje AI pornografskog generatora. Sada tvrdi da u svom posedu ima 15 miliona slika koje su korisnici donirali bazi za treniranje veštačke inteligencije.
Medoks kaže da čak i ako se ovi alati koriste za seksualno izražavanje i istraživanje, oni postavljaju nerealna i nezdrava očekivanja po pitanju izgleda tela i seksualnih odnosa.
Krstareći kroz AI generisani erotski sadržaj na Reditu i Tviteru, stiče se uvid da ovi prikazi odražavaju seksualne stereotipe i rasne predrasude, prisutne i u mejnstrim medijima, kaže Medoks.
“Zato što ovi alati uče od slika koje već postoje, ili od teksta koji je već napisan. Kada im zatražite da naprave mnogo prikaza seksualno marginalizovanih grupa ili kviri trans osoba, često su škrti u tome”, dodala je.
Autorska prava glumaca
AI sistemi remiksuju sadržaj sa sajtova kao što su Pornhab and Xvideos, što stvara novi problem porno glumcima koji polažu autorska prava na svoj sadržaj, ukazuje Medoks.
Pornoglumci i platforme koje prikazuju njihov sadržaj zarađuju od pretplata i reklama. Ali za sada nisu plaćeni ukoliko se njihove slike koriste za stvaranje AI pornografije. Glumci i platforme koji trpe finansijske gubitke zbog veštačke inteligencije preuzeli su akcije proiv AI alata kao što su Stejbl difjužen, zbog korišćenja slika bez nadoknade. Generativna AI pornografija može da izazove sličan protest u celoj pornografskoj industriji, rekla je Medoks.
Redit je tradicionalno znao da ugosti više oblika seksualno eksplicitnog i seksualno uznemirujućeg sadržaja. Godinama pošto su kontroverzni podrediti poput “r/jailbait and r/creepshots” uklonjeni sa platforme, seksualno eksplicitne fotografije iz zabranjenih zajednica se i dalje pojavljuju.
Raši Šrivastava, novinarka Forbes
