Reddit förbjuder Deepfakes subreddits med AI-genererade videor, kändisporr borttagen

Under de senaste månaderna har AI-genererad kändiseporr eller Deepfakes blivit ett hett diskussionsämne och den senaste kontroversen för att slå på artificiell intelligens och maskininlärning.

Deepfakes använder i huvudsak artificiell intelligens för att förvandla kändisansikten på porr eller vanliga videor på ett mycket realistiskt sätt. Sedan deras ökade popularitet har Deepfakes med rätta mottagit motstånd från kändisar, sociala mediasidor och internetexperter. Efter att ha förbjudits av Pornhub, Twitter och Discord, praxis att handla AI-genererad kändisporr har också tagits bort från Reddit.

På onsdagen, den sociala media jätten blockerade subreddits inklusive r / deepfakes och r / deepfakeNSFW som användes för att cirkulera AI-genererade kändisporrfilmer. Det är ännu inte klart om andra subreddits som kan ha använt sådana videoklipp kommer att komma under skannern, eller om stötande inlägg i dessa subreddits skulle tas bort.

Reddits uppdaterade policy i frågan säger,

”Reddit förbjuder spridning av bilder eller video som visar någon person i nakenhet eller engagerad i sexuella handlingar som uppenbarligen skapats eller publicerats utan deras tillstånd, inklusive bilder som har blivit falska.

Bilder eller video av intima delar av en persons kropp, även om personen är klädd eller offentligt, är inte heller tillåtet om de uppenbarligen skapats eller publicerats utan deras tillstånd och kontextualiserats på ett välgörande sätt (t.ex. "creepshots" eller "upskirt" -bilder) ). Lägg inte heller ut bilder eller videoklipp från en annan person i det specifika syftet att förfalska uttryckligt innehåll eller begära "lookalike" pornografi. "

Innan förbudet, subreddit r / deepfakes hade mer än 92 000 följare vilket visar hur populärt konceptet med AI-genererad falsk kändisporr är. Underredditen rymde falsk porr av videor från många kändisar, inklusive Taylor Swift, Selena Gomez och Olivia Wilde.

Det är verkligen skrämmande att se hur enkelt det är att skapa falska kändisporrfilmer med artificiell intelligens. Konceptet är inte längre raketvetenskap eller involverar djup kunskap om videoredigering eller artificiell intelligens. Det finns appar där ute som kan utföra ansiktsbyte bara med ett klick på knappen. Det är bra att se att webbplatser för sociala medier och till och med porrwebbplatser vidtar åtgärder för att förbjuda detta icke-konsensuella innehåll.