K-pop fans er kendt som en kraft at regne med på internettet, med nogle fans, der holder voldsom troskab og lidenskaber, når det kommer til specifikke kunstnere. På sociale medier bruger nogle obsessive fans generativ AI til at skabe, hvad der i bund og grund er selvindført fan-fiktion – uhyggelige videoer og billeder af dem selv, der kysser, kæler og får forskellige former for lovey-dovey med deres yndlingsidoler. Resultatet er en moderne, teknologidrevet mutation af idolkultur, der tager fankunst til nye yderpunkter, og mange mennesker i K-pop-fansamfund er forståeligt nok ret kede af det.
Brugere på Reddit og forskellige K-pop-fora har udtrykt forargelse over disse dybe falske fantasier og opfordret andre fans til at rapportere dem, der bruger AI-værktøjer til at generere videoer uden samtykke af deres K-Pop-hjerteknusere. I én tråd på K-pop Uncensored subreddit postede en bruger redigerede screenshots fra en AI-genereret video af en anden fan, der viste sig selv blive krammet og kysset på kinden af Keonho fra drengegruppen CORTIS, som er mindreårig. “Nogle fans tror måske, det er harmløst, men hvis du tolererer dette, åbner du døre til meget værre ting i fremtiden,” skrev Reddit-brugeren wbu_lizzie i tråden. “Idolerne gav ikke samtykke til dette, de er rigtige mennesker, der lever deres liv, ikke en masse wattpad / ao3-karakterer.”
“Folk har klippet og klistret den slags[s] af ting for evigt, men jo mere realistiske billederne bliver, desto mere skarpe bliver det psykologisk,” skrev brugeren Goldie_Prawn, i en anden tråd på K-pop Ucensureret kalder AI-brug. “Jeg tror, at selv med traditionel photoshop giver det arbejde og de nødvendige færdigheder et niveau af mental buffer til skaberen, som ikke er der med AI.”
Dr. Sarah Keith, en professor ved MacQuarie University i Australien, som har forsket omfattende i K-pop-fandom, siger, at AI-deepfake-videoerne kommer fra en lang arv af fanskabt indhold, der rækker langt ud over K-pop-verdenen. Fanfiktion og kunst har altid været en væsentlig komponent i fankulturen, og selvom disse kreationer ofte overskrider grænserne for ophavsret, bliver de generelt ikke betragtet som uhyggelige eller udnyttende. Men med fremkomsten af generative AI-værktøjer, der hurtigt kan skabe realistiske billeder og videoer af rigtige mennesker, har Silicon Valley bygget en teknisk løsning til loven og de sociale normer for samtykke.
“K-pop-fans (som alle popkulturfans) har længe været aktive producenter af fanmateriale om deres foretrukne idoler. Disse har dog til dato ikke været ‘overbevisende’ som artefakter, der kunne have involveret idolet selv,” sagde Keith til 404 Media. “Det er et parallelt problem, der involverer både fans og AI-værktøjer. På grund af disse to faktorer er der nu øget mulighed for, at fans kan skabe store mængder indhold, som ikke respekterer idolernes personlige integritet, og som kan distribueres online på måder, der underminerer idolernes omdømme (f.eks. seksualiserede deepfakes).”
Mens mange fans talte imod denne uhyggelige adfærd, pegede andre skylden på K-pop-industriens forretningsmodel, der tilskynder til parasocial fandom, mens de udnytter mange kunstnere og fans.
“Dette er en trist bivirkning af en branche, der i årevis [has] pressede parasociale forhold på deres fans,” skrev Serious-Wish4868, i en tråd om r/kpop-tanker om AI-drevet seksualisering af idoler. “Når idoler og virksomheder konstant presser dig til at udleve dine romantiske og seksuelle fantasier med idoler i alt, hvad de laver fra opslag på sociale medier til live-interaktioner, hvad gør så [you] forventer at ske?”
Men nogle af underholdningsbureauerne, der administrerer K-popartister – og kunstnerne selv – har givet udtryk for, at de heller ikke er glade for situationen. Medlemmer af enormt populære K-pop-grupper kan lide BTS og I morgen X Sammen har talt imod brugen af generativ AI til at skabe digital simulacra ved hjælp af kunstneres ligheder. I marts, OA Entertainment, et label grundlagt af og repræsenterer Blackpink medlem Jennie, advaret i en pressemeddelelse at det ville begynde at tage “stærke juridiske skridt, herunder civile og strafferetlige procedurer, mod enhver handling, der krænker kunstnerens omdømme, rettigheder, portrætrettigheder og andre intellektuelle ejendomsrettigheder.” Udtalelsen kom som reaktion på chikane og stalking-hændelser, der involverede kunstnerne, og antydede i høj grad spørgsmålet om AI-genereret indhold uden at nævne det eksplicit.
Samtidig omfavner mange af disse idol-talentvirksomheder generative AI-værktøjer som et middel til at reducere omkostningerne i hele branchen. SM Underholdninget af de største labels i Korea, som repræsenterer store aktører som Girls Generation og Super Junior, har beskrevet generativ AI-integration som en kernedel af sin forretningsstrategi, og sidste år udgav den en fuldt ud AI-genereret musikvideo til pigegruppen Aespa. Og i december sidste år så K-pop-verdenen lanceringen af en fuldsyntetisk idolgruppe kaldet GLXE (udtales “galakse”), som kombinerer AI-genererede sange med uhyggelige AI-avatarer.
“De ville automatisere hele branchen, hvis de kunne tjene penge,” Lindsey Knuth, en K-pop-fan og associeret redaktør på Tangle nyhederfortalte 404 Media. “Pornografiske deepfakes af mindre idoler er et problem, og det samme er industriens (manglende) reaktion for mig.”
Den kulturelle tolerance for fan-genereret AI-slop varierer afhængigt af region og kontekst. Sydkorea i øjeblikket rangerer nummer et i forbrug af AI-slopindholdda landets teknologiske industri presser på adoption og kulturel accept af teknologien. I USA viser meningsmålinger dog konsekvent, at størstedelen af unge mennesker har ekstremt negative meninger om AI-værktøjer og AI-genereret indhold – og bliver mere og mere anti-AI, efterhånden som job, skoler og institutioner presser eller tvinger dem til at bruge det.
Keith bemærker, at selvom labels og talentvirksomheder altid har været meget aktive i at beskytte kunstnere og deres omdømme, gør de det kun ud fra et perspektiv om at beskytte en investering. Fans, på den anden side, har generelt en tendens til at være mere følelsesmæssigt investerede og tilbøjelige til at forsvare idoler som mennesker, både fra uhyggelige fans og fra virksomhederne selv.
Og ligesom med AI og teknologi mere generelt, manglen på tekniske eller juridiske sikkerhedsforanstaltninger mod teknologiens mange veldokumenteret skader har gjort social shaming til en af de eneste effektive afskrækkende midler mod krænkende adfærd i K-pop-verdenen.
“Det er betryggende, at mange fans åbenlyst kalder brug af kunstig intelligens og deepfakes uden samtykke, for i mangel af tekniske rækværk på denne form for indhold, er social accept virkelig det vigtige,” sagde Keith. “Så ja, det er betryggende, at mange aktive fans online opbygger en respektkultur, hvor idols ligheder ikke bliver brugt på måder uden samtykke.”