TikTokers bruger kunstig intelligens til at få Joe Biden til at tale om at “få tæver”, Obama droppe Minecraft-slang, og Trump praler med, at han er fantastisk til Fortnite

• En ny trend, der involverer AI-stemmer fra berømtheder og politikere, overtager TikTok.
• Der er adskillige virale videoer af AI-genereret dialog mellem Joe Biden, Joe Rogan, Donald Trump og Barack Obama.

I weekenden udsendte TikTok-kontoen @ai.voicesspeech en video med algoritmisk genererede stemmer til Joe Biden, Barack Obama, Donald Trump og andre bemærkelsesværdige skikkelser, der spiller det sociale deduktionsspil “Among Us”, og skændes om, hvem af dem er ond bedrager.

“For fanden taler du om? Jeg var i Medbay med Biden,” siger Trumps stemme og refererer til et værelse i spillet. Videoen slutter med, at Elon Musks AI-stemme indrømmer, at han var den spiller, der blev valgt som bedrageren, og indrømmer, at en AI-version af George Bush var den anden.

Klip som disse er en del af en voksende trend på TikTok, hvor skabere bruger AI til at efterligne stemmer og samtaler mellem kendte mennesker, som de måske aldrig har i det virkelige liv. Ideen er at få dem til at bruge slang og tale om emner, som vi måske aldrig hører fra dem. Selvom det meste af denne slags indhold er trolly og godartet, kan det også hurtigt krydse ind i problematisk territorium.

@ai.voicesspeech #amoungus #aivoices #ai #sjov ♬ original lyd – Ai-stemmer

I en video, hvor en falsk Biden-stemme reagerer på den nylige hændelse, der fik den amerikanske regering til at skyde en kinesisk-drevet ballon ned, høres AI-stemmen ved hjælp af en racistisk besværgelse flere gange.

“Jeg løb op for mine penge, og jeg er stadig i skyttegravene,” sagde stemmen også på et tidspunkt. “Fuck med mig, ja.”

Langt de fleste af de mest populære klip er dog ret komiske. Det mest populære format ser ud til at forestille sig højprofilerede figurer, der spiller videospil som “FIFA”, “Overwatch” eller “Minecraft”. Videoerne har en tendens til at indsætte statiske billeder af højttalerne over gameplay-optagelser, hvilket giver indtryk af, at de alle er i et taleopkald og spiller spillet sammen.

Og at høre Obama eller Biden bruge online spilslang er både sjovt og skurrende, fordi AI simulerer deres stemmer så præcist.

“Det er din dreng Joe Rizzler,” sagde AI Biden i et “Overwatch”-klip. “Min bror i Kristus, prøv at få nogle tæver for en gangs skyld, og hop af de dygtige helte.”

@steppaontop Disse er bare for sjove til at lave #joebiden #biden #stateoftheunion #voiceai #overwatch #overwatchclips ♬ original lyd – bigsteppa

Selvom det er uklart, hvordan nogle af disse TikTokers bruger AI til at simulere berømte stemmer, og mange fans i deres kommentarsektioner spørger, er der teknologi tilgængelig til at gøre det. Fortune rapporterede for nylig, at opstarten ElevenLabs og dets stemmesynteseplatform tilbyder værktøjer til at skabe realistisk lyd fra menneskestemmer. Insider har nået ud til nogle af de mest populære meme-konti for at forespørge.

I en anden video, der er blevet enormt viral, siger en AI Obama, at han og Biden ønsker at slutte sig til Trumps “Minecraft”-verden. Efter et par minutters dissing af hinanden siger alle, at de har tilsluttet sig serveren. Men så slår Trump straks Biden ned i en dyb kløft, og hans karakter dør.

“Se Donald, det er derfor, vi ikke ville lege med dig sidste gang,” sagde AI Biden.

“I er en flok babyer, helvede,” svarede AI Trump.

Folk er ikke kun humoristiske over den foregivne udveksling, men forvirrede over, hvor nøjagtigt deres stemmer efterlignes. “AI’en bliver endda god til bøjning og betoning,” sagde en topkommentar.

@edass.s Svar på @ trump tager L igen #fyp #ai #aivoices #trump #minecraft #obama #joebiden #presidents #presidentaivoices ♬ original lyd

Nogle konti dedikeret til falske AI-stemmeklip har samlet en stor tilhængerskare og millioner af visninger på hver video. Skaberen @joerizzington har fået over 160.000 følgere, siden han begyndte at skrive i torsdags. Hashtagget #aivoices har samlet over 53 millioner kumulative visninger.

Ud over den bekymrende retorik, som nogle skabere misbruger denne meme og teknologi til at generere, er der også en reel risiko for at narre uvidende seere til at tro på falske beskeder og desinformation.

I sidste uge fjernede TikTok en viral videoannonce, hvor en digitalt manipuleret Joe Rogan så ud til at kæmpe for et libido-forstærkende supplement kaldet Alpha Grind. Rogan annoncerede aldrig produktet i det virkelige liv, og en professor, der også var med i annoncen bekræftet på Twitter det var læge.

Andre nylige deepfakes, herunder en af ​​præsident Biden, der taler om kampvogne, og en anden af ​​Hillary Clinton, der læser transfobiske tekster, har også fået eksperter til at bekymre sig om at udviske grænserne mellem ægte og falsk. Disse eksempler med højere indsats fik ElevenLabs til at udgive sine egne offentlig erklæringsiger, at det vil forsøge at manipulere med “sager om misbrug af stemmekloning.”