Indholdsfortegnelse
Nøgle takeaways
- Svindel ved stemmekloning bruger kunstig intelligens til at replikere stemmer på en autentisk måde, hvorved man griber følelser og haster.
- Svindlere udnytter sociale mediedata til at skabe troværdige scenarier og udnytte personlige bånd.
- Vær forsigtig, og lær de røde flag fra AI stemme klon svindel; læg på på opkald og bekræft nødbeskeder.
Det er sent om aftenen. Dine forældre modtager en talebesked fra dig fyldt med panik, der fortæller, at du er i problemer, din pung er blevet stjålet, og du sidder fast midt i ingenting. Penge skal sendes til dig med det samme, så du kan komme hjem.
Stemmen i beskeden lyder så ægte og er umiskendeligt deres barns – bare det er den ikke. Det er en AI-stemmeklon, og de er blevet målet for en fidus, der er lige så banebrydende, som den er uhyggelig effektiv.
Hvordan fungerer en AI Voice Cloning-svindel?
Stemmekloning kan skabe utroligt realistiske digitale replikaer af en persons stemme. Denne teknik, almindeligvis kaldet en lyd deepfake, er skabt med AI-stemmekloningsværktøjer som ElevenLabs (tjek AI-stemmekloningseksemplet nedenfor). Kombineret med generativ AI og stemmesyntese kan den klonede stemme replikere følelser, nuancer, intonation og endda frygt.
Og til reference, her er hvordan Christian Cawley virkelig lyder, når han taler om The Really Useful Podcast.
For at oprette en AI-stemmeklon kræves der kun en lille stemmeprøve – ofte kun et minut eller mindre. Stemmeprøver er ofte taget fra offentlige sociale medieopslag, hvilket gør videobloggere og influencers særligt sårbare, da lydkvaliteten af deres indlæg er af høj kvalitet og let tilgængelig.
Når svindlere kloner stemmeprøven, bruger de tekst-til-tale eller endda tale-til-tale i realtid til at oprette falske opkald og talebeskeder.
Efter at have tilgået ofrets sociale medier og sammensat deres personlige detaljer, skaber svindleren et troværdigt scenarie. Dette kan være en hospitalsindlæggelse, arrestation, tyveri, kidnapning – alt, hvad der skaber frygt. Den klonede stemme bruges derefter til at manipulere et familiemedlem til at tro, at en elsket er i alvorlige problemer.
Stemmens og følelsernes realisme, kombineret med anmodningens chok og presserende karakter, kan tilsidesætte skepsis, hvilket fører til forhastede beslutninger om at overføre penge eller give følsomme oplysninger.
Hvorfor AI Voice Cloning Scams er så effektive
Ligesom de fleste svindelnumre rettet mod familie og venner, er AI-stemmekloningsfidusen effektiv, da den udnytter personlige bånd. Panikken over at modtage et nødopkald fra en elsket kan hurtigt fordunkne dømmekraften, hvilket resulterer i forhastede beslutninger. Det er den samme taktik, der bruges i quid pro-svindel, men effekten forstærkes af at høre stemmen fra en person tæt på dig.
Familiemedlemmer til dem med en høj tilstedeværelse på sociale medier eller dem, der rejser, er særligt udsatte, fordi deres situationer giver en plausibel kontekst for svindlerens opdigtede fortælling. Svindlere vil ofte høste og bruge de private data om deres mål fra deres offentlige sociale mediekonti på forhånd, hvilket gør historierne endnu mere overbevisende.
Nøgletegn på en AI Voice Clone-svindel
På trods af deres sofistikerede kan AI stemme klon svindel afsløre sig selv gennem specifikke røde flag:
- Haster: Svindleren vil overbevise dig om, at noget forfærdeligt vil ske, hvis der ikke bliver truffet handling med det samme.
- Fakta: Svindlere kender ikke altid hele historien bag dit forhold til målet, så vær opmærksom på uoverensstemmelser.
- Usædvanlige anmodninger: Anmodninger om pengeoverførsler til oversøiske bankkonti eller betaling til en cryptocurrency-pung er almindelige taktikker.
Det er svært at overveje disse faktorer, når de præsenteres for et frygteligt scenarie, men det kan forhindre dig i at blive snydt.
Hvad skal du gøre, hvis du har mistanke om en AI Voice Clone-svindel
Hvis du modtager et opkald eller en talebesked fra dine kære i nød, så forbliv rolig. Svindlere er afhængige af, at du går i panik og bliver følelsesladet, da dette øger din sårbarhed over for deres taktik.
Hvis du modtager et telefonopkald
Hvis du har mistanke om, selv et sekund, at et opkald kan være svindel med stemmekloning, skal du straks lægge på. Del ikke nogen information, og interager ikke med svindlere. Ring i stedet tilbage til din elskede på et kendt nummer for at bekræfte ægtheden af nødopkaldet.
At tale videre med svindlerne kan risikere at få din stemme optaget og klonet også.
Hvis du modtager en talebesked
Hvis svindlerne har efterladt en talebesked, skal du straks gemme lyden på din telefon eller bærbare computer. Denne prøve af lyd kan bruges i et AI-taleklassificeringsværktøj til at bestemme, om det er en menneskelig stemme. Disse AI-taleklassifikatorer fungerer ligesom AI-skrivedetektorer. Du skal blot indtaste lydfilen, og klassificeringen vil markere den som menneskelig eller AI-genereret.
Et godt værktøj til at udføre dette tjek er ElevenLabs taleklassifikator. ElevenLabs driver de fleste AI-kloningsplatforme, så det er et ideelt værktøj til at afgøre, om en stemme er blevet klonet. Sådan kan du bruge det til at bestemme en AI-klonet stemme:
I eksemplet nedenfor blev en bekymrende besked optaget af et menneske og uploadet til klassificeringen. Du kan se, at det er blevet markeret som at have en 2% sandsynlighed for at blive manipuleret.
I det næste eksempel blev den samme bekymrende besked produceret med et AI-stemmekloningsværktøj. For det menneskelige øre er stemmerne ikke til at skelne. Værktøjet har dog markeret, at det har en 98% sandsynlighed for at være AI-genereret.
Selvom du ikke kan stole 100 % på denne klassificering, kan den bekræfte dine mistanker om, at en klonet stemme er i brug. Du bør også kontakte din elskede på et kendt nummer for at bekræfte.
Forebyggelse er det bedste forsvar mod AI-stemmekloning-svindel
Nogle gange er det bedste forsvar mod en højteknologisk fidus en lavteknologisk løsning.
Opret en offline adgangskode, som kun er kendt af dine kære med din familie og venner. I tilfælde af et hektisk opkald kan brugen af denne adgangskode være en sikker måde at bekræfte identiteten på den, der ringer op.
Endelig er det at holde dine private oplysninger væk fra sociale medier et stort skridt i retning af at sikre, at svindlere ikke kan indsamle nok information til at konstruere en fortælling. Husk: Hvis du ikke vil have det kendt af alle, er det bedst ikke at dele det på sociale medier.