Bedragare behöver inte längre skriva dålig svenska eller skicka uppenbara bluffmejl. Med hjälp av AI kan de skapa trovärdiga röster, automatisera telefonsamtal och imitera människor med skrämmande precision.
Nu svarar Google med nya säkerhetsfunktioner i Android som ska hjälpa användare att upptäcka och stoppa bedrägeriförsök.
Enligt Ars Technica presenterade Google flera nya skydd som ska göra det svårare för bedragare att använda falska identiteter och AI-genererade röster.
Google vill verifiera vem som faktiskt ringer
Det mest intressanta med satsningen är att Google inte försöker avgöra om en röst är AI-genererad.
I stället fokuserar företaget på att säkerställa att den som ringer verkligen är den person som telefonnumret tillhör. På så sätt kan Android minska risken för så kallad spoofing, där bedragare kapar eller förfalskar telefonnummer för att framstå som någon annan.
Det är en viktig skillnad eftersom många framtida bedrägerier sannolikt kommer kombinera både falska nummer och AI-genererade röster.
AI gör telefonbedrägerier mer övertygande
Säkerhetsexperter har länge varnat för att AI kan göra telefonbedrägerier betydligt mer effektiva.
I dag går det att klona en röst med bara några sekunders ljudmaterial. Det gör att bedragare i teorin kan ringa och låta som en familjemedlem, chef eller kollega.
Help Net Security rapporterar att utvecklingen av AI-drivna bedrägerier har ökat kraftigt under det senaste året och att mobilplattformar därför tvingas bygga in nya skydd.
Mobilen blir en säkerhetsvakt
Utvecklingen visar också hur mobiltelefonen håller på att få en ny roll. Tidigare handlade säkerhetsfunktioner främst om virus, skadliga appar och nätfiske.Nu börjar mobilen i stället analysera vem du kommunicerar med och om personen verkligen är den som den utger sig för att vara.
Om AI fortsätter utvecklas i samma takt kan sådana skydd snart bli lika självklara som spamfilter och tvåfaktorsautentisering är i dag.