Bedragarna tror de hittat ett offer – men pratar med AI

AI används allt oftare av bedragare för att skala upp bluffmeddelanden, telefonsamtal och falska identiteter. Det australiska bolaget Apate försöker nu använda samma teknik åt andra hållet.

Företagets AI-agenter är byggda för att framstå som vanliga människor som kan tänkas gå på en bluff. De kan svara på telefonsamtal och meddelanden, hantera mejl, följa nätfiskelänkar och ge sig in i grupper på sociala medier där misstänkta bedrägerier förekommer.

Personerna som botarna spelar har olika ålder, kön, språk och accenter. Målet är att få bedragaren att fortsätta konversationen så länge att värdefull information börjar läcka ut, skriver TechCrunch.

Läs även: Ny AI kan bli behandling mot vanliga sjukdomen

2,5 miljoner samtal med bedragare

Apate uppger att företagets AI-agenter hittills har genomfört omkring 2,5 miljoner konversationer med bedragare.

Sammanlagt ska botarna ha upptagit bedragarnas tid motsvarande 17 år.

Att slösa tid är dock bara en del av idén. Under konversationerna försöker AI-agenterna få fram information som normalt inte upptäcks förrän ett riktigt offer redan har blivit lurat.

Det kan handla om bankkonton dit pengar ska skickas, kryptoplånböcker, telefonnummer, nätfiskeadresser och vilka företag eller organisationer bedragaren försöker imitera.

Informationen skickas sedan vidare till bland annat banker, teleoperatörer, myndigheter och andra organisationer som använder den i sitt bedrägeriskydd.

Apate låter dessutom kunder ge agenterna särskilda uppdrag. En bot kan exempelvis försöka få fram ett specifikt bankkonto eller en kryptoadress från personen på andra sidan.

Tekniken började som universitetsforskning

Apate bygger på forskning från Macquarie University i Australien.

Idén uppstod efter att forskaren Dali Kaafar själv blev uppringd av en bedragare och medvetet höll personen kvar i telefon i omkring 40 minuter. Han insåg att bedragaren under den tiden inte kunde försöka lura någon annan, men också att det var ett dåligt sätt att använda 40 minuter av sin egen tid.

Forskargruppen började därför undersöka om uppgiften kunde automatiseras.

De analyserade verkliga bluffsamtal och använde maskininlärning och språkbehandling för att identifiera bedragarnas manus och sociala manipulation. Därefter utvecklades AI-botar som kunde spela trovärdiga offer och föra samtalet vidare utan mänsklig hjälp.

Tekniken har senare kommersialiserats genom Apate. Commonwealth Bank of Australia använder exempelvis tusentals av företagets AI-profiler för att prata med bedragare och samla in information som banken kan mata in i sina egna system för bedrägeribekämpning.

Läs även: Rysslands AI-infrastruktur utslaget efter drönarattacker

Försöker stoppa bluffen innan någon betalar

Den stora skillnaden mot traditionella skydd är när informationen samlas in.

Banker kan upptäcka misstänkta transaktioner och teleoperatörer kan blockera kända nummer, men då kan bedragaren redan ha hunnit få kontakt med ett riktigt offer. Apates strategi är i stället att aktivt söka kontakt med bedragarna och försöka kartlägga bluffen tidigare.

Det är samtidigt viktigt att siffrorna om 2,5 miljoner konversationer och 17 års bortslösad bedragartid kommer från Apate självt. De ska därför inte ses som en oberoende mätning av hur många bedrägerier tekniken faktiskt har stoppat.

Commonwealth Bank har uppgett att kundernas förluster från bedrägerier har minskat kraftigt de senaste åren, men banken använder många olika säkerhetsåtgärder utöver Apate. Det går därför inte att tillskriva den utvecklingen enbart AI-botarna.

Apate har däremot fått allt större kommersiellt stöd. Företaget tog nyligen in 8,15 miljoner dollar i en finansieringsrunda och planerar att expandera vidare i USA och Europa.

Det skapar en ganska ovanlig katt-och-råtta-lek. Bedragare använder AI för att lura fler människor, samtidigt som AI-agenter nu skickas ut för att låtsas bli lurade tillbaka.