AI-agenter väntas ta en allt större roll i näthandeln. I stället för att bara rekommendera produkter ska de kunna jämföra alternativ, lägga varor i kundkorgen och i vissa fall även genomföra betalningen.
Men när en AI-modell får rätt att spendera pengar åt en användare uppstår en ganska uppenbar risk. Agenten kan misstolka instruktionen, välja fel produkt eller fatta ett beslut som kunden aldrig godkänt.
American Express försöker nu bygga in ett extra säkerhetslager för just det scenariot, rapporterar TechCrunch. Företaget lanserar ett så kallat Intent Intelligence Framework som ska registrera vad kunden faktiskt har bett AI-agenten att göra innan köpet genomförs.
Annons
Läs även: AI kan göra försäkringsskador betydligt dyrare
Kunden ska godkänna vad agenten får göra
Systemet bygger på att AI-agentens uppdrag fångas upp i början av köpprocessen.
Det kan till exempel handla om att köpa ett par vita Nike-skor i storlek 9, från en viss butik och under ett visst maxpris. Den instruktionen sparas som ett digitalt köpintresse innan agenten går vidare.
Kunden autentiserar därefter sin identitet och godkänner instruktionen. Systemet skapar sedan ett unikt Intent ID tillsammans med ett Proof of Intent Token som innehåller de viktigaste begränsningarna för köpet.
När agenten går till kassan använder den inte kundens riktiga kortnummer. I stället får den en säker digital betalningsuppgift kopplad till just det godkända köpet.
Poängen är att betalningen ska kunna stoppas om agenten avviker från det kunden faktiskt godkänt.
Ska kunna stoppa ett felköp innan det händer
American Express ger ett enkelt exempel.
Om kunden har bett sin AI-agent köpa vita Nike-skor men agenten i stället försöker köpa Adidas-skor, ska systemet kunna se att köpet inte stämmer överens med den ursprungliga instruktionen och stoppa transaktionen.
Det skiljer sig från ett vanligt kortköp där kontrollen ofta fokuserar på om betalningen verkar bedräglig eller ovanlig. Här handlar det också om att verifiera att själva innehållet i köpet ligger inom det kunden godkänt.
American Express ser framför sig att AI-agenter i framtiden kan få betydligt större frihet än i dag.
En agent skulle till exempel kunna få rätt att regelbundet köpa hushållsvaror så länge pris, mängd och andra regler hålls inom vissa gränser. I sådana fall blir det ännu viktigare att det finns ett tekniskt system som kan kontrollera vad agenten faktiskt gör.
Läs även: AI-bolag köper och förstör miljontals böcker
Amex vill göra agentköp säkrare
Intent Intelligence Framework blir en del av American Express större satsning Agentic Commerce Experiences, ACE.
ACE presenterades tidigare under året och innehåller flera byggblock för AI-baserade betalningar. Där ingår bland annat registrering av verifierade AI-agenter, koppling till kundens konto, tokeniserade betalningsuppgifter och verktyg för att förstå vad kunden försöker köpa.
American Express planerar även ett särskilt skydd kallat Amex Agent Purchase Protection.
Tanken är att berättigade kunder i framtiden ska kunna skyddas från debiteringar som orsakats av fel från en registrerad AI-agent, förutsatt att kundens avsikt har verifierats och skickats genom systemet.
Bolaget säger samtidigt att man ännu inte har sett någon tydlig ökning av tvister orsakade av AI-agentköp. Satsningen handlar därför framför allt om att bygga säkerhetsmekanismer innan den här typen av handel blir vanligare.
AI-agenter som handlar åt människor är fortfarande i ett tidigt skede. Men när de väl får rätt att spendera pengar självständigt blir frågan om vad användaren faktiskt godkände betydligt viktigare än när AI bara skriver text eller föreslår produkter.
Spela lite spel!
Spela lite spel från TeknikGeeks redaktions utvalda bibliotek. Ett slumpmässigt spel i varje artikel.