Videor som spridits på kinesiska sociala medier visar hur små dockhuvuden placeras framför kupékameran i Tesla-bilar. Kameran tolkar då objektet som ett ansikte och fortsätter att tro att föraren tittar framåt, trots att personen bakom ratten inte gör det.
Enligt Wired har fenomenet blivit så uppmärksammat att det nu väcker frågor om hur robust dagens förarövervakning egentligen är.
Kamerorna ser ett ansikte – men inte alltid en människa
Tesla använder i dag kamerabaserad förarövervakning för att säkerställa att föraren är uppmärksam när funktioner som Autopilot används. Systemet ska upptäcka om blicken lämnar vägen under längre perioder och kan då ge varningar eller begränsa funktionaliteten.
Problemet som nu uppmärksammas är att vissa enkla objekt verkar kunna efterlikna de visuella signaler som systemet letar efter. En liten plastfigur med ögon, näsa och ansiktsform kan i vissa situationer räcka för att lura kameran.
Det är också det som gör händelsen tekniskt intressant. Moderna förarövervakningssystem bygger ofta på datorseende och maskininlärning. De analyserar mönster som liknar mänskliga ansikten, blickar och huvudrörelser. Men när systemen möter ovanliga situationer kan de ibland göra felaktiga bedömningar.
Electrek rapporterar att flera videor visat hur plastfigurer placerats framför kameran för att simulera en närvarande förare.
Läs även: Nu satsar biljättarna på nästa miljardmarknad
Större än bara Tesla
Även om Tesla står i centrum för uppmärksamheten handlar frågan egentligen om en bredare utmaning inom fordonsindustrin.
Allt fler biltillverkare använder kameror för att övervaka förare. Tekniken blir särskilt viktig i takt med att fler avancerade förarassistanssystem introduceras. Ju mer ansvar bilen tar över, desto viktigare blir det att säkerställa att människan bakom ratten fortfarande är redo att ingripa.
Forskare och säkerhetsexperter har länge påpekat att kamerabaserad övervakning är en balansgång mellan precision, kostnad och integritet. Systemen måste vara tillräckligt smarta för att upptäcka ouppmärksamhet, men samtidigt fungera i mörker, starkt solljus, med glasögon, ansiktsmasker och andra vardagliga situationer.
Just därför blir den här typen av exempel värdefulla för utvecklarna. De visar vilka svagheter som fortfarande finns när artificiell intelligens ska tolka mänskligt beteende i realtid.
Läs även: Tidigare Tesla-chef lanserar ny start-up – vill sänka dina elkostnader
Jakten på mer avancerad övervakning
För Tesla kommer händelsen sannolikt att leda till ytterligare förbättringar av mjukvaran. Företaget har redan tidigare uppdaterat sina säkerhetssystem efter att användare hittat sätt att kringgå dem.
Framöver väntas fler tillverkare kombinera flera olika datakällor samtidigt. I stället för att bara analysera ett ansikte kan framtida system väga samman ögonrörelser, huvudposition, kroppshållning och andra sensordata för att minska risken för manipulation.
Det aktuella fallet visar samtidigt en viktig verklighet för hela AI-branschen. Att känna igen ett ansikte är relativt enkelt. Att avgöra om en människa verkligen är uppmärksam är betydligt svårare.
Och ibland räcker det med en plastfigur för att avslöja skillnaden.