Hackare avslöjar tekniken bakom USA:s växande övervakningsnätverk

Ett hackerkollektiv har tagit ner en kamera från amerikanska Flock Safety och kopierat stora delar av innehållet som lagrats på enheten. Materialet ger för första gången en detaljerad inblick i hur kamerorna fotograferar trafiken, vilka objekt de försöker identifiera och hur mycket information som faktiskt passerar genom en enda kamera.

Ett kameranätverk som väckt allt större motstånd

Flock Safety bygger automatiska registreringsskyltskameror, så kallade LPR eller ALPR, som framför allt används av amerikanska polismyndigheter, kommuner och privata företag. Kamerorna fotograferar passerande fordon och registrerar bland annat registreringsskylt, tid, plats och fordonsinformation. Flock uppger att nätverket finns i 49 amerikanska delstater och beskriver det som landets största sammankopplade nätverk för registreringsskyltar.

Tekniken har samtidigt hamnat mitt i en växande integritetsdebatt. Kritiker menar att ett stort antal kameror tillsammans kan användas för att kartlägga människors rörelser, särskilt när olika myndigheter kan dela information mellan sig. Flera amerikanska städer har under året pausat eller avslutat användningen, och Boston meddelade nyligen att staden lämnat Flock efter att kameradata gjorts tillgänglig nationellt trots att avtalet krävde motsatsen.

Flock bestrider samtidigt beskrivningen av tekniken som ett system för massövervakning. Företaget skriver att kamerorna tar ögonblicksbilder av fordon på allmän väg och att de inte kan spåra personer eller fordon kontinuerligt.

Nu visar analysen av en fysisk kamera betydligt mer om vad som händer innan informationen når Flocks servrar.

Krypteringsnyckeln låg kvar i kameran

Hackarna bakom gruppen stegan0gram fick fysisk tillgång till en Flockkamera och kopierade enhetens lagring. Kameran kör Android och innehöll flera partitioner, där vissa var okrypterade.

På en av dem hittades dessutom en krypteringsnyckel som kunde användas för att låsa upp ytterligare lagrad information. Det gav tillgång till tusentals videoklipp och bilder från kameran.

Flock har tidigare framhållit att material på enheterna skyddas genom kryptering. Företaget säger till Wired att det inte fått någon rapport om den aktuella metoden via sitt program för säkerhetsrapportering och att man därför inte haft tillräckligt med information för att bedöma fynden.

Det är samtidigt viktigt att skilja på attacken och ett intrång i Flocks centrala molnsystem. Hackarna hade fysisk tillgång till en enskild kamera och tog sig inte in i företagets centrala infrastruktur.

En passerande bil kan bli över 100 bilder

Kameran fungerar inte riktigt som en traditionell kamera som tar en enda bild när en registreringsskylt passerar.

När systemet upptäcker rörelse tar det i stället en snabb serie bilder med olika exponeringar. Mjukvaran väljer sedan ut användbara bilder och beskär delar av dem innan materialet skickas vidare över mobilnätet.

En genomsnittlig bil genererade omkring 28 bilder i det analyserade materialet. Vissa fordon fotograferades mer än 100 gånger under en enda passage.

Under ungefär 21 dagar som fanns kvar i kamerans loggar registrerades omkring 50 200 fordon. Tillsammans genererade dessa cirka 1,6 miljoner bilder. En normal dag passerade omkring 3 300 fordon framför just den kameran.

Det innebär inte att 1,6 miljoner bilder automatiskt blir separata sökbara poster i Flocks databas. En stor del av materialet används i själva processen för att välja ut de bästa bilderna och identifiera relevanta detaljer.

Analysen visar också att kameran inte verkar läsa registreringsskylten eller avgöra bilmärke och modell lokalt. Den tyngre klassificeringen tycks i stället ske efter att informationen skickats till Flocks servrar.

Kameran känner även igen människor

En av de mer intressanta upptäckterna gäller kamerans system för objektdetektering. Flock beskriver sina registreringskameror som teknik fokuserad på fordon och skriver uttryckligen att kamerorna fokuserar på fordon, inte människor.

Men mjukvaran som plockades ur kameran innehåller modeller som uttryckligen kan känna igen personer. När en människa identifieras sparar systemet information om var personen befinner sig i bilden och hur säker modellen är på sin bedömning.

Wired testade modellerna separat och kunde bland annat få dem att känna igen en person på en vanlig selfie.

När modellen sedan kördes över 27 321 videoklipp från den aktuella kameran identifierades människor i elva klipp. Samtliga satt på motorcyklar. Det låga antalet förklaras sannolikt av att kameran var riktad mot körbanan där få fotgängare passerade.

Det finns däremot inget i materialet som tyder på att Flockkameran använder ansiktsigenkänning. Wired och 404 Media hittade inga aktiva funktioner som kunde identifiera vem en person är.

Skillnaden är viktig. Kameran kan enligt analysen upptäcka att ett objekt är en människa, men inte avgöra vilken människa det är.

Flaggor och klistermärken kunde misstas för registreringsskyltar

Analysen visar samtidigt hur osäker datorseende kan vara när systemet försöker tolka verkligheten.

Kamerans registreringsskyltsmodell beskär automatiskt områden som den tror innehåller en skylt. I materialet misstogs bland annat dekaler och grafik för registreringsskyltar.

I ett exempel identifierades en amerikansk flagga på en motorcyklists packväska som om den vore en registreringsskylt.

Det illustrerar en viktig detalj med tekniken. Kameran samlar inte bara in den slutliga information som hamnar i ett polisverktyg. Innan dess analyseras stora mängder bildmaterial av flera olika modeller som försöker avgöra vad som är ett fordon, en skylt, en cykel eller en människa.

Kamerorna är bara ena halvan av systemet

Själva kameran är dessutom bara insamlingspunkten.

När data skickats vidare kan Flocks centrala system kombinera observationer från flera kameror. Flocks egen produktbeskrivning lyfter möjligheten att koppla samman fordonsobservationer mellan olika områden och myndigheter för att hitta mönster och skapa utredningsspår.

Det är också där mycket av integritetsdebatten kring Flock egentligen uppstår. En ensam kamera ger en observation av en bil på en viss plats och tid. Ett stort nätverk av kameror kan däremot skapa en tidslinje över var samma fordon har observerats.

Hackarnas fynd förändrar därför inte bara bilden av hur en Flockkamera fungerar. De visar hur mycket lokal bildbehandling och datainsamling som sker innan en enda sökbar fordonsobservation når det större nätverket.

Och med omkring 1,6 miljoner bilder från bara några veckors trafik framför en enda kamera blir omfattningen snabbt betydande när samma teknik skalas upp till ett nationellt system.