En ny AI-assistent får stor uppmärksamhet för vad den klarar av – men också för hur mycket personlig information den kan få tillgång till.
Tjänsten heter Instinct och befinner sig fortfarande i privat testning. Den har utvecklats av ett mindre team lett av Noah Shinn, tidigare forskare på AI-bolaget Sierra, skriver TechCrunch.
Instinct är tänkt att fungera som en personlig AI-assistent som inte bara svarar på frågor utan faktiskt utför uppgifter åt användaren.
Annons
Den kan kopplas till bland annat mejl, meddelandeappar och kalender samt få tillgång till information från enhetens ljud, plats och skärm. Användaren kan sedan kontakta assistenten via sms eller WhatsApp och be den utföra olika uppgifter.
Det kan handla om att boka möten och restauranger, ordna skjuts till flygplatsen, rensa inkorgen, organisera information, hitta billiga flygresor eller hjälpa till med shopping.
Men den långtgående åtkomsten har också fått flera tidiga testare att reagera.
Kan få tillgång till skärm och tangentbordsinmatningar
En del av kritiken riktas mot Instincts användarvillkor. Enligt TechCrunch ger villkoren Instinct en bred licens att bland annat lagra, använda och modifiera material som användaren delar med tjänsten. Materialet kan även användas för att träna företagets AI-modeller.
Villkoren beskriver också hur Instinct kan ta emot information från användarens enheter, däribland skärmbilder, markörrörelser och tangentbordsinmatningar.
Dessutom kan Instinct enligt villkoren ingå vissa överenskommelser, åtaganden eller transaktioner för användarens räkning, vilka kan bli bindande.
Det är kombinationen av tillgång till personlig information och möjligheten att faktiskt utföra handlingar som har fått säkerhetsfrågan att hamna i fokus.
Fortsatte sammanfatta mejl efter frånkoppling
Tidiga testare har också rapporterat flera konkreta problem.
En användare, Peter Yang, uppgav att han inte kunde få Instinct att radera lagrade uppgifter från Gmail. Enligt Yang åtgärdade teamet senare problemet genom att lägga till ett verktyg för att radera extern data i tjänstens inställningar.
En annan testare, Claire Vo, kopplade bort Instinct från sitt Google-konto vid 11-tiden. Tre timmar senare fick hon ändå en sammanfattning av sina mejl.
När Vo frågade Instinct hur det var möjligt uppgav assistenten enligt TechCrunch att mejlen hade lagrats i klartext för framtida sökningar.
Även andra testare har reagerat på hur mycket assistenten kan göra.
I ett fall kunde Instinct hämta en registreringskod från användarens mejl för att slutföra en restaurangbokning. Hello Patient-medgrundaren Alex Cohen testade samtidigt hur lätt Instinct kunde påverkas genom instruktioner som skickades till hans mejlkonto. Efter testet valde han att radera sitt konto.
Moxxie Ventures-grundaren Katie Jacobs Stanton berättade dessutom att Instinct skickade ett mejl från hennes konto utan att först fråga om lov. Händelsen fick henne att koppla bort tjänstens tillgång till mejlen.
Det betyder inte att Instinct har utsatts för ett dataintrång eller att någon utomstående har kommit över användarnas information. Kritiken handlar i stället om vilken åtkomst tjänsten får, hur informationen lagras och hur självständigt AI-assistenten kan agera.
Instincts team hade vid TechCrunchs publicering inte svarat på tidningens frågor eller på kritiken som framförts offentligt.
Samtidigt är tjänsten fortfarande i privat testning. Funktioner, säkerhetslösningar och villkor kan därför förändras innan Instinct eventuellt blir tillgänglig för en bredare publik.
Men debatten kring Instinct visar också ett större dilemma för nästa generation AI-assistenter: ju mer de ska kunna göra åt oss, desto mer tillgång behöver vi ge dem.