Open AI:s nya satsning väcker frågor om integritet i hemmet

Open AI, bolaget bakom Chat GPT, tycks vilja tänja på gränserna för sin närvaro i våra liv. Med en kommande satsning på att föra in chattboten i hemmen öppnas ett nytt kapitel i den pågående debatten om datainsamling och personlig integritet.

Det senaste decenniet har präglats av en allt mer omfattande kartläggning av våra digitala vanor. Techbolag har genom sofistikerade spårningsverktyg byggt enorma databaser över våra liv och beteenden – ofta i syfte att sälja produkter eller träna artificiell intelligens. Harvard-professorn Shoshana Zuboff har träffande beskrivit denna utveckling som ”övervakningskapitalism”.

Trots den omfattande digitala kartläggningen finns fortfarande luckor i techbolagens datainhämtning – de stunder då vi inte är uppkopplade eller tittar på en skärm. Det var just detta gap som Amazon adresserade när företaget 2014 lanserade sina smarta högtalare med AI-assistenten Alexa.

Sedan dess har marknaden för uppkopplade enheter exploderat. Smarta glasögon, smartklockor och andra AI-integrerade vardagsprylar fungerar som broar mellan den fysiska och digitala världen. För techbolagen innebär detta både försäljningsintäkter och tillgång till tidigare otillgänglig användardata.

Hittills har dock ett outtalat kontrakt existerat mellan användare och företag: de smarta enheterna aktiveras först vid specifika kommandon, som ”Hej Alexa”. Men denna överenskommelse har visat sig vara långt ifrån vattentät.

Nyligen avslöjade Svenska Dagbladet och Göteborgs-Posten hur inspelningar från Metas smarta glasögon skickas till en datafabrik i Kenya för analys. Där sitter personal och kategoriserar videomaterial för att träna AI-modeller. Anställda vittnar om att de exponerats för högst privata situationer – från toalettbesök till intima möten – som användarna rimligen aldrig avsett skulle granskas av utomstående.

Det Open AI nu planerar tar denna utveckling ett steg längre. Enligt uppgifter från den välrenommerade tekniksajten The Information arbetar företaget med en omkring 200 personer stark enhet för hårdvaruutveckling. Tillsammans med Apples tidigare designchef Jony Ive – mannen bakom ikoniska produkter som iMac, iPod och iPhone – utvecklar de en smart högtalare som enligt uppgift ska lanseras nästa år.

När Ive och Sam Altman, Open AI:s grundare, diskuterade sina visioner i höstas, beskrev de en AI-assistent som är ”kontextuellt medveten” – en digital hjälpreda som självständigt förstår när det är lämpligt att erbjuda råd, påminnelser eller uppdateringar. En artificiell intelligens som kan ”läsa av rummet”.

För att uppnå detta krävs dock ständigt aktiverade kameror och mikrofoner. Enheten kommer att se och höra dig kontinuerligt, utan avbrott.

Branschen marknadsför konceptet under termen ”ambient intelligence”, där teknologisk intelligens inte längre är begränsad till specifika enheter utan genomsyrar hela vår omgivning. Förespråkare hävdar att en ständigt närvarande AI-assistent kan erbjuda mer relevant hjälp just när den behövs. Samtidigt innebär det att samma assistent får tillgång till allt som sker i hemmet, och därmed fyller i de tidigare tomma fläckarna i datakartan över våra liv.

Utvecklingen påminner onekligen om ett scenario ur dystopiska science fiction-serier som ”Black Mirror”. Den grundläggande frågan kvarstår: Är bekvämligheten värd priset av vår mest privata sfärs integritet? Och vad innebär det för samhället när även våra mest intima ögonblick blir potentiellt datamaterial för företagens AI-träning?

När gränsen mellan hjälpsam teknologi och övervakning blir allt otydligare tvingas konsumenter till svåra avvägningar. Samtidigt som AI-assistenter erbjuder genuina fördelar, skapar de också nya risker och sårbarheter i våra mest personliga utrymmen – våra hem.