AI-kompisen, den perfekta spionen?

Idag läser jag om Max, Rysslands nya superapp som de egna medborgarna i princip måste använda för att sköta bankärenden, skicka meddelanden och sköta samhällsärenden. Appen är inte obligatorisk, men förinstalleras på alla nya telefoner sedan 1 september 2025. Barn och unga måste ha appen för att följa skolarbetet och tiotals miljoner har på olika sätt pressats att ladda ner appen.

Enligt forskare vid University of Michigan finns en “bakdörr” i appen så att all data om användare kan övervakas. Det går att fjärrstyra screenshots på användarnas enheter, och det är också möjligt att stjäla deras identitet. Genom “code injection” menar forskarna att det skulle vara möjligt att skapa cyberattacker mot det egna folket.

Roya Ensafi, docent i datavetenskap, beskriver appen som “den listigaste, mest skrämmande taktiken för en auktoritär regering att bevaka de egna medborgarna” och som en “mall som vilken regering som helst kan följa”.

Det är såklart ett obehagligt sätt att spionera på det egna folket och mycket oroväckande. Fenomenet är inte nytt. I Kina finns redan WeChat, en annan superapp med liknande upplägg.

Eftersom båda länderna är auktoritära regimer är det kanske inte så förvånande, men det är värt att fundera över vad det här innebär.

Planen för den ryska appen Max är att den skall bli helt nödvändig för myndighetskontakt. Dessutom innehåller den en gratis ChatGPT-liknande AI-chat som talar perfekt ryska.

Så för att sammanfatta: appen kan lära sig allt om dig, dina frågor, tankar, vänner, din familj och dina åsikter via AI-chatten där du pratar med den. Skulle den missa något där, så ser den ju också dina meddelanden och vem du skickar dem till där.

Utöver det kan den följa allt du köper, exakt var du är när du gör det och vilka du skickar pengar till. Det här skulle vara farligt för medborgare med andra åsikter än staten i vilken tid som helst, men vi lever i AI-tidsåldern och det tar faran till en helt annan nivå.

Säkerhetspolisen (KGB, Stasi och liknande) kan nu tack vare AI i realtid automatiskt följa och övervaka medborgare utan det system av angivare och polisbyråkrati som skulle ha behövts i t.ex. 1980-talets Östtyskland.

De behöver bara ställa in vad de söker efter och följa det på en skärm. Om inte det skulle räcka så kan de chatta med systemet för att fråga om någon medborgare de vill veta mer om, eller bara bestämt sig för att få anledning att fängsla eller straffa på andra sätt. Allt det här är obehagligt, men gäller inte oss. Eller hur?

Vi i Sverige är vana att kunna lita på vårt samhälle, och också de samhällen vi ser som vänner och allierade. Men våra data stannar inte i Sverige, utan finns hos amerikanska bolag. Därför är amerikansk demokrati viktig för oss. Vad händer när världen förändras?

Enligt rapporten i mars 2026 från V-Dem-institutet vid Göteborgs universitet föll USA 2025 till sin lägsta demokratinivå sedan 1965 och nedgraderades från “liberal” till “elektoral demokrati”, på grund av kraftigt försvagad yttrandefrihet och maktdelning. Samma år föll USA också från plats 20 till 51 av 179 länder.

The Economist Intelligence Unit klassar sedan 2016 USA som en “flawed democracy” – en bristfällig demokrati.

Under 2025 tilläts DOGE med Elon Musk i spetsen att få tillgång till offentlig data. Den exakta ordern från presidenten gav DOGE: “full and prompt access to all unclassified agency records, software systems, and IT systems”. Ingen vet vilka data de kom över eller lyckades skada, men hela operationen ses som ett skolexempel på demokratiangrepp, även om det här bara var en av de många saker som sänkt USA:s demokratibetyg.

Elon Musk twittrade redan 2022 att köpet av Twitter (sedermera X) var en “accelerant” för att skapa “superappen” X med WeChat som den uttalade förebilden. Han har under 2026 lanserat X-Money och X-Chat som steg på vägen. X-Chat innehåller bland annat en AI-chat.

OpenAI, företaget bakom ChatGPT, har enorma mängder data insamlade från användarnas samtal med verktyget. Många, till och med barn, ser på verktyget som en vän, och anförtror “chattis” sina innersta hemligheter.

OpenAI började testa annonser i ChatGPT 9 februari 2026, och 31 augusti meddelade de att ChatGPT Ads nått en miljard dollar i annualiserad intäktstakt på under 200 dagar. Annonser visas för gratisanvändare och de med det billigaste abonnemanget.

ChatGPT är än så länge ingen superapp och företaget verkar trots allt främst inriktat på att vinna AI-racet, men vad händer OM bolaget inte vinner det racet, och investerarna börjar ställa än högre krav på att få tillbaka lite av de enorma summor de satsat på bolaget? Kommer företaget kunna motstå frestelsen att på allt mer tveksamma sätt försöka tjäna allt mer pengar på användarnas data?

Faran att dela personliga data gäller inte bara ChatGPT. En undersökning från Common Sense Media från 2025 visar att 72 procent av amerikanska tonåringar använt AI-kompanjoner, att en tredjedel valt en AI framför en människa för att prata om svåra saker, och att en fjärdedel delat personlig information med dem.

Det betyder naturligtvis inte att deras data läckt utanför plattformarna. Common Sense-undersökningen handlade mest om att detta kan vara en fara för ungdomarnas mentala hälsa, men det jag pekar på är risken om datan hamnar i fel händer.

Låt mig också vara ärlig med att jag använder AI. I hög grad. Efter att ha skrivit den första versionen av den här artikeln, har jag till exempel använt den amerikanska AI-tjänsten Claude för att få hjälp med korrektur och diskutera förbättringar av texten. (Med det sagt skriver jag alltid texterna på den här sidan själv.)

Om vi kopplar ihop det med USA:s demokratiska försvagning och de ryska och kinesiska superappar jag nämnde inledningsvis så börjar du förstå vart jag vill komma.

Fortfarande är det långt till USA från Sverige, men demokratin kan försvagas även här.

Om den amerikanska demokratin försvagas så mycket att staten kräver tillgång till amerikanska bolags användardata, kanske med ursäkten att förhindra brottslighet, så kan situationen i USA närma sig den kinesiska. Den här texten skulle ju till exempel uppfattas som farlig och jag skulle kunna registreras som en person som sprider farliga tankar. Det är en kalkylerad risk, som jag är beredd att ta. Däremot pratar jag inte med Claude eller någon annan tjänst om min familj eller andra personliga saker.

Just nu diskuteras hotet med agenter som hackar och ljuger (alignmentproblematik) som en risk för mänsklig utplåning.

Det hotet skall nog inte underskattas, men i fel händer förvandlas AI-verktyg till fruktansvärda spioneri- och övervakningssystem.

Det, och inte alignmentproblematik, ser jag som det största hotet med AI.