Projekt

När vem som helst kan förfalska vad som helst — vad är egentligen sant?

Generativ AI har förändrat spelplanen

För några år sedan krävde det en grafiker med månaders erfarenhet för att manipulera ett foto övertygande. Idag räcker det med ett par meningar i en textrad. Moderna AI-verktyg kan generera fotorealistiska bilder från grunden, byta ut ansikten, lägga till eller ta bort föremål, och skapa helt syntetiska dokument som ser äkta ut ner på varje detalj. Det som tidigare var en konstform har blivit ett knapptryck.

Det här är i grunden en fantastisk teknologisk utveckling. Kreativitet och produktion av visuellt innehåll har demokratiserats. Men samma kapacitet som låter en liten studio skapa storfilmseffekter låter också en bedragare fabricera bevis.

Manipulation och bedrägeri i praktiken

Konsekvenserna syns redan i verkligheten. Försäkringsbolag ser en kraftig ökning av skadebilder som manipulerats för att blåsa upp ersättningskrav. Arbetsgivare och banker tar emot förfalskade identitetsdokument och lönespecifikationer. Myndigheter och rättsväsendet ställs inför digitalt bevismaterial vars äkthet de inte har verktygen att avgöra. Journalister och medieredaktioner möter syntetiska bilder som sprids som verkliga nyheter.

Det gemensamma problemet är att den mänskliga blicken inte längre räcker. Vi är inte biologiskt utrustade för att se de mönster som avslöjar modern manipulation. Det som ser rätt ut för ögat kan vara fullständigt fabricerat på en nivå som bara matematisk analys kan avslöja.

Hur vi tänker kring problemet

Vår utgångspunkt är att trovärdighet måste gå att verifiera — inte bara bedömas. Det räcker inte med ett svar på om något är äkta eller inte. Den som tar emot en analys behöver förstå varför, se var avvikelserna finns och kunna lita på att underlaget håller om det ifrågasätts. Transparens och spårbarhet är lika viktigt som detektionsförmågan i sig.

Vi tänker också på suveränitet. Känsligt material — skadebilder, identitetshandlingar, juridiska dokument — ska inte behöva lämna en organisations kontroll för att analyseras. Det är ett krav vi ser som självklart, inte som ett tillägg.

Vad vi håller på att bygga

Vi är i aktiv utveckling av ett system för automatiserad forensisk granskning av bilder och dokument. Systemet analyserar inkommande material och producerar ett strukturerat underlag som visar vad som granskats, hur, och vad analysen pekar på. Resultatet är läsbart för både handläggare utan teknisk bakgrund och experter som vill gå djupare.

Just nu arbetar vi mot en pilotlansering med en första kund inom en reglerad verksamhet. Målet är ett system som kan sättas i drift i en skarp miljö, valideras mot verkliga fall och sedan skalas vidare. Vi söker inte volym i det här skedet — vi söker rätt sammanhang att bevisa värdet i.

Har du en verksamhet där äktheten i digitalt material är ett reellt problem? Vi pratar gärna.