Nå tar AI over identiteten din

Magnus Brøyn, Coxit PR Foto: Coxit PR

Gjestekommentar: Magnus Brøyn, byråleder Coxit Public Relations

Allerede i løpet av det kommende året vil du kunne oppleve at ditt levende digitale DNA stjeles. Snart vil stemmen og ansiktet ditt kunne samhandle med bekjente på WhatsApp og Messenger, ja, du kan også delta i videomøter, uten at det faktisk er deg!

Først vil stemmen stjeles, det skjer allerede, og snart vil du fremstå – som et ektefølt og levende digitalt vesen – med video og tale. Du er ikke en robot. Neida. Dette er menneskelig og troverdig. Det er jo deg, som alle kjenner, og som folk har tillit til!

Dansen er i gang, men nå er det du som danser med ulver. Litt som i Wolf of Wall Street, hvor Leonardo DiCaprio sier at han ikke gjør noe ulovlig og at han har ingenting å skjule. Foreløpig foregår dette i det skjulte, men snart blir dette en mer naturlig del av hverdags- og forretningslivet.

Etter å ha deltatt på teknologifestivaler som SXSW i over et tiår, møtt gründeren av Open AI og snakket med de fremste ingeniørene bak machine learning hos Google i Mountain View, er det ingen tvil om at AI-kraften vokser svært raskt. Selvsagt trenger du ikke delta på de største tech-festivalene, eller samtale med rockestjernene innen kunstig intelligens, for å se det. AI er blitt folkelig. 

Det er noe mange har et forhold til – og tester i ulike sammenhenger – men også bruker, riktignok ofte uten å vite det.

Baksiden til AI

På sitt beste og enkleste hjelper AI oss med å effektivisere gjøremål i jobben og hverdagslivet. Men som med all annen banebrytende teknologi – med stort potensial – kommer også AI med en bakside som stadig flere ønsker å utnytte for egen vinning. Spesielt innen personvern og identitetssikkerhet blir AI-teknologiens mørke sider stadig mer synlig, noe som krever at vi åpner øynene for det som kommer. Ditt digitale speilbilde er nemlig i ferd med å få et eget pulserende og snakkende liv. Teknologien utvikler seg så fort at vi allerede sliter med å begrense potensialet for misbruk. Og verre vil det bli.

I en verden hvor AI nå produserer forbløffende livaktige etterligninger av våre ansikter og stemmer, åpner vi døren til en ny æra av digital sårbarhet. Evnen til å generere såkalte deep fakes – i form av hyperrealistiske falske videoer eller lydopptak, som faktisk tilpasser seg en dynamisk og pågående samtale eller situasjon –y6 er ikke lenger forbeholdt spesialiserte laboratorier eller Hollywood-studioer. 

Nei, dette er blitt allemannseie, tilgjengelig for enhver med nettforbindelse og ganske grunnleggende datakunnskaper. Implikasjonene av denne tilgjengeligheten kan frarøve deg din egen identitet. Andre kan overta ansiktet og stemmen din. Men er det egentlig en katastrofe?

I en pulserende digital økonomi kan AI-teknologien utnyttes til å sende mailer til HR-avdelingen med svært presist innhold, som overbeviser mottakeren om at “du er du” og at du ønsker å motta lønn på en ny konto. Med AI-teknologien kan du ringe faren din, og med din egen stemme ber du om at han overfører penger i en krevende tid. 

Alt dette skjer nærmest samtidig med at AI-teknologien benyttes til å sende konen din et bilde av “deg” med en annen kvinne på restaurant. Dere sitter der. Kyss, klapp og klem. Og vips så har hverken du eller pappa råd til å betale for den neste middagen på byen.

I et samfunn stadig mer formet av digitale interaksjoner representerer deep fakes en alvorlig trussel mot personlig og kollektiv sikkerhet. Din digitale identitet – inkludert ditt ansikt og din stemme, de mest grunnleggende aspektene av vår personlige eksistens – står nå i fare for å bli manipulert og utnyttet. Fra politisk desinformasjon som kan vippe valgresultater, til personlig svindel som truer individets økonomiske og psykologiske trygghet, strekker konsekvensene av den AI-drevne deep fake-teknologien seg langt og bredt. Vi har alle hørt om såkalt CEO-svindel her til lands i flere år. Det foregår i stor skala. Dette er svindel på steroider.

Passord til alt?

Virkeligheten er at vi alle, fra profilerte og offentlige personer til ganske vanlige folk, kan bli mål for en overbevisende falsk video eller lydopptak som kan skade omdømmet, ødelegge relasjoner eller skape juridiske problemer. Dette stiller krav til hvordan vi navigerer i vår digitale eksistens og hvilke forholdsregler vi tar for å beskytte vår integritet. Vi blir nødt til å utvikle en løpende evne til å avdekke hva som er sant og riktig, og hva som ikke er det, i en stadig mer falsk og manipulert verden. 

Pionerer som amerikanske Reality Defender jobber for å bekjempe denne trusselen gjennom utvikling av teknologier som kan identifisere AI-manipulerte medier i sanntid. Men teknologiske løsninger alene er ikke nok. Det kreves en samordnet innsats som omfatter regulatoriske tiltak for å styrke digitalt personvern og personlig sikkerhet, sammen med en offentlig opplysningskampanje for å utdanne folk om farer knyttet til deep fakes. 

Kanskje må du snart spørre en du kjenner om et hemmelig passord eller en gammel hendelse – et felles minne – for å vite at den du snakker med på video faktisk er den han eller hun utgir seg for å være?

En real face off, som Travolta og Cage bedrev i sine glansdager, er faktisk å foretrekke fremfor en moderne face off, hvor du rett og slett blir spilt ut på sidelinjen av din digitale klone – som du ikke engang styrer selv – eller vet at danser rundt i din digitale drakt som en vill ulv på Wall Street.

For å møte disse utfordringene må vi erkjenne den doble trusselen som AI-teknologien utgjør. Vi må balansere det enorme potensialet for positiv forandring med de alvorlige risikoene det gir i jobb og hverdagsliv.

Tiden for å klikke i en boks for å bevise at du ikke er en robot er forbi. Fremover må du bevise at du ikke er en vill ulv. I fåreklær. Selv om alle hører og ser at det er deg. Danseløven. Som de kjenner så godt. Eller er det egentlig det?