Nutidens journalistik har inte lätt att navigera i ett landskap där konkurrensen om mottagarna växer, metoderna för att nå ut blir allt fler och anklagelserna om ”fake news” haglar. Att gå så långt som att utesluta medier i syfte att kontrollera budskapen är sannerligen oroväckande. I detta sargade landskap växer sig AI allt starkare, liksom rapporteringen om tekniken. För den oinvigde är spännvidden enorm och att bilda sig en egen uppfattning om AI är sannerligen en utmaning. När tekniken dessutom kan producera trovärdiga berättelser i industriell skala blir frågan om vem vi kan lita på än mer central.
Vad gäller informations- och cybersäkerheten är AI ytterligare en företeelse att beakta. För den som redan har ett systematiskt och riskbaserat arbetssätt på plats behöver utvecklingen inte enbart ses som en utmaning, utan snarare som en möjlighet.
För den organisation som är mer ad hoc-styrd i sitt informations- och cybersäkerhetsarbete är risken större att AI, utöver att vara en möjliggörare, också blir en förgörare och kanske även en förförare. I det senare fallet riskerar behovet av ett systematiskt säkerhetsarbete att försvinna i skimret av allt det vackra som tekniken utlovar. I alla fall för stunden.
Det råder knappast något tvivel om att vi står inför en betydande förändring. Hur vi väljer att anamma AI kommer däremot att skilja sig åt.
Många organisationer har sedan länge sina utstakade ledstjärnor, inte sällan med västlig kompasskurs. Dessa förebilder gör det enkelt att fortsätta anamma deras teknikutveckling. Valen präglas då inte alltid av ett systematiskt och riskbaserat arbetssätt. De betraktas nämligen inte som val, utan som en naturlig utveckling. Visserligen sätter regleringen ibland gränser, men dessa uppfattas inte sällan just som hinder.
Rösterna som efterfrågar ytterligare AI-reglering hörs allt tydligare, inte minst från de stora amerikanska teknikföretagen. EU:s AI-förordning kanske kan fungera som förebild? Att teknikföretagen själva efterfrågar reglering är förvisso inget nytt, men frågan har fått förnyad aktualitet. Vilka risker ser de egentligen? Och i vilken utsträckning handlar det också om att skydda den egna positionen gentemot nya konkurrenter? Det är svårt att låta bli att fundera över kommersiella drivkrafter när det samtidigt kan vara närmast omöjligt att förhandla om samma aktörers standardvillkor för att möta kundernas behov.
Att AI kan användas för både olämpliga och oanade syften blev särskilt tydligt i somras. Under en intern säkerhetsutvärdering lyckades OpenAI:s modeller ta sig ur sin isolerade testmiljö och kompromettera Hugging Faces infrastruktur. Modellerna utnyttjade bland annat en tidigare okänd sårbarhet för att nå sitt mål. Händelsen väcker frågan hur väl det systematiska och riskbaserade arbetssättet egentligen fungerar, även hos dem som utvecklar den mest avancerade tekniken.
Om en svensk aktör genom bristande säkerhet hade exponerat miljontals känsliga personuppgifter skulle tillsynsmyndigheten sannolikt ha granskat verksamheten och, vid konstaterade överträdelser, kunnat besluta om sanktionsavgifter. Huruvida dessa avgifter är effektiva, proportionerliga och avskräckande kan diskuteras. Men varför skulle inte motsvarande krav på ansvarstagande ställas på AI-aktörer? När bristande säkerhet får allvarliga konsekvenser måste också ansvaret kunna bli kännbart.
Vad gäller just agentisk AI behöver vi bygga förmågan att säkerställa vem som står bakom en agent, vilken agent det är, vilka befogenheter den har och vad den får göra i den aktuella kontexten. Betänk att vi redan i dag använder AI-agenter utan att alltid ha tillfredsställande svar på dessa frågor.
Som alltid finns det aktörer med onda avsikter, och i orätta händer innebär AI en enorm utmaning. Den goda sidan av tekniken har samtidigt bidragit till att Microsofts septemberuppdatering omfattar fler än 900 rättade sårbarheter. Men samma förmåga kan användas för att identifiera och exploatera sårbarheter i en takt som utmanar våra invanda säkerhetsprocesser. Tiden från upptäckt till exploatering riskerar att krympa dramatiskt. Vad händer med vårt säkerhetsarbete när även en zero-day redan är gammal?
I sammanhanget väcks också frågan hur den brottsbekämpande verksamhet som använder sårbarheter som grund för vissa tvångsmedel ska navigera framöver. Vad händer när sårbarheter upptäcks och åtgärdas allt snabbare? Kommer frågan om bakdörrar att aktualiseras på nytt? Debatten om totalsträckskryptering lär återigen komma upp till ytan.
Vem som har goda respektive onda avsikter, och utifrån vems perspektiv, kommer att ha stor betydelse för den fortsatta utvecklingen av AI. Regleringen är en del av svaret, men minst lika avgörande är hur vi omsätter den i ett faktiskt ansvarstagande. Ingen vill att AI ska bidra till något fulare. Vi både förtjänar och förväntar oss att tekniken bidrar till något långt vackrare.
Vad är annars meningen med AI?
Författare: Thomas Nilsson