Ny rapport: Stärk skyddet mot AI-drivna cyberhot

Med AI kan säkerhetsluckor upptäckas och utnyttjas snabbare och i betydligt större skala än tidigare. Det konstaterar IVA i rapporten AI-drivna cyberhot – de kommande tolv månaderna som fokuserar på vad organisationer behöver göra på kort sikt för att stärka sitt skydd.

Enligt rapporten förändrar AI hur cyberangrepp kan automatiseras och skalas upp, och när tekniken blir mer tillgänglig riskerar fler aktörer att kunna genomföra avancerade attacker. Det gör att organisationer behöver agera snabbare och samtidigt integrera AI i det befintliga säkerhetsarbetet på ett kontrollerat och ansvarsfullt sätt.

I en intervju med Sveriges Radio beskriver Pontus Johnson, professor vid KTH, IVA-ledamot och ordförande i arbetsgruppen för rapporten, hur AI-modeller har blivit bättre på att hitta och utnyttja sårbarheter.

– Nyligen har det visat sig att AI-modeller plötsligt blivit överraskande bra på att hacka. Det har lagts krut på att AI-modeller ska vara väldigt bra på att programmera, men bieffekten har då blivit att de även är skickliga på att missbruka dataprogram som kan hitta och exploatera sårbarheter vi inte sett tidigare.

Grundläggande säkerhetsarbete blir viktigare

I rapporten pekar IVA ut flera prioriterade åtgärder för de kommande tolv månaderna där ett av dem är att öka hastigheten i säkerhetsarbetet. I en miljö där angripare snabbt kan testa och skala upp attacker kan det vara riskabelt att vänta på den perfekta lösningen.

Vidare betonas vikten av grundläggande cybersäkerhet. Eftersom AI-drivna hot snabbt kan identifiera och utnyttja svagheter lyfts flerfaktorsautentisering, behörighetskontroll, patchning, loggning och incidenthantering fram som centrala delar.

IVA framhåller också att styrningen behöver stärkas. Organisationer behöver veta vilka system, tjänster och leverantörer som är mest kritiska för verksamheten och beslut behöver kunna fattas i högre tempo. Något som enligt rapporten är en viktig fråga för ledningen.

– AI gör det enklare för vem som helst att genomföra cyberangrepp och därmed svårare för organisationer att skydda sig. Det mest avgörande under den närmaste tiden är att snabbt täppa till de viktigaste säkerhetshålen och att ansvarsfullt integrera AI i försvaret mot AI-drivna hot, säger Pontus Johnson i ett pressmeddelande. 

Möt AI med AI

En ytterligare åtgärd som IVA lyfter fram är informationsdelning och samverkan. Kunskap om hot och lärdomar från incidenter behöver spridas snabbare mellan myndigheter, företag, forskare och aktörer inom kritisk infrastruktur.

Rapporten betonar även att AI behöver användas i försvaret mot AI-drivna hot. Det handlar enligt IVA inte enbart om att göra befintligt arbete snabbare, utan om att integrera AI i säkerhetsarbetet på ett kontrollerat och ansvarsfullt sätt.

I intervjun med Sveriges Radio pekar Pontus Johnson på att många aktörer behöver bidra till att stärka skyddet.

– Det är tusentals olika organisationer som är involverade i försvaret av vår digitala infrastruktur och alla dessa måste agera. Sen är det också viktigt att även politikerna tar ansvar och exempelvis erbjuder statligt stöd till organisationerna.