Myndigheter ser AI som växande cyberhot: ”Ökad ångest och stress”

– Det är inte metoderna på hackningen som är nya, utan skalan och hastigheten. Du kan ge en AI i uppdrag att hacka ett system, gå på lunch och när du är tillbaka har den utfört en miljon försök, säger Johan Thulin, cybersäkerhetsstrateg på Sveriges Kommuner och Regioner (SKR), till Svenska Dagbladet.

Enligt Johan Thulin utsätts kommuner och regioner dagligen för it-angrepp, och antalet försök fortsätter att öka. Det som har förändrats är framför allt hur snabbt och hur storskaligt angrepp kan genomföras.

Säkerhetschefer upplever ökad press

Även inom myndighetssamarbetet E-sam verkar det finnas en oro. Erik Enocksson, som arbetar med it-säkerhet inom E-sam, säger till SvD att AI-drivna cyberhot har varit en återkommande fråga i diskussioner mellan myndigheternas säkerhetsansvariga.

– Säkerhetschefer på myndigheter känner en ökad ångest och stress över det här. Det var inte lätt att utföra arbetet tidigare och teknikutvecklingen gör det tuffare och svårare. Det är mer magmedicin och mindre sömn, tyvärr.

Enligt Erik Enocksson finns myndigheter som bedömer att de redan utsatts för AI-stödda attacker. Bedömningen grundar sig bland annat på att angriparna mycket snabbt har ändrat metod när försvarsåtgärder införts.

– En duktig AI-bot agerar väldigt likt en väldigt duktig hacker. Den gissar sig också fram, men går snabbare och testar mer metodiskt. Det är jättetufft att stå emot det. Men de utsatta myndigheterna har lyckats skydda sig än så länge. Generellt finns en oro, till och med på generaldirektörsnivå. Så det är inte bara en fråga för säkerhetsansvariga, säger han till tidningen.

NCSC: Fokus bör ligga på dagens sårbarheter

John Billow, chef vid Nationellt cybersäkerhetscenter (NCSC), anser att uppmärksammade incidenter där AI-agenter använts visserligen är viktiga, men att de riskerar att skymma andra och mer etablerade hot.

– Det blir väldigt stora rubriker. Man ska inte förringa risker och de säkerhetsaspekter som finns i den nya teknologin, de är allvarliga och stora. Men vi behöver differentiera detta lite, säger han till SvD.

Han pekar på att traditionella cyberangrepp fortfarande orsakar omfattande skador och att brister i grundläggande cybersäkerhet ofta är den avgörande faktorn.

– Det fortsätter ske konventionell hackning på grund av stora sårbarheter i den vanliga cybersäkerheten. Den här attackvågen från autonoma system som det varnas för, den har vi hittills inte sett.

Samtidigt anser han att organisationer bör förbereda sig på att AI kan få en större betydelse i framtida angrepp.

”En skopa AI-skräck

I en tidigare intervju med CIO Analytics anser Hanna Linderstål att hoten om fler och mer sofistikerade AI-attacker står för dörren, och hon höjer ett varningens finger.

– Det har blivit billigare och enklare för hackare att göra systematiska, direktanpassade phishingattacker som ser väldigt verkliga ut. Jag tror att vi kommer behöva ha en stor skopa AI-skräck, faktiskt. Vi automatiserar väldigt snabbt nu, och vi riskerar att ta med oss vår cybersäkerhetsskuld in i AI-utvecklingen. Vi måste jobba med säkerhet hela vägen, säger hon till CIO Analytics.