Globalt upprop: Säkra systemen innan AI-attackerna ökar
Över 100 bolag har skrivit under uppropet. Bland annat Open AI, Lovable, Google och Anthropic. Från övre vänster: Sam Altman, vd Open AI; Anton Osika, vd, Lovable; Sundar Pichai, vd, Google; Dario Amodei, vd, Anthropic.
AI gör det enklare att genomföra avancerade cyberattacker. Därför uppmanar en stor grupp nyckelaktörer inom cybersäkerhet, teknik och AI till en bred mobilisering för att stärka skyddet av samhällsviktig digital infrastruktur.
Över 100 aktörer på techmarknaden, däribland svenska Lovable, och jättarna Open AI och Anthropic, har skrivit under ett öppet brev som vädjar till näringsliv och offentlig sektor världen över att särskilt och skyndsamt prioritera sin it-säkerhet, innan hotbilden från AI växer ytterligare.
Enligt initiativtagarna innebär utvecklingen av AI att cyberattacker väntas bli både vanligare och mer avancerade under de kommande åren och särskilt utsatta är verksamheter och system som samhället är beroende av, exempelvis sjukvård, vattenförsörjning och digital infrastruktur.
Publiceringen kommer i kölvattnet av den omskrivna incidenten i juli då AI-modeller från Open AI kringgick säkerhetsåtgärder utformade för att isolera modellerna från internet, och komprometterade delar av OpenAI:s interna forskningsinfrastruktur samt bolagets Hugging Faces system.
Tre principer för ett starkare skydd
I brevet presenteras tre ”principer” för ett starkare cyberförsvar, och verksamheter uppmanas att:
1) Acceptera att dagens säkerhetsnivå inte räcker;
2) Introducera AI i säkerhetsarbetet i en bredare skala;
3) Samordna insatser globalt.
Vidare uppmanas organisationer att göra cybersäkerhet till en ledningsfråga och prioritera åtgärder mot de mest kritiska sårbarheterna, bland annat genom att införa starkare behörighetskontroller. Även regeringar och myndigheter bör stärka sin samverkan kring hotinformation, incidenthantering och finansiering av cybersäkerhet, delvis med hjälp av AI-bolag som ska bidra med verktyg och stöd.
Parallellt bör cybersäkerhetsföretag enligt initiativtagarna utveckla AI-stödda försvarslösningar, dela hotinformation och hjälpa kunder att implementera och verifiera säkerhetsåtgärder.
Det bör i sammanhanget naturligtvis framföras att bolagen själva erbjuder och säljer mjukvara för att stå upp mot denna nya generation attacker, och avsändarna påpekar hur AI ger nya möjligheter att upptäcka sårbarheter, automatisera skyddsåtgärder och stärka försvarsförmågan.
”Åtgärda de allvarligaste sårbarheterna, verifiera att åtgärderna fungerar och dela med er av det som fungerar så att andra kan bygga vidare på det. Tillsammans kan vi omvandla dagens framsteg inom AI till varaktiga förbättringar av säkerheten som kommer alla till godo. Låt oss använda dem i praktiken”, avslutas brevet.