Шведские эксперты: слухи о смерти кибербезопасности из-за мощных ИИ-моделей преувеличены

Är ryktena om cybersäkerhetens död överdrivna? Den frågan ställer sig Viktor Bergström och John Ziegenbein, två forskare i cybersäkerhet vid Totalförsvarets forskningsinstitut, FOI, i en ny rapport. Bakgrunden till frågeställningen är diskussionen om Anthropics AI-modellen Mythos verkliga förmågor. Är modellen så pass överlägsen som det ibland påstås? Så pass att cyberkriminella får ett övertag? – Vi ville undersöka vad som var marknadsföring och vad som faktiskt var fakta, säger Viktor Bergström över telefon från FOI:s kontor i Linköping. Kollegan John Ziegenbein tillägger att det är svårt att bedöma AI-modellers förmågor på ett tillförlitligt sätt. – Det finns svagheter i metoderna som används för att bedöma detta, säger han. Ytterligare en omständighet som gör situationen svårbedömd är att få personer har haft tillgång till Mythos, inte heller de två FOI-forskarna har haft det. Mythos stängdes av Det finns skäl till det. Anthropics vd Dario Amodei ville i våras inte lansera den brett eftersom den är ”för kraftfull”, enligt honom. Istället kom Fable 5 ut, byggd på samma arkitektur men är omgiven av strikta säkerhetsmekanismer. Den fanns dock bara tillgänglig några dagar innan Trumpadministrationen den 12 juni plötsligt stängde av tillgången till båda verktygen med motiveringen att de kunde utnyttjas av hackare för att hitta svagheter i datorsystem. Den 1 juli hävde regeringen dock stoppet för båda modellerna. Trots modellens otillgänglighet och eventuella svårigheter att bedöma dess kapacitet har det kommit varningar. KTH-professorn Pontus Johnson larmade redan i april för ett ”akut cyberhot”. Och tidigare i veckan publicerade Kungliga Ingenjörsvetenskapsakademien, IVA en rapport på temat, som han skrivit tillsammans med andra experter. Deras budskap: Det är bråttom, alla samhällsaktörer måste omedelbart se över sin digitala säkerhet. Även Säkerhetspolisen, Säpo varnar nu för tekniken. De konstaterar i en skrivelse på sin hemsida att AI-modellerna innebär nya utmaningar i säkerhetsarbetet. Även de anser att det brådskar: ”De nya AI-modellernas förmågor gör att tidsfönstret mellan upptäckten av en sårbarhet och dess faktiska exploatering krymper kraftigt”, står det på sajten. Hotaktörer använder AI SvD har ställt frågor till Säpo, bland annat skälet till varningen. I ett mejlsvar framgår att myndigheten ser behov av att visa hur viktigt det är att verksamhetsutövare avsätter tillräckligt med resurser för att möta en snabbt förändrad hotbild som AI-utvecklingen innebär. ”Vi vet att hotaktörer kan använda teknik som AI för att bland annat genomföra cyberoperationer, kartläggning och för att bedriva informationspåverkan”, skriver myndighetens presstalesperson Karin Lutz i mejlet. Om Säpo redan i dag har sett att hotaktörer använder AI i cyberangrepp kan hon inte gå in på. Viktor Bergström och John Ziegenbein vid FOI håller med om att en alltmer kapabel AI utgör risker och att det är vettigt att organisationer ser över sin säkerhet. Men är inte säkra på att just Mythos ska vara skäl till oro. – Mythos verkar prestera något bättre, men kanske inte riktigt till den grad som Anthropic beskriver det, säger Viktor Bergström. John Ziegenbein fortsätter: – Även om Mythos är en lite mer kraftfull modell är den kanske inte så otroligt mycket bättre än vad som redan finns på marknaden idag. Så det är svårt att kalibrera graden av panik man borde ha och exakt förutspå hur utvecklingen ser ut, säger han. FOI är en myndighet under försvarsdepartementet och bedriver forskning till stöd för det militära och civila försvaret i Sverige. Bergström och Ziegenbein poängterar att de inte uttalar sig för FOI utan bara som forskare. Jämvikt kan uppstå De båda förstår den uppkomna rädslan för vad AI-modellerna kan ställa till med. – Det är klart att man kan vara orolig. AI-modellerna är ju ett nytt verktyg redan använts av flera hotaktörer för att göra lyckade intrång. Och det är ju oroväckande, säger John Ziegenbein. Samtidigt betonar han och Viktor Bergström att alla som jobbar med att förbättra cybersäkerheten också har tillgång till AI i sitt försvar och kan med hjälp av tekniken upptäcka sårbarheter. Om verktygen i slutändan gynnar försvarare eller angripare mest är en öppen fråga, konstaterar de i sin rapport. – Kanske blir det bara så att både attackeraren och försvararen kör exakt samma verktyg på sin kodbas och infrastruktur att de till slut når något slags jämvikt. Så är ryktena om cybersäkerhetsdöden överdrivna? – Vi tror inte att allt är över och att domedagen är inne. Det är inte kört, säger Viktor Bergström.