Det senaste AI-systemet från Anthropic har potentialen att överträffa alla världens hackare genom att identifiera säkerhetshål i mjukvara. Denna AI-modell, som går under namnet Mythos, har enligt företaget lyckats upptäcka tusentals allvarliga sårbarheter i operativsystem och webbläsare. Företaget varnar för att tekniken är så kraftfull att den inte bör ges till allmänheten.
Mythos beskrivs som en AI-modell med exceptionella programmeringskunskaper, vilket gör att den överträffar nästan alla människors förmåga att hitta brister i mjukvara. Enligt Anthropic har modellen redan identifierat sårbarheter som kan utnyttjas av illasinnade aktörer, vilket gör hans tillgång potentiellt farlig.
För att hantera de risker som detta innebär har Anthropic inlett ett projekt kallat ”Project Glasswing”. Syftet med projektet är att ge tillgång till Mythos till viktiga teknikföretag som Google, Microsoft och Apple, så att de kan åtgärda sårbarheterna innan de utnyttjas av brottslingar.
En av de personer som kommer att få tillgång till Mythos är svensken Daniel Stenberg, skaparen av Curl, en populär mjukvara som används globalt. Stenberg uttrycker viss skepticism kring Anthropics påståenden och menar att mycket av det som sagts kan vara mer marknadsföring än verklighet. Han påpekar att även om AI-system har blivit bättre på att identifiera buggar, så har kvaliteten på de inskickade rapporterna varierat kraftigt.
Under det senaste året har antalet inrapporterade säkerhetsbuggar fyrdubblats, och Stenberg noterar att många av dessa rapporter är genererade av AI. Trots det har kvaliteten på dessa rapporter förbättrats, vilket gör att han nu använder flera sådana verktyg för att analysera kod.
Exempelvis har Mythos redan identifierat en säkerhetsbugg i operativsystemet Open BSD som legat gömd i 27 år. Det är sådana fynd som kan få katastrofala konsekvenser om de hamnar i fel händer.
Tveksamheten kring Anthropics avsikter kvarstår, särskilt med tanke på att deras främsta konkurrent, Open AI, inte har involverats i projektet. Frågan är om detta är ett strategiskt drag eller ett sätt att bygga upp en offentlig image av ansvarstagande.
Det råder ingen tvekan om att kapprustningen inom AI-driven cybersäkerhet intensifieras, där både företag och brottslingar tävlar om att utnyttja teknologiska framsteg. Det kommer att bli avgörande att noggrant övervaka hur sådana kraftfulla verktyg används och av vem.