Den senaste AI-modellen, kallad Mythos, har enligt Anthropic potentialen att överträffa alla nuvarande hackare genom att identifiera sårbarheter i mjukvarusystem. Detta väcker frågor om huruvida allmänheten ska få tillgång till sådan teknologi eller inte, med tanke på dess potentiella faror.
Mythos påstås ha en exceptionell förmåga att avslöja säkerhetshål i olika system, och Anthropic hävdar att modellen redan har identifierat tusentals kritiska sårbarheter, inklusive sådana i betydande operativsystem och webbläsare. Företaget varnar för att om modellen skulle släppas fritt, kan kriminella aktörer använda den för att utnyttja dessa brister.
För att hantera denna situation har Anthropic inlett ”Project Glasswing”, där ledande teknikföretag som Google, Microsoft och Apple ges tillgång till systemet. Syftet är att dessa företag ska kunna identifiera och åtgärda sårbarheterna innan de kan utnyttjas av illasinnade aktörer.
En av de som fått tillgång till Mythos är svensken Daniel Stenberg, skaparen av Curl, en av de mest använda mjukvarorna globalt. Curl är en komponent som finns i över tio miljarder enheter, vilket gör eventuella sårbarheter kritiska. Stenberg uttrycker dock en viss skepticism gentemot Anthropics påståenden, och menar att det än så länge mest handlar om marknadsföring.
Trots en ökning av antalet inrapporterade buggar, vilka Stenberg menar har fyrdubblats, betonar han att många av rapporterna var av låg kvalitet. Under det senaste året har dock kvaliteten på AI-genererade rapporter förbättrats avsevärt.
Exempel som Anthropic ger på Mythos förmågor inkluderar upptäckten av en sårbarhet i operativsystemet Open BSD, som legat dolt i över 27 år. Denna sårbarhet gör det möjligt för en angripare att krascha ett system på distans, vilket visar på den potentiella risk som Mythos utgör.
Det finns också spekulationer om att Anthropic kan använda hajpen kring Mythos som en del av en strategi för att distansera sig från amerikanska myndigheter, särskilt efter att deras teknik nekades användning av Pentagon.
Kapprustningen inom AI och cybersäkerhet intensifieras, där både techbolag och kriminella aktörer tävlar om att utnyttja denna kraftfulla teknologi.