Det amerikanske AI-selskab Anthropic har (i hvertfald på rygtebasis) udviklet en avanceret model kaldet “Mythos”, der siges at kunne finde tusindvis af sikkerhedshuller i it-systemer globalt og dermed fungere som et digitalt supervåben.
Eksperter som Jacob Herbst (Cybersikkerhedsråd) og Kasper Lynge Jacobsen (Dansk Erhverv) mener, at der er et element af marketingstunt i lanceringen, især efter at Anthropic tidligere blev udelukket fra amerikanske forsvarscontracter. Alligevel advarer de om, at risikoen er reel, da AI-agenter bliver bedre til selvstændigt at udnytte sårbarheder.
Der er bekymring for, at den amerikanske afhængighed kan bremses, og at amerikanske efterretningstjenester får adgang til ukendte sårbarheder, hvilket skaber et magtfuldt våben. Teksten nævner også, at selvom store tech-giganter får hjælp, er der stadig mange andre systemer (som WordPress, Mozilla og danske løsninger fra Netcompany), der er i risiko.
Selvom “Mythos” muligvis er overdrevet i sin markedsføring, udgør den en alvorlig cybersikkerhedsrisiko, der forstærker Europas afhængighed af amerikansk teknologi og efterlader europæiske aktører i en sårbar position.
Mozilla havde en artikel om det. Deres take-away var at, jo den er dygtig og hurtig, men de fejl den fandt, kunne også godt have været fundet af en person, hvis der ellers var nogen der kiggede.
Det Mythos kan er bare, at den er hurtig til det. Den er ikke bedre en mennesker.
https://blog.mozilla.org/en/privacy-security/ai-security-zero-day-vulnerabilities/
Det er stadig en ret markant ændring for både attackers og defenders. De råber vel bare vagt i gevær, da softwareudviklere skal til at ændre hvordan de tester deres software.
Som altid med det der ai, this is the worst it will ever be.