Unit 42, het onderzoeksteam van Palo Alto Networks, laat in nieuw onderzoek zien dat AI steeds zelfstandiger in staat is om cyberaanvallen uit te voeren op cloudomgevingen. AI-systemen kunnen complexe aanvalsketens uitvoeren met minimale menselijke tussenkomst, wat nieuwe risico’s met zich meebrengt voor organisaties die afhankelijk zijn van cloudinfrastructuur.
Eerder onderzoek van Unit 42 toonde al aan dat AI als ‘operator’ kan functioneren binnen cyberoperaties. In dit nieuwe onderzoek geeft Unit 42 antwoord op de vraag: kunnen AI-systemen volledig autonoom end-to-end aanvallen uitvoeren, of blijft menselijke sturing noodzakelijk? Hiervoor ontwikkelde Unit 42 ‘Zealot’, een proof-of-concept met meerdere AI agents die samenwerken binnen een aanvalsscenario.
Dit zijn de belangrijkste bevindingen uit het onderzoek:
- In een gecontroleerde testomgeving wist het systeem zelfstandig een volledige aanval uit te voeren, inclusief het misbruiken van kwetsbaarheden, het verkrijgen van toegangsgegevens, het toe-eigenen van beheerrechten en het buitmaken van data.
- AI-gedreven aanvallen bereiken daarmee een nieuw volwassenheidsniveau. huidige modellen kunnen aanvalsstappen zelfstandig aan elkaar koppelen met minimale menselijke begeleiding. De tijd tussen eerste toegang en dataverlies wordt daardoor steeds korter.
- Volledig autonome aanvallen bleken echter nog niet helemaal mogelijk zonder menselijk tussenkomen. Tijdens de tests was enige vorm van handmatige controle nodig om te voorkomen dat de AI vastliep in irrelevante zijpaden.
- Bestaande detectiesystemen, die zijn afgestemd op menselijk gedrag, zullen moeite hebben om dit soort AI-gedreven aanvallen te herkennen, omdat deze razendsnel meerdere acties combineren.
Deze bevindingen onderstrepen dat organisaties hun securitystrategieën moeten heroverwegen in een tijdperk waarin AI niet alleen wordt ingezet voor verdediging, maar ook steeds vaker door aanvallers. Het onderzoek van Unit 42 laat zien dat de ontwikkeling van AI-gedreven dreigingen snel gaat en dat traditionele detectiemechanismen mogelijk niet langer volstaan.