Penetratietesten met LLM’s wordt steeds populairder, net als alles wat wordt aangedreven door AI. De verwerkingsmogelijkheden die deze technologie biedt, zijn ongekend, en het potentieel ervan groeit alleen maar naarmate het elk jaar miljarden dollars aan investeringen aantrekt.
Op dit punt is de groei van LLM’s niet alleen een belangrijke factor voor cybersecurity, maar ook voor de wereldwijde economische zekerheid. Veel mensen praten erover, maar de waarheid is dat, ondanks alle risico’s, de groei van AI onomkeerbaar is. Daarom is het beste wat u kunt doen, het volledige potentieel ervan benutten om de systemen van uw bedrijf te beschermen, wat de implementatie van LLM-penetratietesten inhoudt. Om hiermee de beste resultaten te behalen, moet u zich echter bewust zijn van die risico’s en deze effectief mitigeren. In dit artikel leggen de experts van QAwerk op het gebied van penetratie- en AI-testen de voor- en nadelen uit van het gebruik van LLM-agenten en hoe u dit veilig kunt doen.
Wat is penetratietesten met LLM-agenten?
Laten we beginnen met te definiëren wat LLM penetration testing precies inhoudt. Simpel gezegd, dit type testen gebruikt tools die worden aangedreven door Large Language Models om te proberen uw systemen binnen te dringen. In feite simuleren deze agents, gevoed door AI, de acties van potentiële aanvallers om u te helpen kwetsbaarheden te vinden en te evalueren.
Dat gezegd hebbende, identificeren de experts van QAwerk momenteel twee categorieën voor de implementatie van LLM-agents in cybersecurity:
- Gebruik van agentic pentesting-platforms: Deze oplossingen helpen traditionele pentesting-services tot op zekere hoogte te automatiseren. Ondanks het woord ‘agentic’ in de mix, zijn deze oplossingen slechts gedeeltelijk geautomatiseerd. Daarom zijn menselijke testers nog steeds zeer aanwezig en hebben zij grote controle over de processen. LLM’s assisteren bij het orkestreren van bestaande beveiligingstools. Dit gebeurt echter met meerdere ‘guardrails’ en menselijk toezicht.
- Implementatie van LLM/GenAI red-teaming agents: Deze worden gebruikt voor LLM-applicatietesten. Ze helpen bij het uitvoeren van een uitgebreide beveiligingsanalyse door promptinjectie, datalekken, jailbreaks en onveilig toolgebruik te emuleren. In dit geval voeren machines LLM-beveiligingstests onafhankelijker van mensen uit.
De echte vraag is echter of LLM penetration testing wel veilig en betrouwbaar is. Er zijn risico’s aan verbonden die misschien lijken op paranoia die door sciencefictionfilms wordt opgewekt. Echter, volgens talrijke studies en rapporten, waaronder een beoordeling door de Australian Competition and Consumer Commission, evenals onderzoek door Deloitte en McKinsey, kan AI zowel een vriend als een vijand zijn in cybersecurity-kwesties. Hieronder lichten we de belangrijkste punten uit over hoe LLM-testen wordt gebruikt in beveiligingsanalyse en bespreken we de sterke en zwakke punten ervan.
Hoe werkt penetratietesten met LLM's?
Hoewel geen twee tools exact hetzelfde zijn, ziet de pijplijn voor penetratietesten met LLM-agents er over het algemeen als volgt uit:
- Definiëren van de reikwijdte en regels voor interactie
Dit is een volledig menselijke stap, aangezien de pentest-ingenieur moet definiëren wat binnen de reikwijdte valt en wat verboden is. Zij moeten ook de succescriteria opstellen. - Contextinvoer
Deze stap vereist een combinatie van menselijke vaardigheid en supervisie met de verwerking van machine learning-modellen. Hier leert de LLM-agent doelwitten, architectuuraanwijzingen, authenticatiebeperkingen, logs en bekende assets te begrijpen. - LLM-redenering en -planning
In dit stadium moeten LLM-agents een geprioriteerd penetratietestplan voorstellen. Dit moet gebaseerd zijn op een logische risicobeoordeling, op de gegevens die door het model zijn geconsumeerd. - Tool-orkestratie en -uitvoering
Agent-AI en platformcontroles werken samen in deze stap en presenteren de ultieme geautomatiseerde testcombinatie. De agent activeert de scan- of validatieacties die nodig zijn door gebruik te maken van geïntegreerde tools of platform-API’s. - Perceptie en iteratie
Hier maakt penetratietesten met LLM volledig gebruik van de mogelijkheden van het model. Het zal testresultaten interpreteren en acties ondernemen, zoals het bijwerken van hypothesen en het kiezen van de volgende tests. - Bewijspakket samenstellen
Deze stap kan gezamenlijk worden afgehandeld door de menselijke expert en geautomatiseerde AI-tools. Het omvat het opstellen van reproduceerbaarheidsnotities, het vermelden van getroffen componenten en het verstrekken van de redenering voor de ernst. - Menselijke verificatie en rapportage
De menselijke factor is altijd essentieel voor volwassen en complexe programma’s. In dit geval van LLM-penetratiebeproevingen zullen zij de exploiteerbaarheid en de zakelijke impact bevestigen, en foutpositieven verwijderen. - Verificatie van herstelmaatregelen
In essentie is dit een agent-eerst stap waarbij gerichte tests opnieuw worden uitgevoerd om succesvolle kwetsbaarheidsherstel te bevestigen.
Merk op dat deze processen aanzienlijk kunnen verschillen tussen de tools. Enkele van de populairste penetratietest LLM-agents van vandaag zijn:
- Terra Security
- Horizon3.ai NodeZero
- PentestGPT
- PentestAgent (framework)
- AutoPentester
- “Caido” Assistant
- NVIDIA “garak”
Penetratietesten met LLM: voor- en nadelen
Het gebruik van LLM-agenten in cybersecurity brengt zowel voor- als nadelen met zich mee. De belangrijkste factor is echter misschien niet het feit dat dit een ‘vriend of vijand’-situatie is, maar dat het onvermijdelijk is. Op dit punt ontwikkelen technologie en wereldwijde digitalisering zich zo snel dat AI een integraal onderdeel is geworden van ons dagelijks leven. Het wordt ook door aanvallers zelf gebruikt. Daarom is het essentieel om software en netwerkbeveiligingstools met LLM-ondersteuning te gebruiken, aangezien dit de enige middelen zijn die in staat zijn gelijke tred te houden met LLM-gestuurde dreigingen.
Objectief gezien moet u zowel de sterke als de zwakke punten van LLM-penetratie testen overwegen. Het doel moet echter zijn om te begrijpen hoe u deze het beste kunt implementeren en de risico’s die gepaard gaan met AI-technologie kunt beheren, in plaats van te beslissen of deze tests überhaupt moeten worden gebruikt. Op dit moment maakt het overslaan van dit type testen uw systemen standaard kwetsbaar voor dreigingen op AI-niveau.
Voordelen van het gebruik van LLM-agents in cybersecurity
De voordelen van penetratietesten met LLM-agents kunnen we samenvatten met twee simpele woorden: productiviteitsboost. Het implementeren van deze technologie als onderdeel van een geautomatiseerde pijplijn, met name voor AI-testen, verbetert de nauwkeurigheid, dekking, grondigheid en snelheid. Machine Learning-modellen kunnen worden getraind om patronen te herkennen die voor het menselijk oog nauwelijks waarneembaar zijn en tests uit te voeren die handmatig onmogelijk te repliceren zijn vanwege de enorme benodigde middelen.
De belangrijkste sterke punten van penetratietesten met LLM’s kunnen we als volgt definiëren:
- Brede dekking
AI-agents kunnen een uitgebreid aanvalsoppervlak bestrijken en het testen continu laten doorlopen tijdens de herstelwerkzaamheden om het hoogste niveau van grondigheid bij wijzigingen te garanderen. - Snelheid van testen
Machine Learning-modellen voeren tests extreem snel uit, waardoor ze meer gegevens kunnen verwerken dan een team van QA-testers in een fractie van de tijd met een minimale foutmarge. - ‘Lijm’ tussen tools en context
Door gebruik te maken van MCP-achtige bruggen (Model-Context Protocol) kunnen LLM’s de blootstellingscontext bevragen en workflows op natuurlijke wijze aansturen. - Gedetailleerde rapportage
LLM’s zijn zeer effectief in het omzetten van chaotische gegevens naar consistente rapporten die voldoen aan uw exacte specificaties en gevisualiseerd zijn voor eenvoudig begrip. - Beveiliging van GenAI-toepassingen
Gespecialiseerde agents kunnen LLM-penetratietesten uitvoeren en systematisch faalmodi onderzoeken die reguliere pentests niet dekken, waardoor AI zelf veiliger wordt.
Risico's van LLM-beveiligingstesten
De risico’s en algemene nadelen van het implementeren van penetratietests met LLM-agenten komen grotendeels overeen met het risico van het gebruik van agentische AI in het algemeen (zie de afbeelding hierboven). De meest opvallende zaken om te overwegen bij het nadenken over mogelijke problemen met LLM-penetratietests zijn:
- Hallucinaties en overmatig zelfvertrouwen
We hebben nog geen manier gevonden om AI-hallucinaties volledig te verwijderen, en u moet er rekening mee houden dat zelfs een mens in de loop geen 100% bescherming biedt tegen onjuiste beslissingen van de agent. De reden hiervoor is dat LLM’s uiterst zelfverzekerd kunnen klinken en schijnbaar onderbouwde argumenten kunnen aandragen ter ondersteuning van hun meningen, zelfs als deze volledig onjuist zijn. Om dit in een begrijpelijke context te plaatsen: LLM’s kunnen extreem koppig zijn en onbedoeld mensen die hun prestaties verifiëren, overtuigen om het met hen eens te zijn door valse gegevens te verstrekken. - Vals-positieve of vals-negatieve resultaten
Deze kunnen vaker voorkomen in systemen met complexe bedrijfslogica, autorisatiestromen en multi-step exploits. - Gegevensblootstelling
Als de datapipeline prompts naar externe modellen stuurt, loopt u het risico gevoelige informatie te lekken. Dit risico kan worden beperkt door regelgeving inzake gegevensplaatsing op te stellen en externe aanroepen te verbieden. - Veiligheid en governance
Naarmate de autonomie van de agent groeit, groeit ook het risico dat deze iets buiten uw beleid om doet. Penetratietests met LLM-agenten kunnen bijvoorbeeld buitengewoon agressief worden zonder strikte vangnetten.
De laatste overweging om in gedachten te houden is dat LLM’s het testen faciliteren, waardoor het sneller, breder, grondiger en tot op zekere hoogte nauwkeuriger wordt. AI is echter nog steeds niet in staat om goed te presteren in complexe en geavanceerde systemen. Daarom is ingewikkeld testwerk dat bijna onzichtbare, maar gevaarlijke kwetsbaarheden kan opsporen, nog steeds exclusief voorbehouden aan menselijke experts die creatief en ‘out-of-the-box’ kunnen denken.
Hoe u het maximale haalt uit LLM-penetratietesten
Om de beste resultaten te behalen met elk type softwaretesten, met name op het gebied van beveiligingsanalyse, moet u twee dingen in gedachten houden. Het eerste is dat een combinatie van menselijke expertise en de kracht van machine learning de ultieme nauwkeurigheid van testresultaten levert. Daarom is het geen keuze tussen handmatige of geautomatiseerde LLM-testen. Het beste antwoord is beide, vooral wanneer de strategie is ontwikkeld door ervaren penetratietestprofessionals.
Het tweede punt om in gedachten te houden is dat penetratietesten met LLM-agenten mogelijk niet volledig veilig zijn. Niets is echter 100% veilig met AI-technologie, omdat deze zich zo snel ontwikkelt. Het is een noodzakelijk risico dat u moet leren beperken, omdat aanvallers, uw ware vijanden, AI-oplossingen tegen u zullen gebruiken. Daarom is de enige manier om weerbaarheid op te bouwen het benutten van de kracht van LLM’s om uw verdediging te versterken.
Daarnaast mag u niet vergeten dat beveiligingscontroles consistent moeten zijn. Daarom heeft de frequentie van penetratietesten minder invloed op de verdediging van uw systeem dan de vraag of u LLM-agenten in het proces opneemt.
Gezien dit alles, zijn hier enkele punten die u zullen helpen bij het opbouwen van een grondige en effectieve strategie voor penetratietesten van software:
- Menselijke supervisie is essentieel
Ervaren pentestprofessionals zijn het meest effectief tijdens het definiëren van de scope en het vaststellen van juridische en ethische controlemechanismen. Ze zijn ook essentieel voor het valideren van de impact en het verminderen van ruis. Dit betekent dat menselijke professionals de output van de agent moeten filteren en beslissen wat daadwerkelijk moet worden beoordeeld of gewijzigd. Bovendien zijn zij verantwoordelijk voor communicatie met het management en het ontdekken van logische tekortkomingen. - Randvoorwaarden voor LLM-penetratie testen zijn verplicht
Om penetratietesten met LLM’s tot uw voordeel te laten werken, is het noodzakelijk om strikte grenzen te stellen voor de agent-gebaseerde AI en de implementatie ervan. De vereiste randvoorwaarden moeten strikte scoping, goedkeuringspoorten voor acties, geïsoleerde testomgevingen, sterke herkomsttracking en logging omvatten. Bovendien is het van cruciaal belang om strikte databeheerbeleidslijnen vast te stellen die aansluiten bij de nalevingsvereisten waaraan uw bedrijf moet voldoen. - De hybride aanpak is de toekomst van LLM-testen
Op dit moment is de beste strategie voor penetratietesten ‘hybride’, wat betekent dat deze continue agent-gebaseerde testen voor maximale dekking en menselijke testers om het proces te begeleiden omvat. AI-agenten zijn een uitstekende accelerator, maar geen vervanging voor het menselijke vermogen om complexe patronen te identificeren en te analyseren, rekening houdend met de strategische doelen van het bedrijf.
Als u klaar bent om te beginnen met het bouwen en implementeren van een LLM-strategie voor penetratietesten, deelt QAwerk graag onze ervaring en helpt u door een plan te leveren dat is afgestemd op uw specifieke behoeften. Neem vandaag nog contact met ons op om de beveiliging van uw systeem op de meest efficiënte manier te verbeteren.
Uw gratis voorbeeld van een beveiligingscodebeoordeling
