Data, privacy and the AI Act
Prompt injection
Prompt injection is een aanval waarbij tekst in de invoer of in een document het taalmodel ertoe brengt zijn instructies te negeren. Bij directe injectie typt de gebruiker dat zelf. Bij indirecte injectie staat de instructie verborgen in een webpagina, e-mail of bestand dat de agent leest.
Last updated: 17 November 2026
How it works
Het model kan geen betrouwbare scheiding maken tussen de instructies van de ontwikkelaar en tekst uit de data. Een verborgen zin in een factuur kan dus een actie triggeren. Verdediging combineert scheiding van data en instructies, minimale rechten voor tools en menselijke goedkeuring bij gevoelige acties.
Operations example
Een inkoopagent leest leveranciersfacturen. Een factuur bevat onzichtbare tekst die vraagt het IBAN-nummer te wijzigen. De agent mag bankgegevens niet zelf aanpassen, dus de wijziging wordt geweigerd en gemeld.
Questions about Prompt injection
01Is prompt injection op te lossen?
Niet volledig, zolang modellen data en instructies in dezelfde tekst verwerken. Daarom beperkt u wat een agent kan doen, in plaats van te vertrouwen op de tekst zelf.
Sources
Last checked: 17 November 2026
Want to apply Prompt injection in your own processes? Discuss your challenge.
Discuss your challenge