Prompt Injection

Prompt Injection ist ein Angriff, der schädliche Anweisungen in Eingaben oder Inhalten versteckt, die ein KI-Modell verarbeitet, sodass es seine eigentlichen Anweisungen ignoriert, Daten preisgibt oder unerwünschte Aktionen ausführt. Sie ist heute das größte Risiko in den OWASP Top 10 für LLM-Anwendungen, weil Angreifer Anweisungen in E-Mails oder Webseiten verstecken können, die KI-Agenten automatisch verarbeiten.