„Prompt-Injection“ – Versionsunterschied
| [ungesichtete Version] | [ungesichtete Version] |
Die Seite wurde neu angelegt: „<onlyinclude> Das Verwenden spezifischer Texteingaben, um an Hintergrundinformationen oder nicht zur Veröffentlichung bestimmte Ausgaben der Sprachmodelle zu gelangen, wird ''Prompt Injection'' genannt. Die Bezeichnung entspringt der [https://de.wikipedia.org/wiki/SQL-Injection SQL-Injection], bei der ebenfalls eine spezifische Eingabe des Benutzers zu einem, vom Betreiber des Systems nicht vorgesehenem, Verhalten f…“ |
K Textersetzung - „<onlyinclude>“ durch „{{SchaufensterBeginn|Auszug}}“ |
||
| Zeile 1: | Zeile 1: | ||
{{SchaufensterBeginn|Auszug}} | |||
Das Verwenden spezifischer Texteingaben, um an Hintergrundinformationen oder nicht zur Veröffentlichung bestimmte Ausgaben der [[Sprachmodell|Sprachmodelle]] zu gelangen, wird ''[[Prompt-Injection|Prompt Injection]]'' genannt. Die Bezeichnung entspringt der [https://de.wikipedia.org/wiki/SQL-Injection SQL-Injection], bei der ebenfalls eine spezifische Eingabe des Benutzers zu einem, vom Betreiber des Systems nicht vorgesehenem, Verhalten führt. Da Sprachmodelle anhand von zwischenmenschlichen Konversationen trainiert werden, funktionieren oft auch [https://de.wikipedia.org/wiki/Social_Engineering_(Sicherheit) Social Engineering]-Methoden wie [[Erpressung]] oder [[Identitätsbetrug]]. | Das Verwenden spezifischer Texteingaben, um an Hintergrundinformationen oder nicht zur Veröffentlichung bestimmte Ausgaben der [[Sprachmodell|Sprachmodelle]] zu gelangen, wird ''[[Prompt-Injection|Prompt Injection]]'' genannt. Die Bezeichnung entspringt der [https://de.wikipedia.org/wiki/SQL-Injection SQL-Injection], bei der ebenfalls eine spezifische Eingabe des Benutzers zu einem, vom Betreiber des Systems nicht vorgesehenem, Verhalten führt. Da Sprachmodelle anhand von zwischenmenschlichen Konversationen trainiert werden, funktionieren oft auch [https://de.wikipedia.org/wiki/Social_Engineering_(Sicherheit) Social Engineering]-Methoden wie [[Erpressung]] oder [[Identitätsbetrug]]. | ||
Version vom 8. Dezember 2025, 17:46 Uhr
Das Verwenden spezifischer Texteingaben, um an Hintergrundinformationen oder nicht zur Veröffentlichung bestimmte Ausgaben der Sprachmodelle zu gelangen, wird Prompt Injection genannt. Die Bezeichnung entspringt der SQL-Injection, bei der ebenfalls eine spezifische Eingabe des Benutzers zu einem, vom Betreiber des Systems nicht vorgesehenem, Verhalten führt. Da Sprachmodelle anhand von zwischenmenschlichen Konversationen trainiert werden, funktionieren oft auch Social Engineering-Methoden wie Erpressung oder Identitätsbetrug.
Forscherinnen und Forscher widmen sich deren Vermeidung, verwerfen dies aber auch als nicht gänzlich lösbares Problem.[1][2]
- ↑ Yi Liu, Gelei Deng, Yuekang Li, Kailong Wang, Tianwei Zhang, Yepang Liu, Haoyu Wang, Yan Zheng, Yang Liu: Prompt Injection attack against LLM-integrated Applications. 2023, doi:10.48550/ARXIV.2306.05499, arxiv:2306.05499v1.
- ↑ Daniel Szöke: Prompt Injection: Marvin von Hagen trägt vor, wie er Bing Chat austrickste. In: heise online. 17. Juli 2023, abgerufen am 26. Juli 2023.