Anwendungsorientierte Sprachmodelle weisen Bedrohungen durch intrinsische Schwachstellen auf. Im Februar 2023 haben wir das in Zusammenarbeit mit dem CISPA – Helmholtz Zentrum für Informationssicherheit herausgefunden. Nun veröffentlichte auch das Bundesamt für Sicherheit in der Informationstechnologie (BSI) eine Cybersicherheitswarnung zu der von uns gefundenen Sicherheitslücke und warnt vor dem Risiko durch Indirect Prompt Injections bei der Integration von LLMs (Large Language Models) in Anwendungen.

Zur Veröffentlichung geht’s unter https://www.bsi.bund.de/SharedDocs/Cybersicherheitswarnungen/DE/2023/2023-249034-1032.pdf?__blob=publicationFile&v=3.