Menü
Durch die zunehmende Integration von LLMs in Software-Anwendungen haben die Schwachstellen dieser Systeme an Bedeutung erlangt. Mit einem explizit für diese Systeme entworfenen Pentest können die entsprechenden Sicherheitslücken aufgespürt und eliminiert werden. Penetration Tests sind ein wichtiger Bestandteil der Softwareentwicklung, der maßgeblich zur Sicherheit beiträgt und das Vertrauen in die Anwendung stärkt. Gerade bei generativen KI-Anwendungen ist dies aufgrund der Unvorhersehbarkeit der generierten Inhalte bedeutend. Es ist entscheidend, dass die Anwendung darauf geprüft, wie sich die Anwendung verhält, wenn sie mit unerwarteten oder potentiell schädlichen Eingaben konfrontiert wird.
Wir haben einen Penetration Test entwickelt, der auf die besonderen Schwachstellen von anwendungs-integrierten LLMs zugeschnitten ist. Dabei kommen Penetration Testing und Scanning Tools zum Einsatz, um eine möglichst breite Abdeckung zu erzielen. Die meisten Tools verwenden allerdings vorgefertigte Prompts, wodurch diese von aktuellen Verteidigungsmechanismen erkannt werden können, da die verwendeten Prompts bereits bekannt sind. Des Weiteren ist der von den gängigen Tools verfolgte Ansatz nicht für alle Schwachstellen ausreichend. Um die Beschränkungen zu umgehen und eine tiefgreifende Analyse von KI-Anwendungen zu ermöglichen, haben wir manuelle Tests entwickelt. Zum Abschluss stellen wir einen Report zur Verfügung, der alle gefundenen Schwachstellen enthält, so dass diese geschlossen werden können.
Wir sind Pioniere auf dem Gebiet der KI-Sicherheit. Wir haben die Indirect Prompt Injection Schwachstelle entdeckt und in Zusammenarbeit mit dem Helmholtz-Zentrum für Informationssicherheit (CISPA) analysiert und veröffentlicht. Darüber hinaus sind wir Initiator des Expertenkreises KI-Sicherheit der Allianz für Cybersicherheit des Bundesamts für Sicherheit in der Informationstechnik und Partner der Allianz für Cybersicherheit. Wir verbinden unsere langjährige Erfahrung im Bereich IT-Sicherheit mit innovativen Lösungen für die Sicherheit von anwendungs-integrierten LLMs. Wir bieten Ihnen einen auf Ihre Anwendung zugeschnittenen und qualitativ hochwertigen Penetration Test, der zum Schutz Ihrer Anwendung beiträgt und Ihre Vertrauenswürdigkeit stärkt.
Egal, ob Sie Ihr IT-System mit einer individuellen Lösung absichern möchten, Schulungsbedarf haben oder noch nicht so richtig wissen, wo Sie ansetzen sollen: Unsere Sicherheitsexpert:innen unterstützen Sie gerne.
