Menü
Das Ende 2022 neu erwachte öffentliche Interesse an KI, insbesondere Generativer KI, war für uns als sequire besonders spannend. Zum einen, weil wir schon immer eine Affinität zum Thema KI hatten, und zum anderen, weil wir in der Lage waren, als erste auf eklatante Sicherheitsprobleme beim Einsatz von Large Language Models (LLM) in Applikationen hinzuweisen.
Dieses Thema hat uns enorm viel Aufmerksamkeit beschert:
– zahlreiche Presseberichte.
– eine Warnung des Bundesamts für Sicherheit in der Informationstechnik (BSI) explizit basierend auf unseren Arbeiten
– eine Einladung zur weltgrößten Cybersicherheitskonferenz Black Hat in Las Vegas mit mehr als 20.000 Teilnehmenden
– der erste Platz der OWASP Top 10 für Große Sprachmodelle.
– ein Best Paper Award bei der AISEC.
Eine Spezialisierung auf das Thema Sicherheit von Generativer KI ist also aus unserer Sicht ein logischer nächster Schritt gewesen. Mit Interesse verfolgen wir die Aktivitäten unserer Kolleg:innen von N4 und 4PACE und unterstützen natürlich gerne beratend und auch tatkräftig, wenn es um das Absichern von Systemen geht.
Trotz unserer ausführlichen Warnung vor den Gefahren einer intrinsischen Schwachstelle innerhalb von Sprachmodellen, die nicht ohne Weiteres abgestellt werden kann, befürworten wir nach wie vor den Einsatz dieser neuen Technologie. Sicherheitsprobleme sind eine Herausforderung, aber kein Show-Stopper. Schließlich leben wir seit Jahrzehnten auch mit Spam-Mails, Computerviren, Ransomware und Sicherheitslücken in Software und Betriebssystemen. Trotzdem haben wir die Nutzung von Computern noch nicht aufgegeben.
Ein paar Fragen möchten wir allen Entscheider:innen mit auf den Weg geben, die sich für den Einsatz von KI in ihrer Unternehmenslandschaft entscheiden:
1. Passt die Lösung, die ich anwenden möchte, überhaupt zu meinem Problem?
2. Habe ich verstanden, was die KI in meinem Unternehmen macht und wo die Grenzen liegen?
3. Auf welche Datenquellen greift die KI zu? Habe ich diese vollständig unter meiner Kontrolle? Gibt es andere Akteure, die die Datenquellen kontrollieren oder manipulieren können?
4. Wie sehr verlasse ich mich auf die Ausgabe von KI-Systemen? Wird das Ergebnis nochmal von einem Menschen kontrolliert? Was passiert, wenn ich falsche Ausgaben habe?
5. Beinhaltet die Ausgabe meines Systems sensible Daten? Besteht die Möglichkeit, diese auszuleiten und mir damit Schaden zuzufügen oder meine Intellectual Property abzugreifen?
DR. CHRISTOPH ENDRES
Geschäftsführer
sequire technology
Das könnte Sie auch interessieren
