Warum wir Pentesting für LLMs neu denken müssen ÜBERBLICK Sprachmodelle und andere KI-Systeme verhalten sich nicht deterministisch. Dieselbe Eingabe kann – je nach Kontext, Prompt oder Datenlage – zu unterschiedlichen Ergebnissen führen. Das macht generative KI-Modelle leistungsstark, aber auch unberechenbar. Und genau das ist das Problem:Wer sich auf ein KI-System verlassen will, muss verstehen, was… Warum wir Pentesting für LLMs neu denken müssen weiterlesen
Compliance reicht nicht – KI braucht Sicherheit Warum KI-Anwendungen neue Schutzmaßnahmen erfordern ÜBERBLICK Manchmal versagen bei der Technik die Sicherheitsvorkehrungen. Insbesondere in Science Fiction Filmen ist das immer sehr spektakulär – geradezu ein Klassiker. In “Der Tag, an dem die Erde still stand” aus dem Jahr 1951 gerät der Roboter Gort außer Kontrolle. Die Protagonistin… Compliance reicht nicht – KI braucht Sicherheit weiterlesen
Unsere Kultur als Motor sicherer LLMs ÜBERBLICK Technologische Sicherheit entsteht nicht im luftleeren Raum. Sie braucht nicht nur Fachwissen und Methodik, sondern auch Haltung, Teamgeist und intrinsische Neugier. Für uns ist unsere Kultur kein Beiwerk, sondern Treiber: für Innovation, für Qualität und für den Anspruch, Sprachmodelle wirklich sicher zu machen. Was uns dabei auszeichnet? Ein… Sequire Kultur als Motor sicherer LLMs weiterlesen
Muss die KI dem Menschen gehorchen? Wenn die LLM außerhalb ihrer Regeln agiert ÜBERBLICK Große Sprachmodelle wie ChatGPT verändern nicht nur die Art, wie wir Informationen verarbeiten, sondern auch die Sicherheitslage in Unternehmen. Neue, schwer erkennbare Risiken entstehen – etwa durch sogenannte Indirect Prompt Injections, bei denen KI-Systeme über harmlose Inhalte wie E-Mails, PDFs oder… Wenn LLMs außer Kontrolle geraten: Warum generative KI neue Sicherheitsregeln braucht weiterlesen
Der Spagat zwischen KI-Einsatz und Risikobewusstsein für Unternehmen Im vergangenen Jahr waren wir mit sequire auf zahlreichen Konferenzen, Panels und in Workshops im Einsatz. Ein Auszug macht das deutlich: Julia Masloh, AI Solution Engineer, hatte eine Podiumsdiskussion in der Staatskanzlei zum Thema “Künstliche Intelligenz vs. echte Kommunikation”, unser Geschäftsführer Dr. Christoph Endres gut ein Dutzend… Was wir 2024 über KI, Sicherheit und sinnvolle Anwendung gelernt haben weiterlesen
Die EU Regelt – Regeln sie mit! ÜBERBLICK Was sich durch die NIS-2-Richtlinie Ändert Bei manchen Themen sind wir Menschen arg ambivalent. Natürlich möchten wir, dass unschöne Zwischenfälle vermieden werden, und dass sich jemand drum kümmert. Das muss nicht notwendigerweise ein Comic-Held unserer Kindheit sein, da reicht es uns auch schon, die Verantwortung auf den… NIS-2 Richtlinie: Was Unternehmen jetzt wissen und umsetzen müssen weiterlesen
Einfallstor „Mensch“ bei der Integration von Generativer KI in Unternehmenssysteme ÜBERBLICK Sensibilisierung von Mitarbeitenden Eine der Aufgaben, die ich als Geschäftsführer gerne nach wie vor selbst (mit-)übernehme, sind die sogenannten Security Awareness Schulungen. Dabei gehen wir in eine Firma oder Organisation und schulen die Mitarbeitenden dort zu Themen wie sicheren Passwörtern, Ransomware, Browser-Zertifikaten, E-Mail-Verschlüsselung und… GenAI: Wenn Ihre Mitarbeitenden zum Sicherheitsrisiko werden weiterlesen
In welchen Branchen bedroht Generative KI Arbeitsplätze? Der rasante Aufstieg generativer KI seit der Veröffentlichung von ChatGPT durch OpenAI Ende 2022 ist begleitet von sehr viel Begeisterung und Aufbruchsstimmung – aber auch von sehr viel Verunsicherung und Frustration. ÜBERBLICK Dem Fortschritt zum Trotz: Ein Blick zurück Das ist historisch gesehen zunächst mal nichts Neues. Bereits… Generative KI: Bedroht sie wirklich Arbeitsplätze? weiterlesen
Große Sprachmodelle in der Automobilbranche Vom Assistenzsystem bis zum Smalltalk-Experten Generative KI und große Sprachmodelle prägen auch die Automobilindustrie. Wo kommt sie bereits zum Einsatz ? Welche Herausforderungen birgt die Integration? Was bringen diese Technologien zukünftig (buchstäblich) auf die Straße? Diese und weitere Fragen klärt Dr. Christoph Endres, Geschäftsführer von sequire, in einem Gespräch mit… Große Sprachmodelle: Im Einsatz in der Automobilindustrie weiterlesen
Die Unbekannten im Code Gefahren bei der Integration von Großen Sprachmodellen in Anwendungen Es ist 2023 und wir gehen davon aus, dass Sie von Large Language Models (LLM) gehört haben. Vielleicht nicht unter diesem Begriff, aber sicher kennen Sie ChatGPT und haben es entweder selbst schon ausprobiert oder kennen jemanden, der das schon mal benutzt… DIE UNBEKANNTEN IM CODE weiterlesen
