Jan Kahmen: „Künstlicher Intelligenz birgt neben Chancen auch erhebliche Risiken in der IT-Sicherheit“

Jan Kahmen, Geschäftsführer der turingpoint GmbH, plädiert dafür Penetrations-Tests durchzuführen, damit Unternehmen ihre Sicherheitslücken kennen und verbessern können. Bildnachweis: turingpoint GmbH

Onpulson: Herr Kahmen, Sie sind Geschäftsführer der auf Cybersecurity spezialisierten turingpoint GmbH. Wie hat sich Ihrer Einschätzung nach die Bedrohungslage im Bereich IT-Sicherheit durch den verstärkten Einsatz von Künstlicher Intelligenz in den letzten Jahren verändert?

Jan Kahmen: Die Bedrohungslage im Bereich IT-Sicherheit hat sich durch den verstärkten Einsatz von Künstlicher Intelligenz in den letzten Jahren deutlich verändert. Einerseits entstehen neue Risiken, da sensible Daten häufig unbedacht in KI-Systeme eingegeben werden und teilweise in Länder wie die USA übertragen werden, was datenschutzrechtliche Probleme mit sich bringt. Auch nutzen Angreifer zunehmend KI, um Phishing, Social Engineering oder automatisierte Angriffe noch gezielter und schwerer erkennbar zu gestalten.

Andererseits bietet KI auch neue Möglichkeiten, die Cybersicherheit zu stärken, indem Bedrohungen schneller erkannt, Anomalien identifiziert und Sicherheitsvorfälle frühzeitig verhindert werden können.

Onpulson: KI wird häufig als Chance für Unternehmen gesehen – gleichzeitig steigt aber auch die Gefahr von Cyberangriffen. Wo sehen Sie die größten Risiken im Zusammenspiel von KI und IT-Sicherheit?

Jan Kahmen: Künstlicher Intelligenz birgt neben Chancen auch erhebliche Risiken in der IT-Sicherheit. Besonders im Bereich Phishing wird KI zunehmend eingesetzt, um Kampagnen realistischer und schwerer erkennbar zu gestalten. Auch Vishing, das heißt telefonbasierter Betrug, wird durch KI gefährlicher, da Stimmen täuschend echt nachgeahmt werden können. Zusätzlich stellen Deepfakes von Bildern und Videos eine wachsende Bedrohung dar, da sie für Desinformationskampagnen, Erpressung oder gezielte Manipulation genutzt werden können.

Onpulson: Unternehmen arbeiten mit immer größeren Datenmengen, oft auch in der Cloud. Welche Sicherheitsmaßnahmen sind aus Ihrer Sicht heute unverzichtbar, um sensible Daten in Zeiten von KI zu schützen?

Jan Kahmen: Um sensible Daten in Zeiten von Künstlicher Intelligenz sicher zu schützen, sind mehrere Maßnahmen unverzichtbar. Unternehmen sollten bevorzugt eigene KI-Modelle nutzen, um die volle Kontrolle über die Verarbeitung und Speicherung ihrer Daten zu behalten. Zudem ist es wichtig, darauf zu achten, dass Daten ausschließlich in Rechenzentren innerhalb der EU verarbeitet werden, um den europäischen Datenschutzstandards zu entsprechen. Shared-Modelle, bei denen Daten potenziell mit Dritten geteilt oder vermischt werden könnten, sollten vermieden werden, um das Risiko von Datenabflüssen oder unbefugtem Zugriff zu minimieren.

Onpulson: Die turingpoint GmbH ist unter anderem auf Penetration-Tests spezialisiert. Können Sie kurz erklären, was genau man darunter versteht und warum diese Tests gerade jetzt, im Zeitalter von KI, so wichtig sind?

Jan Kahmen: Penetration-Tests sind gezielte, kontrollierte Angriffe auf IT-Systeme, Anwendungen oder Infrastrukturen, um Sicherheitslücken zu identifizieren, bevor diese von echten Angreifern ausgenutzt werden können. Gerade im Zeitalter von Künstlicher Intelligenz sind solche Tests besonders wichtig, da neue Technologien wie Large Language Models (LLMs) zunehmend in Unternehmensprozesse integriert werden. Diese müssen ebenfalls getestet werden, um sicherzustellen, dass sie keine unbefugten Informationen preisgeben oder als Einfallstor für Cyberangriffe dienen.

Onpulson: Viele mittelständische Unternehmen sind in Sachen IT-Sicherheit noch nicht optimal aufgestellt. Welche ersten Schritte empfehlen Sie speziell dem Mittelstand, um das Sicherheitsniveau nachhaltig zu erhöhen?

Jan Kahmen: Für mittelständische Unternehmen, die ihr IT-Sicherheitsniveau nachhaltig erhöhen möchten, sind mehrere erste Schritte entscheidend. Zunächst sollte eine Gap-Analyse durchgeführt werden, um bestehende Sicherheitslücken systematisch zu identifizieren. Anschließend ist es wichtig, sich auf operative Sicherheit zu konzentrieren und konkrete Schutzmaßnahmen umzusetzen. Dabei sollten zertifizierte Sicherheitsexperten beauftragt werden, anstatt nur das bestehende Systemhaus gelegentlich prüfen zu lassen. Ergänzend sind Schulungen für Mitarbeitende im Umgang mit Künstlicher Intelligenz sinnvoll, um Risiken durch unachtsame Nutzung zu minimieren.

Onpulson: Stichwort NIS-2 und andere neue EU-Richtlinien – wie wirken sich gesetzliche Vorgaben aktuell auf die IT-Sicherheitsstrategien von Unternehmen aus? Und wo sehen Sie Handlungsbedarf?

Jan Kahmen: Die neuen EU-Richtlinien wie NIS-2 führen dazu, dass Unternehmen verstärkt auf Compliance und regulatorische Anforderungen achten müssen. Dabei besteht aktuell die Gefahr, dass zu viel Fokus auf formale Vorgaben gelegt wird und die operative Sicherheit darunter leidet. Zwar enthalten die Richtlinien viele gute Ansätze für ein strukturiertes Sicherheitsmanagement, jedoch ist entscheidend, dass diese Maßnahmen aktiv im Unternehmensalltag umgesetzt und gelebt werden, um tatsächlich Schutz vor Cyberrisiken zu bieten.

Onpulson: Wie wird sich Ihrer Meinung nach die Rolle von KI im Bereich Cybersecurity in den kommenden fünf Jahren entwickeln – eher als Schutzschild oder als zusätzliche Gefahr?

Jan Kahmen: In den kommenden fünf Jahren wird Künstliche Intelligenz im Bereich Cybersecurity voraussichtlich eine doppelte Rolle einnehmen. Auf der einen Seite ermöglicht KI eine bessere Auswertung von Log-Daten, schnellere Erkennung von Anomalien und effektivere Schutzmaßnahmen, was Unternehmen als Schutzschild dient. Auf der anderen Seite steigt die Gefahr für Mitarbeitede, da Angriffe und manipulierte Medien qualitativ deutlich anspruchsvoller werden. Insgesamt bleibt es ein Katz-und-Maus-Spiel, bei dem KI sowohl nützliche Werkzeuge für die Verteidigung bietet, gleichzeitig aber auch die Angriffsstrategien weiterentwickelt. Unternehmen müssen ihre Sicherheitsstrategien daher kontinuierlich anpassen und beide Seiten der Medaille berücksichtigen.

^{Bildnachweis: istockphoto.com/AnaMOMarques}

(cf)