Finanzwirtschaft, Forschung und Industrie diskutieren neue Bedrohungsszenarien und Verantwortung.
Wie verändert Künstliche Intelligenz unser Verständnis von Sicherheit? Welche neuen Risiken entstehen – und welche Möglichkeiten zur Verteidigung?
Diese Fragen standen im Zentrum des zweiten Kompetenzforums KI & Security, das am 12. Juni 2025 vom Kompetenzzentrum KSÖ bei IBM Österreich in Wien veranstaltet wurde.
Thomas Stubbings führte als Moderator durch das Programm mit drei Impulsvorträgen und anschließender Paneldiskussion.
Dr. Roland Mechtler (Raiffeisenlandesbank NÖ-Wien) eröffnete die Veranstaltung mit einer praxisnahen Perspektive aus der Finanzwirtschaft. Er zeigte, wie KI-basierte Prozesse im Bankensektor neue Herausforderungen an Sicherheitsarchitekturen, Risikomanagement und Regulatorik stellen. Die zunehmende Automatisierung – etwa bei Kreditvergabe, Fraud Detection oder Kundenservice – erfordert neue organisatorische und technische Schutzmaßnahmen.
Dr. Mechtler betonte, dass sich gerade Banken nicht nur technologisch, sondern auch strategisch neu aufstellen müssen, um Vertrauen und Resilienz gegenüber KI-basierten Bedrohungen zu sichern.
Dr. Helmut Leopold (AIT Austrian Institute of Technology) stellte die Gefahren unsauber entwickelter KI-Systeme in den Vordergrund. Generative KI bringe eine neue Klasse von Risiken mit sich: Halluzinationen, gezielte Manipulierbarkeit („Prompt Injection“), problematischer Umgang mit Nutzerdaten, ethische Grenzüberschreitungen und die Gefahr krimineller Nutzung. Leopold warnte vor einem unkritischen Technologieeinsatz und betonte die Bedeutung transparenter, nachvollziehbarer Modelle. „KI und Daten alleine lösen keine Probleme“, so Dr. Leopold – entscheidend seien fundierte Methoden, souveräner Datenumgang und verantwortungsvolle Governance.
Sonja Gresser (IBM Deutschland) beleuchtete die sicherheitstechnische Perspektive aus Sicht eines Technologieanbieters. Sie verwies auf die wachsende Bedeutung von KI-gestützten Abwehrsystemen, betonte aber auch die Notwendigkeit, Sicherheitsstrategien gezielt an die Besonderheiten von GenAI anzupassen. Der zunehmende Einsatz bringe nicht nur neue Angriffsflächen mit sich, sondern auch Chancen: Durch prädiktive Analytik und automatisierte Reaktion lassen sich viele Cyberbedrohungen künftig schneller erkennen und eindämmen.
In der Paneldiskussion wurden die Spannungsfelder zwischen Innovation, Regulierung und Verantwortung weiter vertieft. Besonders diskutiert wurde die Herkunft und Qualität von Trainingsdaten sowie die Notwendigkeit, Entscheidungen von KI-Systemen erklärbar zu machen. Einigkeit bestand darin, dass KI-Technologien in Sicherheitsfragen nicht isoliert betrachtet werden dürfen – sie berühren ethische, rechtliche und gesellschaftliche Grundfragen.
