KI-Sicherheit: Das Wettrüsten der autonomen Agenten ist eröffnet ( Finanztrends)

Die Sicherheitsdebatte um Künstliche Intelligenz hat sich dramatisch zugespitzt. Während Tech-Konzerne neue Abwehrplattformen ankündigen, kämpfen Unternehmen mit kritischen Lücken in ihren eigenen KI-Systemen. Die Ereignisse dieser Woche zeigen: Ein neues Cyber-Wettrüsten hat begonnen, bei dem KI sowohl Waffe als auch Ziel ist.

Anzeige

Warum 73% der deutschen Unternehmen auf Cyberangriffe nicht vorbereitet sind und welche neuen Gesetze die Lage jetzt verschärfen, erklärt dieser Experten-Report. Stärken Sie Ihre IT-Sicherheit mit einfachen Maßnahmen und schützen Sie Ihren Betrieb effektiv vor modernen Bedrohungen. Experten-Report: Strategien gegen Cyberkriminelle jetzt kostenlos sichern

Autonome Agenten: Die neue Achillesferse

Im Zentrum der aktuellen Warnungen stehen autonome KI-Agenten. Diese Systeme handeln nicht mehr nur auf Befehl, sondern planen eigenständig komplexe Aufgaben. Sie greifen auf Daten zu und treffen Entscheidungen – oft mit weitreichenden Zugriffsrechten. Für Sicherheitsteams stellen sie eine völlig neue Klasse von digitalen Identitäten dar, die kaum zu kontrollieren ist.

Das Problem wird durch die Explosion der Schatten-KI verschärft. Die Zahl unautorisierter KI-Tools in Unternehmen ist Berichten zufolge binnen Monaten von einigen Hundert auf über tausend gestiegen. Eine Analyse von Cisco ergab, dass 26 Prozent von 31.000 untersuchten Agenten-Funktionen mindestens eine Schwachstelle enthielten. Gleichzeitig planen über 80 Prozent der Firmen den Einsatz solcher Technologien.

KI-gestützter Betrug erreicht neue Dimensionen

Die Bedrohung ist längst real. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) warnte kürzlich vor einer massiven Welle KI-optimierter Betrugsangriffe auf Smartphones. Methoden wie Smishing (Phishing per SMS) profitieren enorm von generativer KI: Die Betrugsnachrichten sind nun fehlerfrei, personalisiert und kaum von echten Mitteilungen zu unterscheiden. Die Klickraten steigen dadurch drastisch.

Staatliche Akteure nutzen KI zudem, um Desinformationskampagnen zu skalieren und die Entwicklung von Schadsoftware zu beschleunigen. Die Grenze zwischen Cyberkriminalität und geopolitischen Angriffen verschwimmt immer mehr.

Die Gegenoffensive der Sicherheitsbranche

Als direkte Reaktion auf die Eskalation hat die Industrie neue Lösungen präsentiert. Anbieter wie Netskope kündigten Plattformen an, die das gesamte KI-Ökosystem eines Unternehmens schützen sollen. Diese „AI Security“-Suites verfolgen drei Ziele: Sie schaffen Transparenz über alle KI-Agenten („Agentic Broker“), verhindern KI-spezifische Angriffe wie Prompt-Injection („AI Guardrails“) und testen eigene Modelle mit simulierten Attacken („AI Red Teaming“).

Gleichzeitig offenbart der jüngste Patch-Zyklus von Microsoft das fundamentale Dilemma. Während der Konzern neue, proaktive Copilot-Funktionen als KI-Agenten in Office integriert, musste er kritische Sicherheitslücken schließen. Eine davon erlaubte die Ausführung von Schadcode allein durch das Anzeigen einer manipulierten Datei. Ein Albtraum-Szenario, wenn autonome Agenten automatisch auf solche Inhalte zugreifen.

Der EU AI Act setzt verbindliche Leitplanken

Neben der Technologie bildet die Regulierung die zweite Säule der Risikobekämpfung. Der schrittweise in Kraft tretende EU AI Act etabliert einen verbindlichen Rechtsrahmen. Er verfolgt einen risikobasierten Ansatz und stellt besonders strenge Auflagen für Hochrisiko-KI-Systeme – etwa in kritischer Infrastruktur, im Personalwesen oder in der Strafverfolgung.

Anbieter solcher Systeme müssen umfassende Risikobewertungen durchführen, Überwachungsmechanismen implementieren und eine qualifizierte menschliche Aufsicht („Human-in-the-Loop“) gewährleisten. Bestimmte Anwendungen, wie Social Scoring oder die Emotionserkennung am Arbeitsplatz, werden komplett verboten. Diese Vorgaben zwingen Unternehmen, sich proaktiv mit Sicherheit und Ethik ihrer KI auseinanderzusetzen.

Anzeige

Die neue EU-KI-Verordnung stellt Unternehmen bereits vor große Herausforderungen bei der Klassifizierung und Dokumentation ihrer Systeme. Sichern Sie sich diesen kompakten Leitfaden, um Anforderungen und Übergangsfristen ohne juristische Fachkenntnisse besser zu verstehen. Gratis E-Book zur EU-KI-Verordnung hier herunterladen

Vom IT-Projekt zur fundamentalen Transformation

Die Entwicklungen markieren einen Wendepunkt. Cybersicherheit ist zu einem zweiseitigen Wettrüsten geworden: Plattform gegen Plattform, KI gegen KI. Doch viele Unternehmen behandeln die KI-Einführung noch immer als reines IT-Projekt. Das ist eine fatale Fehleinschätzung.

Es handelt sich um eine fundamentale Transformation, die alle Geschäftsbereiche betrifft. Die zentrale Herausforderung lautet: Wie nutzt man die enormen Produktivitätspotenziale von KI, ohne die ebenso großen Risiken außer Kontrolle geraten zu lassen? Die Antwort liegt in umfassenden Governance-Strukturen für den gesamten Lebenszyklus der Systeme – von der Datenerhebung bis zum operativen Einsatz.

Der Druck wird weiter steigen, nicht zuletzt durch die vollständige Umsetzung des EU AI Act und des Cyber Resilience Act. Der Fokus der Sicherheitsarbeit wird sich unweigerlich auf die Absicherung von KI-Lieferketten und die kontinuierliche Überwachung autonomer Agenten verlagern. Für Unternehmen gilt es jetzt, die Weichen zu stellen, um in diesem neuen, von KI dominierten Umfeld widerstandsfähig zu bleiben.

Christian Drastil: Wiener Börse Plausch

Börsepeople im Podcast S24/09: Bernadette Händlhuber

Bildnachweis

1. Trading

Random Partner

---

Erste Group
Gegründet 1819 als die „Erste österreichische Spar-Casse“, ging die Erste Group 1997 mit der Strategie, ihr Retailgeschäft in die Wachstumsmärkte Zentral- und Osteuropas (CEE) auszuweiten, an die Wiener Börse. Durch zahlreiche Übernahmen und organisches Wachstum hat sich die Erste Group zu einem der größten Finanzdienstleister im östlichen Teil der EU entwickelt.

>> Besuchen Sie 54 weitere Partner auf boerse-social.com/partner

 Latest Blogs

» Börse-Inputs auf Spotify zu u.a. AT&S, RBI, Edda Vogt und Bernadette Hän...

» Von der Apotheke zur Optionshändlerin: Wie eine Wienerin ihren Weg an di...

» LinkedIn-NL: Wer will mein(e) Nachbar(in) in 1090 Wien werden?

» Börsepeople im Podcast S24/09: Bernadette Händlhuber

» Österreich-Depots: Osterbilanz (Depot Kommentar)

» Börsegeschichte 2.4.: Extremes zu RBI (Börse Geschichte) (BörseGeschichte)

» Nachlese: Thomas Winkler, Dorothee Bauer (audio cd.at)

» News zu Andritz, Wiener Börse und ein Spoiler zum börsefreien Karfreitag...

» ATX am Gründonnerstag im Minus – AT&S feiert All-Time-High und die Börse...

» Wiener Börse Party #1128: ATX am Gründonnerstag rot, Extremes zu AT&S un...