In Deutschland haben 17 Prozent der Unternehmen in den vergangenen zwölf Monaten einen Cyberangriff oder Betrugsversuch registriert, bei dem Künstliche Intelligenz eine Rolle gespielt hat oder gespielt haben könnte. Gleichzeitig verfügen nur 11 Prozent der Unternehmen mit bestehender oder geplanter KI-Nutzung über spezielle Abläufe für KI-bezogene Sicherheitsvorfälle. Das geht aus einer gemeinsamen Studie des TÜV-Verbands und des Bundesamtes für Sicherheit in der Informationstechnik (BSI) hervor, für die mehr als 500 Unternehmen ab 20 Mitarbeitern befragt wurden.
Bei den 17 Prozent der Unternehmen mit entsprechenden Vorfällen handelte es sich in vier Prozent der Fälle um bestätigte Angriffe, in elf Prozent um Verdachtsfälle und in zwei Prozent um beide Kategorien. Am häufigsten wurden täuschend echte Phishing-Mails eingesetzt. 90 Prozent der betroffenen Unternehmen berichteten davon.
Verschiedene Formen von KI-Angriffen
KI könne Phishing-Nachrichten überzeugender formulieren und gezielt auf einzelne Personen oder Unternehmen zuschneiden. 40 Prozent der betroffenen Unternehmen nannten außerdem automatisierte Angriffsskripte, die selbstständig nach Schwachstellen suchen und sich anpassen könnten. 11 Prozent berichteten von Deepfakes, etwa zur Nachahmung der Stimme von Führungskräften mit dem Ziel, Mitarbeiter zu Überweisungen zu bewegen.
Bei der Vorbereitung auf solche Angriffe zeigen sich Lücken. Nur 31 Prozent der KI-nutzenden Unternehmen setzen KI nach eigenen Angaben zur Verbesserung ihrer IT-Sicherheit ein. Unter den Unternehmen mit bestehender oder geplanter KI-Nutzung verfügen lediglich elf Prozent über spezielle Abläufe für KI-bezogene Sicherheitsvorfälle.
43 Prozent nutzen dafür ihre allgemeinen IT-Sicherheitsprozesse, ohne diese um KI-spezifische Regeln ergänzt zu haben. Weitere 20 Prozent erarbeiten entsprechende Abläufe. Ein Viertel der Unternehmen hat bislang keine Regelungen für solche Vorfälle.
Anzeige
Unternehmen sichern auch den eigenen KI-Einsatz ab
Insgesamt setzen 49 Prozent der befragten Unternehmen bereits KI ein, weitere neun Prozent planen dies innerhalb der kommenden zwölf Monate. 42 Prozent nutzen derzeit keine KI und planen dies auch nicht. Als Grund nennen 58 Prozent einen fehlenden Nutzen, gefolgt von Datenschutz- oder Sicherheitsbedenken mit 53 Prozent.
Weitere genannte Hürden sind der Integrationsaufwand von 44 Prozent, rechtliche Unsicherheiten von 43 Prozent, fehlende Kompetenzen von 39 Prozent und erwartete Kosten von 36 Prozent.
Auch für den eigenen KI-Einsatz haben Unternehmen Sicherheitsmaßnahmen eingerichtet. 67 Prozent setzen auf Qualitätssicherung und menschliche Prüfung kritischer Ergebnisse. 64 Prozent beschränken Zugriffsrechte, 62 Prozent schützen sensible Daten etwa durch Anonymisierung. 52 Prozent testen KI-Anwendungen vor dem Einsatz auf Sicherheit und andere Kriterien.
Eine Protokollierung oder Überwachung der KI-Nutzung findet dagegen nur bei 40 Prozent statt. Acht Prozent haben keine der genannten technischen Schutzmaßnahmen umgesetzt.
Unternehmen setzen auf Prüfungen und Zertifizierungen
Bei organisatorischen Maßnahmen bieten 56 Prozent der Unternehmen mit KI-Nutzung allgemeine oder rollenspezifische Schulungen an. Jeweils 45 Prozent führen eine Risikobewertung und Klassifizierung von KI-Anwendungen durch beziehungsweise haben formale Freigabeprozesse etabliert. 42 Prozent prüfen KI-Lieferanten oder Anbieter. 29 Prozent haben bislang keine dieser Maßnahmen umgesetzt.
TÜV-Verbandspräsident Dirk Stenkamp verweist zugleich auf Risiken innerhalb der Unternehmen. KI könne sensible Daten preisgeben oder auf Grundlage falscher Informationen Entscheidungen treffen. Bestehende Sicherheits- und Notfallprozesse müssten deshalb um KI-bezogene Szenarien ergänzt werden. Gleichzeitig werde das Potenzial von KI für die Cyberabwehr noch nicht vollständig genutzt.
Auch BSI-Vizepräsident Thomas Caspers verweist auf die Gefährdung von Unternehmen, die selbst keine KI einsetzen. KI-gestützte Cyberangriffe könnten grundsätzlich auch solche Betriebe treffen. Unternehmen, die KI einsetzen, müssten zudem deren Schutzmechanismen überprüfen und den laufenden Betrieb überwachen.
69 Prozent der Unternehmen mit bestehender oder geplanter KI-Nutzung erwarten von unabhängigen Prüfungen und Zertifizierungen eine höhere Sicherheit und Zuverlässigkeit. Für 51 Prozent ist eine Zertifizierung durch eine unabhängige Prüforganisation bereits ein wichtiges Auswahlkriterium.
Der TÜV-Verband entwickelt gemeinsam mit dem TÜV AI.Lab ein Rahmenprogramm zur Zertifizierung von KI-Systemen. Dieses werde derzeit mit Pilotpartnern erprobt und solle Ende 2026 verfügbar sein. Für kleine und mittlere Unternehmen hat die Allianz für Cyber-Sicherheit beim BSI parallel ein Handout mit Empfehlungen und Sofortmaßnahmen zum Schutz vor KI-verstärkten Cyberangriffen veröffentlicht.
Bei der Erstellung dieses Artikels kamen KI-gestützte Werkzeuge zum Einsatz. Die Inhalte wurden redaktionell überprüft. Feedback nehmen wir gerne unter news@tageskarte.io entgegen.
Zurück
Technologie
