Sicherheitsrisiken durch unkontrollierte GenAI-Nutzung erreichen Unternehmen

Worum geht es?

In der heutigen digitalisierten Welt haben Unternehmen vermehrt Schwierigkeiten, die Sicherheit ihrer sensiblen Daten zu gewährleisten. Insbesondere die Nutzung von Künstlicher Intelligenz (KI) durch Mitarbeiter in Form von Generativer KI (GenAI) stellt eine zunehmende Herausforderung dar. Laut einem aktuellen Bericht von LayerX, einem Unternehmen für Sicherheitslösungen, wird GenAI in fast 90% der Fälle ohne Genehmigung der IT-Abteilung genutzt. Dies eröffnet ernsthafte Sicherheitsrisiken, die Unternehmen auf mehreren Ebenen gefährden können. LayerXs "Enterprise GenAI Data Security Report 2025" beleuchtet die Risiken und Prävalenzen der Nutzung solcher Technologien im Unternehmenskontext. Die untersuchten Telemetriedaten zeigen, dass Mitarbeiter in vielen Fällen auf GenAI-Tools zugreifen, die nicht nur nicht genehmigt, sondern auch nicht in die Sicherheitsstrategien des Unternehmens integriert sind. Die Ergebnisse zeigen, dass sich Organisationen entweder bereits mit GenAI beschäftigen, Strategien evaluieren oder beides. Allerdings ist die Vorstellung, dass alle Mitarbeiter vollumfänglich auf GenAI-Tools umgestiegen sind, irreführend. Die Studie zeigt, dass nur etwa 15% der Angestellten regelmäßig täglich auf solche Tools zugreifen, während die Mehrheit, wenn auch weniger häufig, dennoch abhängig von dieser Technologie ist. Insbesondere Softwareentwickler machen mit 39% den größten Anteil der regelmäßigen Nutzer aus, was bedeutet, dass hier das größte Risiko für Datenlecks durch unkontrollierte GenAI-Nutzung existiert. Die besorgniserregenden Ergebnisse zeigen auch, dass fast drei Viertel der Mitarbeiter auf ihre eigene Kosten GenAI-Tools wie ChatGPT nutzen, ohne dass dies von der Unternehmens-IT bemerkt wird. Nur 12% verwenden Unternehmenskonten mit Single-Sign-On (SSO), wodurch die IT-Abteilungen kaum Einblick in diese Schatten-KI-Anwendungen haben. Dies ist besonders dramatisch, da Nutzer im Durchschnitt fast viermal täglich Unternehmensdaten an GenAI übermitteln, was Geschäftsinformationen, Kundendaten, Finanzpläne und Quellcode umfassen kann. Zusätzlich stellt sich die Frage der Sicherheit bei KI-fähigen Browser-Erweiterungen. Etwa 20% der Mitarbeiter haben solche Erweiterungen installiert, die oft kritische Berechtigungen besitzen und Daten an nicht autorisierte KI-Tools weitergeben können, ohne dass Unternehmen es bemerken. Um diesen Herausforderungen zu begegnen, empfiehlt LayerX Security, ein umfassendes Audit der GenAI-Aktivitäten durchzuführen und Mitarbeiter proaktiv über die Sicherheitsrisiken aufzuklären.

Zusammenfassung

• Fast 90% der GenAI-Nutzung in Unternehmen geschieht ohne Genehmigung der IT-Abteilung, was kritische Sicherheitsrisiken birgt.
• Nur etwa 15% der Mitarbeiter verwenden GenAI-Tools täglich, während Softwareentwickler am häufigsten betroffen sind – dieser Bereich birgt das größte Risiko für Datenlecks.
• LayerX empfiehlt ein umfassendes Audit, Schulungen für Mitarbeiter und risikobasierte Sicherheitsstrategien, um die Risiken durch Schatten-KI zu minimieren.

Was heißt das genau?

Die Erkenntnisse aus dem Bericht von LayerX sind für Unternehmen von kritischer Bedeutung. Es ist unerlässlich, dass Manager und IT-Abteilungen das Bewusstsein für die Risiken von unkontrollierter GenAI-Nutzung schärfen. Nicht nur sollten sie ein vollständiges Bild der GenAI-Nutzung innerhalb ihres Unternehmens gewinnen, sondern auch proaktive Schulungen und Maßnahmen implementieren, um Datenlecks zu vermeiden. Darüber hinaus sollten Unternehmen nicht einfach Einschränkungen oder Verbote aussprechen, sondern anpassungsfähige Sicherheitsstrategien entwickeln, die einen sicheren Einsatz der KI-Technologien ermöglichen. Die Kontrolle über KI-fähige Browser-Erweiterungen darf nicht vernachlässigt werden, da sie eine bedeutende Bedrohung darstellen können. Durch diese Maßnahmen können Unternehmen die Integrität ihrer Daten schützen und gleichzeitig die Innovationsfähigkeit fördern.
LET'S TALK!

Quelle

Diese Zusammenfassung basiert auf dem Beitrag Die unsichtbare Gefahr durch GenAI
Quelle: COMPUTERWOCHE startet mit neuem Web-Auftritt durch | Computerwoche
Mon, 03 Mar 2025 14:41:10 +0000