This is the Trace Id: d8a45c85d3e39867655e38c573438ec0

Microsoft-Leitfaden zur Sicherung des KI-gesteuerten Unternehmens: Erste Schritte

Leitfaden herunterladen
Teilen
Eine Frau, die einen Touchscreen verwendet.

Erste Schritte mit KI-Anwendungen

Künstliche Intelligenz (KI) transformiert Geschäftsabläufe, fördert Innovationen und bringt gleichzeitig neue Risiken mit sich. Von Schatten-KI (Tools für Verbraucher, die ohne Kontrolle genutzt werden) über Angriffe durch Prompt-Einschleusung bis hin zu neuen Vorschriften wie dem EU-Gesetz zu KI: Organisationen müssen diese Herausforderungen angehen, um KI sicher zu nutzen.

Dieser Leitfaden behandelt die mit KI verbundenen Risiken: Datenlecks, aufkommende Bedrohungen und Compliance-Herausforderungen sowie die einzigartigen Risiken agentischer KI. Er bietet auch Anleitungen und praktische Schritte, die auf dem Framework für die KI-Einführung basieren. Laden Sie für tiefere Einblicke und umsetzbare Schritte den Leitfaden herunter.

KI ist ein Game Changer – aber nur, wenn Sie sie sichern können. Legen wir los.

Während KI in Organisationen eingeführt wird, müssen Führungskräfte drei zentrale Herausforderungen angehen:
  • 80 % der Führungskräfte geben an, dass Datenlecks eine der größten Sorgen sind. 1 Schatten-KI-Tools, die ohne IT-Genehmigung verwendet werden, können vertrauliche Informationen offenlegen und das Risiko von Sicherheitsverletzungen erhöhen.
  • 88 % der Organisationen sorgen sich über böswillige Akteure, die KI-Systeme manipulieren. 2 Angriffe wie Prompt-Einschleusung nutzen Schwachstellen in KI-Systemen aus und verdeutlichen die Notwendigkeit proaktiver Abwehrmaßnahmen.
  • 52 % der Führungskräfte geben zu, unsicher zu sein, wie sie mit KI-Vorschriften umgehen sollen. 3 Die Einhaltung von Rahmenwerken wie dem EU-Gesetz zu KI ist entscheidend, um Vertrauen zu schaffen und den Innovationsschub zu fördern.

Agentische KI bietet transformative Potenziale, aber ihre Autonomie bringt einzigartige Herausforderungen für die Sicherheit mit sich, die proaktives Risikomanagement erfordern. Im Folgenden sind die wichtigsten Risiken und die darauf abgestimmten Strategien aufgeführt:

Halluzinationen und unbeabsichtigte Ausgaben

Agentische KI-Systeme können ungenaue, veraltete oder nicht abgestimmte Ausgaben produzieren, was zu betrieblichen Störungen oder schlechten Entscheidungen führen kann.

Um diese Risiken zu mindern, sollten Organisationen strenge Überwachungsprozesse implementieren, um KI-generierte Ausgaben auf Genauigkeit und Relevanz zu überprüfen. Regelmäßige Aktualisierungen der Trainingsdaten gewährleisten die Übereinstimmung mit aktuellen Informationen, während Eskalationswege für komplexe Fälle menschliches Eingreifen ermöglichen, wenn dies erforderlich ist. Die menschliche Kontrolle bleibt entscheidend, um Zuverlässigkeit und Vertrauen in KI-gesteuerte Abläufe aufrechtzuerhalten.

Blindes Vertrauen in KI-Entscheidungen

Blindes Vertrauen in agentische KI-Systeme kann zu Sicherheitsrisiken führen, wenn Benutzer mit fehlerhaften Ausgaben ohne Validierung arbeiten.

Organisationen sollten Richtlinien einführen, die eine menschliche Überprüfung für wichtige, von KI beeinflusste Entscheidungen vorschreiben. Die Schulung von Mitarbeitern über die Beschränkungen von KI fördert informierte Skepsis und verringert die Wahrscheinlichkeit von Fehlern. Die Kombination von KI-Erkenntnissen mit menschlichem Urteilsvermögen durch gestufte Entscheidungsprozesse stärkt die Gesamtresilienz und verhindert übermäßige Abhängigkeit.

Neue Angriffsvektoren

Die Autonomie und Anpassungsfähigkeit von agentischer KI schafft Möglichkeiten für Angreifer, Sicherheitsrisiken auszunutzen. Dies bringt sowohl operative als auch systemische Risiken mit sich.

Operative Risiken entstehen durch die Manipulation von KI-Systemen, um schädliche Aktionen auszuführen, wie z B. unbefugte Aufgaben oder Phishingversuche. Organisationen können diese Risiken mindern, indem sie stabile Sicherheitsmaßnahmen implementieren, einschließlich Echtzeit-Anomalieerkennung, Verschlüsselung und strenge Zugriffskontrollen.
Systemische Risiken entstehen, wenn kompromittierte Agents miteinander verbundene Systeme stören und kaskadierende Ausfälle verursachen. Ausfallsichere Mechanismen, Redundanzprotokolle und regelmäßige Überwachungen – abgestimmt auf Cybersicherheitsframeworks wie NIST – helfen, diese Bedrohungen zu minimieren und die Verteidigung gegen feindliche Angriffe zu stärken.

Verantwortlichkeit und Haftung

Agentische KI arbeitet oft ohne direkte menschliche Kontrolle, was komplexe Fragen zur Verantwortlichkeit und Haftung für Fehler oder Ausfälle aufwirft.

Organisationen sollten klare Frameworks für die Verantwortlichkeit definieren, die Rollen und Pflichten für KI-bezogene Ergebnisse festlegen. Eine Transparente Dokumentation der KI-Entscheidungsprozesse unterstützt die Fehleridentifikation und die Zuordnung der Haftung. Die Zusammenarbeit mit Rechtsabteilungen gewährleistet die Einhaltung von Vorschriften, während die Einführung ethischer Standards für die KI-Governance Vertrauen aufbaut und Reputationsrisiken verringert.

Mit neuen KI-Innovationen wie Agents müssen Organisationen basierend auf Zero Trust-Prinzipien eine starke Grundlage schaffen: Niemals vertrauen, immer überprüfen. Mit diesem Ansatz kann sichergestellt werden, dass jede Interaktion authentifiziert, autorisiert und kontinuierlich überwacht wird. Zwar nimmt das Erreichen von Zero Trust Zeit in Anspruch, eine phasenweise Strategie ermöglicht jedoch einen stetigen Fortschritt und stärkt das Vertrauen in die sichere Integration von KI.

Das Framework für die KI-Einführung von Microsoft konzentriert sich auf drei Schlüsselphasen: KI steuern, KI verwalten und KI sichern.

Durch die Auseinandersetzung mit diesen Bereichen können Organisationen die Grundlage für einen verantwortungsvollen KI-Einsatz legen und kritische Risiken mindern.

Um erfolgreich zu sein, geben Sie den Menschen Priorität, indem Sie Mitarbeiter schulen, um KI-Risiken zu erkennen und genehmigte Tools sicher zu verwenden. Unterstützen Sie die Zusammenarbeit zwischen IT-, Sicherheits- und Geschäftsteams, um einen einheitlichen Ansatz sicherzustellen. Fördern Sie Transparenz, indem Sie Ihre KI-Sicherheitsinitiativen offen kommunizieren, um Vertrauen aufzubauen und Führungsstärke zu demonstrieren.

Mit der richtigen Strategie, die auf Zero Trust-Prinzipien basiert, können Sie Risiken mindern, Innovationen ermöglichen und sicher durch die sich entwickelnde KI-Landschaft navigieren.

Mehr aus der Security Insider-Reihe

Cyberbedrohungen verstehen und Abwehrmaßnahmen im Zeitalter der KI verstärken

Die Fortschritte auf dem Gebiet der künstlichen Intelligenz (KI) schaffen neue Bedrohungen – aber auch neue Möglichkeiten – für die Cybersicherheit. Erfahren Sie, wie Bedrohungsakteure KI für komplexere Angriffe einsetzen und welche Best Practices zum Schutz vor herkömmlichen und KI-gestützten Cyberbedrohungen beitragen.
Mehr erfahren

Der KI-gesteuerte CISO: Durch Threat Intelligence-Erkenntnisse zu einer besseren Strategie

CISOs, die generative KI für mehr Sicherheit nutzen, profitieren von drei wesentlichen Vorteilen: verbesserte Threat Intelligence-Erkenntnisse, schnellere Reaktion auf Bedrohungen und unterstützte strategische Entscheidungsfindung. Lernen Sie anhand von drei Beispielszenarien, und erfahren Sie, warum 85 % der CISOs KI als entscheidendes Element des Sicherheitskonzepts betrachten.
Mehr erfahren

Microsoft-Bericht über digitale Abwehr 2024

Der Microsoft-Bericht über digitale Abwehr 2024 beleuchtet die wachsenden Cyberbedrohungen durch staatlich unterstützte Banden und Cyberkriminelle, bietet neue Erkenntnisse und Leitlinien zur Verbesserung der Resilienz und Abwehr und untersucht den wachsenden Einfluss der generativen KI auf die Cybersicherheit
Mehr erfahren

Microsoft Security folgen