Was ist das NIST-Rahmenwerk für das Risikomanagement im Bereich der künstlichen Intelligenz?
Als Reaktion auf die zunehmende Nutzung von Systemen mit künstlicher Intelligenz (KI) in Unternehmen – und den damit einhergehenden Mangel an Leitlinien zum Umgang mit den damit verbundenen Risiken – hat das US-amerikanische National Institute of Standards and Technology (NIST) im Januar 2023 das AI Risk Management Framework (AI RMF) eingeführt. Laut NIST besteht das Ziel des AI RMF darin, „Organisationen, die KI-Systeme entwerfen, entwickeln, einsetzen oder nutzen, eine Ressource zur Verfügung zu stellen, die ihnen hilft, die zahlreichen Risiken der KI zu bewältigen und eine vertrauenswürdige und verantwortungsvolle Entwicklung und Nutzung von KI-Systemen zu fördern“. Das AI RMF ist ein freiwilliges Rahmenwerk und kann in jedem Unternehmen, jeder Branche und jeder Region angewendet werden.
Das RMF ist in zwei Teile gegliedert. Teil 1 enthält einen Überblick über die Risiken und Merkmale dessen, was das NIST als „vertrauenswürdige KI-Systeme” bezeichnet. Teil 2 beschreibt vier Funktionen, die Organisationen dabei helfen, die Risiken von KI-Systemen zu bewältigen: Steuern, Abbilden, Messen und Verwalten. Die folgende Abbildung gibt einen Überblick über die vier Funktionen.
Die Funktionen im Rahmenwerk für das KI-Risikomanagement.
Wie lässt sich das NIST-Rahmenwerk für das KI-Risikomanagement auf das Risikomanagement von Drittanbietern anwenden?
Für Organisationen ist es wichtig, Risikomanagementprinzipien zu berücksichtigen, um die potenziellen negativen Auswirkungen von KI-Systemen wie Halluzinationen, Datenschutz und Bedrohungen der Bürgerrechte zu minimieren. Diese Überlegung erstreckt sich auch auf die Nutzung von KI-Systemen Dritter oder die Nutzung von KI-Systemen durch Dritte. Zu den potenziellen Risiken des Missbrauchs von KI durch Dritte gehören:
- Sicherheitsschwachstellen in der KI-Anwendung selbst. Ohne eine angemessene Governance und entsprechende Sicherheitsvorkehrungen könnte Ihr Unternehmen einer System- oder Datenkompromittierung ausgesetzt sein.
- Mangelnde Transparenz bei den Methoden oder Messungen von KI-Risiken. Unzulänglichkeiten bei der Messung und Berichterstattung könnten dazu führen, dass die Auswirkungen potenzieller KI-Risiken unterschätzt werden.
- KI-Sicherheitsrichtlinien, die mit anderen bestehenden Risikomanagementverfahren nicht vereinbar sind. Diese Inkonsistenz führt zu komplizierten und zeitaufwändigen Audits, die potenzielle negative rechtliche oder Compliance-Folgen nach sich ziehen können.
Laut NIST wird die RMF Organisationen helfen, diese potenziellen Risiken zu überwinden.
Wichtige Überlegungen zum Risikomanagement von Drittanbietern im NIST-Rahmenwerk für das Risikomanagement im Bereich künstliche Intelligenz
Das NIST AI RMF unterteilt seine vier Kernfunktionen in 19 Kategorien und 72 Unterkategorien, die spezifische Maßnahmen und Ergebnisse definieren. Das NIST bietet ein praktisches Handbuch, in dem die Maßnahmen näher erläutert werden.
Die nachstehende Tabelle gibt einen Überblick über die vier Funktionen und ausgewählte Kategorien des Rahmens und enthält Vorschläge für Maßnahmen zur Bewältigung potenzieller Risiken durch KI von Drittanbietern.
HINWEIS: Dies ist eine Übersichtstabelle. Für eine vollständige Darstellung des NIST AI Risk Management Framework laden Sie bitte die Vollversion herunter und beziehen Sie die Teams für interne Revision, Recht, IT, Sicherheit und Lieferantenmanagement Ihres Unternehmens mit ein.
| NIST AI RMF-Kategorie | TPRM-Überlegungen |
| GOVERN ist die grundlegende Funktion im RMF, die eine Kultur des Risikomanagements etabliert, Prozesse definiert und dem Programm eine Struktur verleiht. | |
| GOVERN 1: Richtlinien, Prozesse, Verfahren und Praktiken in der gesamten Organisation in Bezug auf die Erfassung, Messung und Steuerung von KI-Risiken sind vorhanden, transparent und werden effektiv umgesetzt.
GOVERN 2: Es gibt Strukturen zur Rechenschaftspflicht, damit die zuständigen Teams und Personen befähigt, verantwortlich und geschult sind, KI-Risiken zu erfassen, zu messen und zu managen. GOVERN 3: Prozesse zur Förderung der Vielfalt, Gleichberechtigung, Inklusion und Barrierefreiheit der Belegschaft haben bei der Erfassung, Messung und Steuerung von KI-Risiken während des gesamten Lebenszyklus Priorität. GOVERN 4: Die Teams der Organisation verpflichten sich zu einer Kultur, die KI-Risiken berücksichtigt und kommuniziert. GOVERN 5: Es gibt Prozesse für eine intensive Zusammenarbeit mit relevanten KI-Akteuren. GOVERN 6: Es gibt Richtlinien und Verfahren, um die Risiken und Vorteile der KI zu bewältigen, die sich aus Software und Daten von Drittanbietern sowie anderen Problemen in der Lieferkette ergeben. |
Entwickeln Sie KI-Richtlinien und -Verfahren als Teil Ihres umfassenden Programms zum Risikomanagement bei Drittanbietern (TPRM) in Übereinstimmung mit Ihren übergeordneten Rahmenwerken für Informationssicherheit und Governance, Risiko und Compliance.
Suchen Sie Experten, die gemeinsam mit Ihrem Team KI- und TPRM-Prozesse und -Lösungen definieren und implementieren, Fragebögen und Rahmenwerke zur Risikobewertung auswählen und Ihr Programm optimieren, um KI-Risiken während des gesamten Lebenszyklus von Drittanbietern – von der Beschaffung und Due Diligence bis hin zur Kündigung und Ausgliederung – entsprechend der Risikobereitschaft Ihres Unternehmens zu adressieren. Als Teil dieses Prozesses sollten Sie definieren:
|
| MAP ist die Funktion, die den Kontext für die Einordnung von Risiken im Zusammenhang mit einem KI-System festlegt. | |
| KARTE 1: Der Kontext wird hergestellt und verstanden.
MAP 2: Die Kategorisierung des KI-Systems wird durchgeführt. KARTE 3: KI-Fähigkeiten, gezielte Nutzung, Ziele sowie erwartete Vorteile und Kosten im Vergleich zu geeigneten Benchmarks werden verstanden. KARTE 4: Risiken und Vorteile werden für alle Komponenten des KI-Systems, einschließlich Software und Daten von Drittanbietern, dargestellt. KARTE 5: Die Auswirkungen auf Einzelpersonen, Gruppen, Gemeinschaften, Organisationen und die Gesellschaft werden charakterisiert. |
Die Entwicklung eines soliden Risikomanagementprozesses und das Verständnis des Kontexts der KI-Nutzung beginnen mit der Profilerstellung und Einstufung von Dritten. Dazu gehört die Quantifizierung der inhärenten Risiken für alle Dritten – in diesem Fall die inhärenten KI-Risiken. Zu den Kriterien, die zur Berechnung des inhärenten Risikos für die Klassifizierung und Kategorisierung von Dritten herangezogen werden, gehören:
Anhand dieser inhärenten Risikobewertung kann Ihr Team Lieferanten automatisch nach ihrer AI-Risikobereitschaft einstufen, angemessene Stufen für weitere Sorgfaltspflichten festlegen und den Umfang laufender Bewertungen bestimmen. Die regelbasierte Tiering-Logik ermöglicht die Kategorisierung von Anbietern anhand einer Reihe von Dateninteraktionen und regulatorischen Überlegungen. |
| MEASURE ist die Funktion, die KI-Risiken und damit verbundene Auswirkungen analysiert, bewertet, vergleicht und überwacht. | |
| MASSNAHME 1: Geeignete Methoden und Messgrößen werden ermittelt und angewendet.
MASSNAHME 2: KI-Systeme werden auf vertrauenswürdige Eigenschaften hin bewertet. MASSNAHME 3: Es gibt Mechanismen, um erkannte KI-Risiken im Laufe der Zeit zu verfolgen. MASSNAHME 4: Feedback zur Wirksamkeit der Messung wird gesammelt und ausgewertet. |
Suchen Sie nach Lösungen mit einer umfangreichen Bibliothek vorgefertigter Vorlagen für Risikobewertungen von Drittanbietern. Drittanbieter sollten hinsichtlich ihrer KI-Praktiken bei der Aufnahme, Vertragsverlängerung oder in beliebigen erforderlichen Abständen (z. B. vierteljährlich oder jährlich) bewertet werden, je nach wesentlichen Änderungen.
Bewertungen sollten zentral verwaltet und durch Workflow-, Aufgabenmanagement- und automatisierte Funktionen zur Überprüfung von Nachweisen unterstützt werden, um sicherzustellen, dass Ihr Team während des gesamten Beziehungslebenszyklus Einblick in die Risiken von Drittanbietern hat. Insbesondere sollte eine TPRM-Lösung integrierte Abhilfemaßnahmenempfehlungen auf der Grundlage von Risikobewertungsergebnissen enthalten, um sicherzustellen, dass Dritte Risiken umgehend und zufriedenstellend angehen und gleichzeitig den Prüfern geeignete Nachweise vorlegen. Ergänzen Sie die KI-Bewertungen von Anbietern durch die kontinuierliche Verfolgung und Analyse externer Bedrohungen für Dritte. Überwachen Sie in diesem Zusammenhang das Internet und das Dark Web auf Cyber-Bedrohungen und Schwachstellen. Alle Überwachungsdaten sollten mit den Bewertungsergebnissen korreliert und in einem einheitlichen Risikoregister für jeden Anbieter zentralisiert werden, um die Risikoprüfung, Berichterstattung, Behebung und Reaktion zu optimieren. Zu den typischen Überwachungsquellen gehören:
Messen Sie schließlich kontinuierlich die KPIs und KRIs von Drittanbietern anhand Ihrer Anforderungen, um Ihrem Team dabei zu helfen, Risikotrends aufzudecken, den Risikostatus von Drittanbietern zu bestimmen und Abweichungen vom üblichen Verhalten zu identifizieren, die eine weitere Untersuchung rechtfertigen könnten. |
| Die Funktion „MANAGE“ umfasst die regelmäßige Zuweisung von Risikoressourcen zu zugeordneten und gemessenen Risiken gemäß der Definition in der Funktion „GOVERN“. Dazu gehören Pläne zur Reaktion auf Vorfälle oder Ereignisse, zur Wiederherstellung nach solchen Vorfällen oder Ereignissen und zur Kommunikation darüber. | |
| VERWALTEN 1: KI-Risiken, die auf Bewertungen und anderen Analyseergebnissen der Funktionen MAP und MEASURE basieren, werden priorisiert, behandelt und verwaltet.
MANAGE 2: Strategien zur Maximierung der Vorteile der KI und zur Minimierung negativer Auswirkungen werden geplant, vorbereitet, umgesetzt, dokumentiert und durch Beiträge relevanter KI-Akteure ergänzt. MANAGE 3: Risiken und Vorteile der KI durch Dritte werden verwaltet. MANAGE 4: Risikobehandlungen, einschließlich Reaktions- und Wiederherstellungsmaßnahmen, sowie Kommunikationspläne für die identifizierten und gemessenen KI-Risiken werden dokumentiert und regelmäßig überwacht. |
Stellen Sie im Rahmen Ihrer umfassenden Strategie zum Vorfallmanagement sicher, dass Ihr Programm zur Reaktion auf Vorfälle bei Drittanbietern Ihrem Team ermöglicht, KI-Sicherheitsvorfälle bei Drittanbietern schnell zu erkennen, darauf zu reagieren, darüber zu berichten und deren Auswirkungen zu mindern.
Zu den wichtigsten Funktionen eines Drittanbieter-Reaktionsdienstes gehören:
Mit diesen Erkenntnissen kann Ihr Team Drittanbieter besser verwalten und priorisieren, den Umfang und die Auswirkungen des Vorfalls nachvollziehen, feststellen, welche Daten betroffen waren, ob die Abläufe des Drittanbieters beeinträchtigt wurden und wann die Abhilfemaßnahmen abgeschlossen sind. |
Nächste Schritte: Richten Sie KI-Kontrollen von Drittanbietern an Ihrem TPRM-Programm aus
Mitratech kann Ihrem Unternehmen dabei helfen, nicht nur die eigene KI-Governance zu verbessern, sondern auch den Umgang mit KI-Risiken von Drittanbietern. Konkret können wir Ihnen dabei helfen:
- Legen Sie im Rahmen Ihres gesamten TPRM-Programms Richtlinien, Standards, Systeme und Prozesse fest, um Daten und Systeme vor KI-Risiken zu schützen. (Entspricht der Kategorie GOVERN 6.)
- Profilieren und einstufen Sie Dritte und quantifizieren Sie gleichzeitig die mit der Nutzung von KI durch Dritte verbundenen Risiken, um sicherzustellen, dass alle Risiken erfasst werden. (Entspricht der Kategorie MAP 4.)
- Führen Sie umfassende Risikobewertungen durch Dritte durch und überwachen und messen Sie kontinuierlich KI-spezifische Risiken im Rahmen Ihres TPRM-Programms. (Entspricht der Kategorie „MESSEN“.)
- Sicherstellung einer umfassenden Reaktion auf Vorfälle im Zusammenhang mit KI-spezifischen Risiken durch Dritte. (Entspricht MANAGE 3.)
Die Nutzung des NIST-Rahmenwerks für das KI-Risikomanagement in Ihrem TPRM-Programm hilft Ihrem Unternehmen dabei, Kontrollen und Verantwortlichkeiten für die Nutzung von KI durch Dritte festzulegen. Wenn Sie mehr darüber erfahren möchten, wie Mitratech diesen Prozess vereinfachen kann, fordern Sie noch heute eine Demo an.
Anmerkung der Redaktion: Dieser Beitrag wurde ursprünglich 2023 auf Prevalent.net veröffentlicht und im April 2025 aktualisiert. Im Oktober 2024 übernahm Mitratech das KI-gestützte Drittanbieter-Risikomanagement Prevalent. Der Inhalt wurde seitdem aktualisiert und enthält nun Informationen, die mit unseren Produktangeboten, regulatorischen Änderungen und Compliance-Anforderungen übereinstimmen.
