Trainingsmodul
KI-Risikomanagement
KI-Risiken aus Einsatzkontext, Betroffenen, GenAI und Agency bewerten und in Behandlung, Monitoring und Restrisiko überführen
KI-Risikomanagement, das Einsatzentscheide trägt
KI-Risikomanagement ist mehr als eine Bewertungsmatrix. Dieses Modul zeigt, wie Sie den Anwendungsfall abgrenzen, betroffene Parteien identifizieren, Schadensszenarien durchdenken, GenAI- und agentische Risiken stresstesten und Ergebnisse in Behandlung, Monitoring und belastbare Nachweise überführen.
Überblick
Worum es in diesem Modul geht
Allgemeine Aussagen zu KI-Risiken verbessern Entscheide selten. Wirksame Governance braucht ein strukturiertes Verständnis davon, was beurteilt wird, wer betroffen sein kann, wie Schäden entstehen können und wann sich ein KI-System nicht mehr wie passive Software verhält.
Dieses Modul vermittelt praktisches KI-Risikomanagement für Managementsystemumgebungen. Die Teilnehmenden definieren Beurteilungseinheiten und vorgesehene Verwendung, identifizieren betroffene Parteien, bauen Schadenspfade auf, nutzen FRIA-nahe Prompts, stresstesten GenAI- und agentische Risikoquellen, wenden Risikokriterien an, vergleichen Behandlungsoptionen und Freigabepunkte und dokumentieren Entscheide zu Restrisiko, Monitoring und Nachweisen.
Der Fokus liegt auf Nachweisen aus der Beurteilung, die rückverfolgbar, belastbar und für Governance, Legal, Risk, Audit, Kundennachweise und operative Anspruchsgruppen nützlich sind, ohne vorzutäuschen, dass das Modul Rechtsberatung, technisches Red Teaming oder operatives Kontrolldesign ersetzt.
Zielgruppe
Für wen es gedacht ist
Wer ein Managementsystem einführt oder koordiniert
Führungskräfte und Bereichsleitungen, die für die Leistung des Managementsystems einstehen
Wer Prozesse, Politiken, Assets, Risiken und Steuerungsmassnahmen verantwortet
Auditoren, die Einblick in die Managementpraxis suchen und nicht in die Audittechnik
Beratende, die an Gestaltung, Governance oder Verbesserung von Managementsystemen arbeiten
EntscheidungshilfeIst dieses Modul für Sie das Richtige?
Es passt gut für Sie, wenn Sie…
praktische Wirkungsbeurteilungen für KI-Systeme in realen Anwendungsfällen durchführen müssen.
erklären müssen, wer geschädigt werden könnte, wie Schäden entstehen können und weshalb das relevant ist.
Ergebnisse der Beurteilung mit Behandlung, Einsatzentscheid, Monitoring und Restrisiko verknüpfen müssen.
erkennen wollen, wann GenAI, Autonomie, Zielverfolgung oder Grenzen der Fähigkeitskontrolle die Beurteilung verändern.
ISO/IEC 42001, Schnittstellen zum EU AI Act, Risiko-, Audit- oder Kundennachweisarbeit unterstützen.
Es passt möglicherweise weniger gut für Sie, wenn Sie…
vor allem allgemeines KI-Bewusstsein oder KI-Grundlagen suchen.
Rechtsberatung oder einen vollständigen Kurs zur Klassifizierung nach EU AI Act benötigen.
technisches Red Teaming, Modellevaluation oder Prompt-Engineering-Training suchen.
operative KI-Steuerungsmassnahmen im Detail gestalten und betreiben wollen.
bereits einen reifen, nachweisstarken Prozess für Wirkungsbeurteilungen von KI-Systemen betreiben.
Was Sie mitbringen
Keine formalen Voraussetzungen. Teilnehmende sollten bereit sein, mit grundlegenden Konzepten zu Risikologik, KI-Systemen und Lebenszyklusgrenzen auf dem für die Beurteilungsarbeit nötigen Praxisniveau zu arbeiten.
Hilfreicher Hintergrund umfasst:
Vertrautheit mit Rollen, Verantwortlichkeiten und dokumentierter Information in Managementsystemen
Praktische Sicherheit mit grundlegenden Risikobegriffen wie Ursachen, Folgen, Steuerungsmassnahmen, Kriterien, Akzeptanz und Auslösern für Überprüfung
Praktisches Verständnis von KI-Systemverhalten, Grenzen, Fehlermodi und der Notwendigkeit, Spezialinput rechtzeitig beizuziehen
Agenda
Der Lehrstoff
7 Teile01Beurteilungsrahmen, vorgesehene Verwendung und Rollenannahmen
Systemgrenze, Workflow, Daten und Lebenszykluszustand festlegen
Vorgesehene Verwendung, vorhersehbaren Fehlgebrauch und menschliche Entscheidungspunkte klären
Anbieter-/Betreiberrollen und Schnittstellen zu Pflichten festhalten
02Betroffene Parteien und FRIA-nahe Wirkungsprompts
Betroffene Parteien, vulnerable Gruppen und indirekte Anspruchsgruppen identifizieren
FRIA-nahe Prompts für Rechte, Zugang und Abhilfemöglichkeiten nutzen
Massnahmen der Governance, Beschwerden und Eskalationswege mit der Beurteilung verbinden
03Schadenspfade und entscheidungsreife Risikobeschreibungen
KI-Verhalten, menschliches Vertrauen und Ablaufbedingungen in Schadensszenarien überführen
Ursachen, Kontrollen, Auswirkungen und Folgen für betroffene Parteien trennen
Risikobeschreibungen formulieren, die Behandlungs- und Einsatzentscheide unterstützen
04GenAI, Handlungsspielraum und Fähigkeitskontrolle
Risiken aus generierten Inhalten, Retrieval und Prompt-Abhängigkeit erkennen
Delegierte Aktionen, Zugriff auf Werkzeuge, Optimierung über Ersatzziele und schleichende Autonomie testen
Schwache Aufsicht, Lücken in der Fähigkeitskontrolle und Eskalationsauslöser hinterfragen
05Kriterien, Unsicherheit und Vertrauen in Nachweise
Organisatorische Risikokriterien anwenden, ohne Unsicherheit zu verdecken
Ausmass, Eintrittswahrscheinlichkeit und Vertrauen anhand verfügbarer Nachweise bewerten
Schwache Nachweise, nicht beurteilbare Bedingungen und Bedarf an Spezialbeurteilung markieren
06Behandlung, Nutzungsbedingungen und Freigabepunkte
Einschränkungen, Aufsicht, reduzierte Autonomie und entzogenen Zugriff auf Werkzeuge vergleichen
Pilotgrenzen, Spezialbeurteilung, Eskalation und Pausenbedingungen festlegen
Behandlungsentscheide mit Freigabepunkten und Nutzungsbedingungen verbinden
07Restrisiko, Monitoring, Nachweise und Aktualität
Restrisikoakzeptanz mit Befugnis, Begründung und Bedingungen festhalten
Monitoring durch Betreiber von benötigten Informationen der Anbieter nach dem Inverkehrbringen trennen
Auslöser für Neubeurteilung, Nachweise sowie Routinen für aktualisierte Leitlinien definieren
Ergebnisse
Lernergebnisse
01
Beurteilungseinheiten für KI-Systeme über vorgesehene Verwendung, Kontext, Rollenannahmen, betroffene Parteien und Lebenszykluszustand definieren
02
Belastbare Schadenspfade und Risikobeschreibungen mit betroffenen Parteien, FRIA-naher Logik und Vertrauen in Nachweise aufbauen
03
GenAI-, Agency-, Optimierungs- und Fähigkeitskontrollrisiken vor Einsatz- oder Fortführungsentscheiden stresstesten
Beurteilungsergebnisse in Behandlung, Nutzungsbedingungen, Freigabepunkte und Restrisikoentscheide übersetzen
Monitoring durch Betreiber, Informationen der Anbieter nach dem Inverkehrbringen, Auslöser für Neubeurteilung und Nachweise trennen
Beurteilungspraxis aktuell halten, wenn sich KI-Recht, Standards, Leitlinien, Vorfallmuster und Modellfähigkeiten verändern
Unterlagen
Die Inhalte und die Beurteilung
Schriftliches Modul
Der vollständige Inhalt in Schriftform, in sich abgeschlossen. Zu Teilen davon werden Videos aufgezeichnet, als zweiter Weg durch den Stoff; das schriftliche Modul trägt immer alles.
Übungen
Bewertete Arbeit an den Registern der Fallorganisation selbst: strukturierte Antworten werden gegen den kodierten Fall geprüft, Freitextantworten gegen ein daran zurückgebundenes Bewertungsraster, und bei jedem bewerteten Element hat der Trainer das letzte Wort.
Zum Abschluss
Die bewerteten Übungen müssen bestanden sein, bevor das Zertifikat ausgestellt wird.
Termine
Zurzeit ist keine öffentliche Durchführung von KI-Risikomanagement geplant. Sagen Sie uns Bescheid, und wir melden uns, sobald die nächste öffnet. Oder wir sprechen über eine interne Durchführung.
Eckdaten
- Modul-ID
- HAM-AI-S-02
- Fachbereich
- Künstliche Intelligenz
- Kompetenzbereiche
- Entscheidungen · Risiko
- Teil von Lehrgängen
- Managementsystem-Manager
Fallorganisation
Alle Module spielen im selben Unternehmen
Jedes Modul steigt an einem bestimmten Punkt in die Geschichte des Unternehmens ein und findet es so vor, wie diese Geschichte es hinterlassen hat.
Die Northstar Integrated Services AG ist eine Gruppe mit Sitz in Zürich, die in sechs europäischen Ländern tätig ist und Ende 2025 rund 1350 Mitarbeitende beschäftigte. Die Gruppe bietet regulierten Organisationen im Gesundheitswesen, im öffentlichen Sektor und in industriellen Dienstleistungen Plattformen für den digitalen Betrieb und betriebliche Managed Services an. Gegründet wurde sie 2008 als Anbieter von Vor-Ort-Dienstleistungen für Geschäftskunden. Das Unternehmen hatte rund fünfundzwanzig Mitarbeitende, als sein erster regulierter Kunde, eine Spitalgruppe, dokumentierte Entscheidungen, benannte Verantwortlichkeiten und Nachweise auf Anfrage verlangte. 2016 wechselte es ins Plattformgeschäft, und 2024 übernahm es ein operatives Geschäft in Polen und Tschechien, dessen Gesellschaft innerhalb der Gruppe fortbesteht.
Verknüpfte Register
Organisation und Personen, Rollen, Risiken, Ziele, Politiken, Dokumente und Aufzeichnungen, Kommunikation, Feststellungen, Audits und Überprüfungen, Anspruchsgruppen, Prozesse
Aufzeichnungen statt Zusammenfassungen
Die Nachweise liegen in den Registern und Dokumenten, in denen eine echte Organisation sie führen würde.
Eine Geschichte
Das Unternehmen hat eine Zeitachse ab 2008, sodass sich eine Struktur vor und nach einer Veränderung untersuchen lässt.
Mehr als eine Gesellschaft
Eine Schweizer Muttergesellschaft und eine zugekaufte Tochtergesellschaft in Polen und Tschechien, mit Kunden in mehreren Rechtsordnungen
Warum das zählt
Urteilsvermögen entwickelt sich an Material, das unvollständig und teilweise widersprüchlich ist, wie in der Praxis. Northstar ist bewusst so angelegt. Weil die Module an verschiedenen Punkten seiner Geschichte ansetzen, lässt sich eine Governance-Struktur verfolgen, während sie aufgebaut wird, wenn sie zu klein wird und wenn sie neu gebaut wird.
Durchführung & Termine
Wie dieses Modul zu Ihnen kommt
Live online durchgeführt, mit konzeptioneller Einordnung, Diskussion, Fallarbeit und direktem Austausch mit dem Trainer. Interne und auf Ihre Organisation zugeschnittene Durchführungen sind auf Anfrage möglich.
Zurzeit ist keine öffentliche Durchführung geplant. Die meisten Module laufen auch auf Anfrage und nicht nur nach öffentlichem Kalender. Sagen Sie uns, welcher Zeitraum Ihnen passt.
Sollen wir dieses Modul ansetzen?
Wir melden uns, sobald die nächste Durchführung angesetzt ist. Oder wir führen dieses Modul intern mit Ihrem eigenen Fallmaterial durch.
Unsicher, ob es das richtige Modul ist?
Beschreiben Sie Ihren Kontext in einer kurzen Nachricht, und wir antworten ehrlich.