Schulungsmodul
Schulungsmodul
Schulungsmodul
KI-Grundlagen II
Verstehen Sie die Unsicherheiten, Einschränkungen und häufigen Ausfallmodi von prädiktiven und generativen KI-Systemen.
Verstehen
Umsetzen
Verwalten
Audit
Von «das Modell ist richtig» zu «das System verhält sich unter Unsicherheit» wechseln
Von «das Modell ist richtig» zu «das System verhält sich unter Unsicherheit» wechseln
KI-bezogene Entscheidungen scheitern, wenn Outputs als Fakten behandelt werden, anstatt als Signale, die unter Einschränkungen produziert werden. Dieses Modul vermittelt ein praktisches Verständnis dafür, woher Unsicherheit kommt, wie Fehler in realen Dienstleistungen auftreten und welche Beweise Teams helfen, über Zuverlässigkeit ohne falsche Gewissheit zu urteilen.
KI-bezogene Entscheidungen scheitern, wenn Outputs als Fakten behandelt werden, anstatt als Signale, die unter Einschränkungen produziert werden. Dieses Modul vermittelt ein praktisches Verständnis dafür, woher Unsicherheit kommt, wie Fehler in realen Dienstleistungen auftreten und welche Beweise Teams helfen, über Zuverlässigkeit ohne falsche Gewissheit zu urteilen.
Übersicht des Schulungsmoduls
Viele Organisationen unterschätzen, wie oft sich das Verhalten von KI im Kontext ändert: sich ändernde Eingabedaten, betriebliche Einschränkungen, unklare Ziele oder instabile Integrationen. Wenn Teams keine gemeinsame Sicht auf die Grenzen der KI haben, neigen sie dazu, entweder zu übersteuern („alles blockieren“) oder zu wenig zu kontrollieren („den Ausgaben vertrauen“), was beides Governance- und Lieferprobleme schafft.
Dieses ganztägige Modul zu den Grundlagen des Fachgebiets erklärt die Hauptquellen der Unsicherheit und die häufigsten Fehlermodi in verschiedenen KI-Systemtypen (einschließlich prädiktiver und generativer KI). Es konzentriert sich darauf, zu erkennen, wie Fehler in der Praxis entstehen (z.B. Datenprobleme, Modellverhalten, Systeminteraktionen und menschlicher Missbrauch), und darauf, wie Manager, Implementierer und Prüfer bessere Fragen stellen und technische Artefakte realistisch interpretieren können. Es lehrt nicht die Methodologie der Risikobewertung, Methoden zur Lebenszyklusabgrenzung/-inventarisierung oder das Design operativer Kontrollen; diese werden in den speziellen Folgemodulen und den relevanten generischen Grundlagenmodulen behandelt.
Viele Organisationen unterschätzen, wie oft sich das Verhalten von KI im Kontext ändert: sich ändernde Eingabedaten, betriebliche Einschränkungen, unklare Ziele oder instabile Integrationen. Wenn Teams keine gemeinsame Sicht auf die Grenzen der KI haben, neigen sie dazu, entweder zu übersteuern („alles blockieren“) oder zu wenig zu kontrollieren („den Ausgaben vertrauen“), was beides Governance- und Lieferprobleme schafft.
Dieses ganztägige Modul zu den Grundlagen des Fachgebiets erklärt die Hauptquellen der Unsicherheit und die häufigsten Fehlermodi in verschiedenen KI-Systemtypen (einschließlich prädiktiver und generativer KI). Es konzentriert sich darauf, zu erkennen, wie Fehler in der Praxis entstehen (z.B. Datenprobleme, Modellverhalten, Systeminteraktionen und menschlicher Missbrauch), und darauf, wie Manager, Implementierer und Prüfer bessere Fragen stellen und technische Artefakte realistisch interpretieren können. Es lehrt nicht die Methodologie der Risikobewertung, Methoden zur Lebenszyklusabgrenzung/-inventarisierung oder das Design operativer Kontrollen; diese werden in den speziellen Folgemodulen und den relevanten generischen Grundlagenmodulen behandelt.
Zielpublikum
AI-Managementsystem-Manager und -Implementierer, die mit technischen Teams arbeiten
Fachleute für Governance, Risiko und Compliance, die realistische Erwartungen an KI brauchen
Produktverantwortliche und Prozessverantwortliche, die für KI-gestützte Dienstleistungen verantwortlich sind
Interne Auditoren, die fließend im KI-Bereich sein müssen (nicht im Prüfhandwerk)
AI-Managementsystem-Manager und -Implementierer, die mit technischen Teams arbeiten
Fachleute für Governance, Risiko und Compliance, die realistische Erwartungen an KI brauchen
Produktverantwortliche und Prozessverantwortliche, die für KI-gestützte Dienstleistungen verantwortlich sind
Interne Auditoren, die fließend im KI-Bereich sein müssen (nicht im Prüfhandwerk)
Agenda
Warum Begrenzungen und Unsicherheit zentral für die KI-Governance sind
KI-Ausgaben als Signale, nicht als Fakten
Typische Muster des Organisationsversagens (übermäßiges Vertrauen vs. übermäßige Blockierung)
Woher die Unsicherheit in KI-Systemen kommt
Unsicherheit in den Daten, Label-Mehrdeutigkeit und operative Kontextverschiebungen
Modellunsicherheit vs. Systemunsicherheit (Integration, Arbeitsabläufe, menschliche Faktoren)
Verhaltensgrenzen von Modellen (prädiktives ML)
Generalisierungsgrenzen, unregelmäßige Korrelationen und Verteilungsschieflagen
Leistungsabwägungen und Schwellenwerteffekte (worauf „gut“ basiert)
Verhaltensgrenzen von Modellen (generative KI)
Halluzinationen, Grenzen der Befolgung von Anweisungen und Empfindlichkeit auf Eingaben
Beschränkungen des Kontextfensters und Grenzen bei Wissen/Aktualisierungen
Datenbezogene Fehlermodi
Abweichungen beim Training/Bedienung, Leckagen und stille Änderungen in der Datenpipeline
Qualitätsprobleme: Fehlende Daten, Verzerrungen bei der Probenahme und Herkunftslücken
Sowohl systemische als auch sozial-technische Fehlermodi
Automatisierungsverzerrung, Missbrauch, Rückkopplungsschleifen und Manipulation
Schnittstellenfehler: Feste Integrationen, Latenzzeitbeschränkungen und Ausweichverhalten
Workshop: Fehlerdurchlauf eines Fallbeispielsystems
Wahrscheinliche Fehlermodi bei Daten, Modellen, Systemen und menschlicher Nutzung identifizieren
Konkrete Nachweisanfragen formulieren (Artefakte und Signale)
Warum Begrenzungen und Unsicherheit zentral für die KI-Governance sind
KI-Ausgaben als Signale, nicht als Fakten
Typische Muster des Organisationsversagens (übermäßiges Vertrauen vs. übermäßige Blockierung)
Woher die Unsicherheit in KI-Systemen kommt
Unsicherheit in den Daten, Label-Mehrdeutigkeit und operative Kontextverschiebungen
Modellunsicherheit vs. Systemunsicherheit (Integration, Arbeitsabläufe, menschliche Faktoren)
Verhaltensgrenzen von Modellen (prädiktives ML)
Generalisierungsgrenzen, unregelmäßige Korrelationen und Verteilungsschieflagen
Leistungsabwägungen und Schwellenwerteffekte (worauf „gut“ basiert)
Verhaltensgrenzen von Modellen (generative KI)
Halluzinationen, Grenzen der Befolgung von Anweisungen und Empfindlichkeit auf Eingaben
Beschränkungen des Kontextfensters und Grenzen bei Wissen/Aktualisierungen
Datenbezogene Fehlermodi
Abweichungen beim Training/Bedienung, Leckagen und stille Änderungen in der Datenpipeline
Qualitätsprobleme: Fehlende Daten, Verzerrungen bei der Probenahme und Herkunftslücken
Sowohl systemische als auch sozial-technische Fehlermodi
Automatisierungsverzerrung, Missbrauch, Rückkopplungsschleifen und Manipulation
Schnittstellenfehler: Feste Integrationen, Latenzzeitbeschränkungen und Ausweichverhalten
Workshop: Fehlerdurchlauf eines Fallbeispielsystems
Wahrscheinliche Fehlermodi bei Daten, Modellen, Systemen und menschlicher Nutzung identifizieren
Konkrete Nachweisanfragen formulieren (Artefakte und Signale)
Modul-ID
HAM-AI-DF-02
Modultyp
Grundlagen des Fachgebiets
Domain:
Künstliche Intelligenz
Zielgruppe:
Auditor
Manager
Führungskraft
Verfügbar in:
Englisch
Dauer:
7 Std.
Listenpreis:
CHF 550
Exkl. MwSt. Die Mehrwertsteuer kann je nach Standort und Status des Kunden anfallen.
Was Sie erhalten
Was Sie lernen
Erklären Sie die Hauptquellen der Unsicherheit in KI-Systemen und wie sie sich je nach Systemtyp unterscheiden
Erkennen Sie häufige Ausfallmodi prädiktiver ML (Verschiebung, Leckage, Schwellenwerteffekte, Brüchigkeit)
Erkennen Sie häufige Ausfallmodi generativer KI (Halluzinationsmuster, Empfindlichkeit für Eingabebefehle, Kontextgrenzen)
Identifizieren Sie Probleme mit Datenpipelines und Herkunft, die typischerweise die Verschlechterung von KI im Laufe der Zeit verursachen
Beschreiben Sie sozio-technische Ausfallmodi (Missbrauch, Automatisierungsverzerrung, Rückkopplungsschleifen) und wie sie im Betrieb auftreten
Verwenden Sie einen strukturierten Durchgang, um wahrscheinliche Ausfallmodi für einen KI-gestützten Dienst zu artikulieren und die Beweise zu klären, die diese verdeutlichen würden
Erklären Sie die Hauptquellen der Unsicherheit in KI-Systemen und wie sie sich je nach Systemtyp unterscheiden
Erkennen Sie häufige Ausfallmodi prädiktiver ML (Verschiebung, Leckage, Schwellenwerteffekte, Brüchigkeit)
Erkennen Sie häufige Ausfallmodi generativer KI (Halluzinationsmuster, Empfindlichkeit für Eingabebefehle, Kontextgrenzen)
Identifizieren Sie Probleme mit Datenpipelines und Herkunft, die typischerweise die Verschlechterung von KI im Laufe der Zeit verursachen
Beschreiben Sie sozio-technische Ausfallmodi (Missbrauch, Automatisierungsverzerrung, Rückkopplungsschleifen) und wie sie im Betrieb auftreten
Verwenden Sie einen strukturierten Durchgang, um wahrscheinliche Ausfallmodi für einen KI-gestützten Dienst zu artikulieren und die Beweise zu klären, die diese verdeutlichen würden
Lernmaterialien
Präsentationsfolien
Teilnehmerhandbuch
Zertifikat über die Teilnahme
Präsentationsfolien
Teilnehmerhandbuch
Zertifikat über die Teilnahme
Vorlagen & Werkzeuge
KI-Unsicherheitskarte (Quellen und beobachtbare Signale)
Katalog der Fehlermodi (prädiktiv, generativ und auf Systemebene)
Fall-Durchlaufleinwand (Daten → Modell → Integration → Nutzung)
Promptset für technische Durchläufe (Fragen zur Anforderung von Artefakten und Betriebssignalen)
KI-unterstütztes Zusammenfassungs-Promptset zur Konsolidierung von Modell/System-Artefakt-Notizen (optional)
KI-Unsicherheitskarte (Quellen und beobachtbare Signale)
Katalog der Fehlermodi (prädiktiv, generativ und auf Systemebene)
Fall-Durchlaufleinwand (Daten → Modell → Integration → Nutzung)
Promptset für technische Durchläufe (Fragen zur Anforderung von Artefakten und Betriebssignalen)
KI-unterstütztes Zusammenfassungs-Promptset zur Konsolidierung von Modell/System-Artefakt-Notizen (optional)
Voraussetzungen
Dieses Modul setzt grundlegende Kenntnisse in wesentlichen KI-Konzepten und Systemtypen voraus (Daten, Training vs. Inferenz und gängige KI-Architektur-Muster). Die Teilnehmer sollten außerdem in der Lage sein, technische Beschreibungen auf hohem Niveau (Dienste, APIs, Datenspeicher) zu lesen, ohne diese implementieren zu müssen.
Nützliche Vorkenntnisse umfassen:
Grundlegendes Verständnis digitaler Dienste und Abhängigkeiten (Anwendungen, Schnittstellen, Datenflüsse)
Vertrautheit mit gängigen IT-Kontrollkonzepten (Zugangskontrolle, Protokollierung, Verschlüsselung) auf konzeptioneller Ebene
Dieses Modul setzt grundlegende Kenntnisse in wesentlichen KI-Konzepten und Systemtypen voraus (Daten, Training vs. Inferenz und gängige KI-Architektur-Muster). Die Teilnehmer sollten außerdem in der Lage sein, technische Beschreibungen auf hohem Niveau (Dienste, APIs, Datenspeicher) zu lesen, ohne diese implementieren zu müssen.
Nützliche Vorkenntnisse umfassen:
Grundlegendes Verständnis digitaler Dienste und Abhängigkeiten (Anwendungen, Schnittstellen, Datenflüsse)
Vertrautheit mit gängigen IT-Kontrollkonzepten (Zugangskontrolle, Protokollierung, Verschlüsselung) auf konzeptioneller Ebene
Hilfreiche Vorbereitungsmodule
Die folgenden Module bereiten auf ein optimales Lernerlebnis vor – sind jedoch nicht unbedingt erforderlich, um den Teilnehmern zu folgen.
Grundlagen der KI I: Konzepte und Systemtypen der KI
Lernen Sie die grundlegenden Konzepte der KI kennen, die Arten von KI-Systemen und die technischen Bausteine, die modernen KI-gestützten Produkten und Dienstleistungen zugrunde liegen.
7h
Grundlagen der KI I: Konzepte und Systemtypen der KI
Lernen Sie die grundlegenden Konzepte der KI kennen, die Arten von KI-Systemen und die technischen Bausteine, die modernen KI-gestützten Produkten und Dienstleistungen zugrunde liegen.
7h
Grundlagen der KI I: Konzepte und Systemtypen der KI
Lernen Sie die grundlegenden Konzepte der KI kennen, die Arten von KI-Systemen und die technischen Bausteine, die modernen KI-gestützten Produkten und Dienstleistungen zugrunde liegen.
7h
Kontinuierliches Lernen
Kontinuierliches Lernen
Kontinuierliches Lernen
Folgemodule
Nach Abschluss dieses Moduls sind die folgenden Module ideal, um Ihre Kompetenz weiter zu vertiefen.
Risiko-, Wirkungs- und Schadensbewertung von KI
Verstehen Sie, wie man die Auswirkungen und Schäden durch KI bewertet, Ergebnisse dokumentiert und sie mit Risikoentscheidungen in einem KI-Managementsystem verknüpft.
Dauer
7h
Listenpreis
CHF550
Modul anzeigen
Risiko-, Wirkungs- und Schadensbewertung von KI
Verstehen Sie, wie man die Auswirkungen und Schäden durch KI bewertet, Ergebnisse dokumentiert und sie mit Risikoentscheidungen in einem KI-Managementsystem verknüpft.
Dauer
7h
Listenpreis
CHF550
Modul anzeigen
Risiko-, Wirkungs- und Schadensbewertung von KI
Verstehen Sie, wie man die Auswirkungen und Schäden durch KI bewertet, Ergebnisse dokumentiert und sie mit Risikoentscheidungen in einem KI-Managementsystem verknüpft.
Dauer
7h
Listenpreis
CHF550
Modul anzeigen
KI-Systemumfang, Lebenszyklus & Inventar
Definieren Sie den Umfang des KI-Systems, die Grenzen des Lebenszyklus und ein gepflegtes Inventar des KI-Systems, das mit ISO/IEC 42001 abgestimmt ist.
Dauer
7h
Listenpreis
CHF550
Modul anzeigen
KI-Systemumfang, Lebenszyklus & Inventar
Definieren Sie den Umfang des KI-Systems, die Grenzen des Lebenszyklus und ein gepflegtes Inventar des KI-Systems, das mit ISO/IEC 42001 abgestimmt ist.
Dauer
7h
Listenpreis
CHF550
Modul anzeigen
KI-Systemumfang, Lebenszyklus & Inventar
Definieren Sie den Umfang des KI-Systems, die Grenzen des Lebenszyklus und ein gepflegtes Inventar des KI-Systems, das mit ISO/IEC 42001 abgestimmt ist.
Dauer
7h
Listenpreis
CHF550
Modul anzeigen
Betriebskontrolle von KI-Systemen
Verstehen Sie, wie Betriebsabläufe für KI-Systeme über Bereitstellung, Änderung und Überwachung hinweg definiert, implementiert und aufrechterhalten werden können.
Dauer
7h
Listenpreis
CHF550
Modul anzeigen
Betriebskontrolle von KI-Systemen
Verstehen Sie, wie Betriebsabläufe für KI-Systeme über Bereitstellung, Änderung und Überwachung hinweg definiert, implementiert und aufrechterhalten werden können.
Dauer
7h
Listenpreis
CHF550
Modul anzeigen
Betriebskontrolle von KI-Systemen
Verstehen Sie, wie Betriebsabläufe für KI-Systeme über Bereitstellung, Änderung und Überwachung hinweg definiert, implementiert und aufrechterhalten werden können.
Dauer
7h
Listenpreis
CHF550
Modul anzeigen
Grundlagen des Risikomanagements
Erlernen Sie die Grundlagen der Identifikation, Bewertung, Behandlung und Überwachung von Risiken und Chancen in Managementsystemen.
Dauer
7h
Listenpreis
CHF550
Modul anzeigen
Grundlagen des Risikomanagements
Erlernen Sie die Grundlagen der Identifikation, Bewertung, Behandlung und Überwachung von Risiken und Chancen in Managementsystemen.
Dauer
7h
Listenpreis
CHF550
Modul anzeigen
Grundlagen des Risikomanagements
Erlernen Sie die Grundlagen der Identifikation, Bewertung, Behandlung und Überwachung von Risiken und Chancen in Managementsystemen.
Dauer
7h
Listenpreis
CHF550
Modul anzeigen
Bereit, Ihre Managementsysteme zu verbessern?
Wir helfen Ihnen, ISO-Anforderungen wirksam in der täglichen Praxis umzusetzen.
Bereit, Ihre Managementsysteme zu verbessern?
Wir helfen Ihnen, ISO-Anforderungen wirksam in der täglichen Praxis umzusetzen.
Bereit, Ihre Managementsysteme zu verbessern?
Wir helfen Ihnen, ISO-Anforderungen wirksam in der täglichen Praxis umzusetzen.