KI-Systeme treffen zunehmend Entscheidungen, die Menschen direkt betreffen – von Kreditprüfungen über Bewerbungsscreenings bis zu Kundenservice-Priorisierungen. Ohne klaren Governance-Rahmen steigen die Risiken: Diskriminierung, Verletzungen des Datenschutzes, fehlende Nachvollziehbarkeit. Diese Seite zeigt dir, welche internationalen Standards und Schweizer Anforderungen gelten und wie du ein pragmatisches AI Governance Framework für dein Unternehmen aufbaust.
Was ist AI Governance?
AI Governance umfasst alle Richtlinien, Prozesse, Kontrollen und Verantwortlichkeiten, die sicherstellen sollen, dass KI-Systeme verantwortungsvoll, ethisch und rechtskonform eingesetzt werden. Im Kern beantwortet AI Governance vier Fragen:
- Wer entscheidet über den Einsatz von KI und trägt die Verantwortung?
- Was darf die KI entscheiden – und was nicht?
- Wie wird sichergestellt, dass KI fair, transparent und datenschutzkonform arbeitet?
- Wann und wie werden KI-Systeme überprüft und angepasst?
Internationale Standards und Frameworks
ISO 42001: AI Management System
ISO/IEC 42001:2023 «Information technology — Artificial intelligence — Management system» ist der erste internationale Standard für KI-Managementsysteme, veröffentlicht im Dezember 2023. Er bietet einen Rahmen für Organisationen, die KI entwickeln, bereitstellen oder nutzen; zertifiziert wird über akkreditierte Zertifizierungsstellen.
Quelle: Bezeichnung und Titel des Standards sowie die Einordnung als «the world’s first AI management system standard» stehen im Catalogue of Tools & Metrics der OECD (Eintrag «ISO/IEC 42001:2023 - Information Technology — Artificial intelligence — Management system»). Das Erscheinen im Dezember 2023 und die Zertifizierung über akkreditierte Stellen belegt KPMG Schweiz im Wortlaut: «Since its introduction in December 2023, this international standard has provided valuable guidance for responsible AI systems» — KPMG Schweiz bezeichnet sich dort als «one of the first accredited certification body in Europe» für AIMS-Zertifizierungen. Die Katalogseite der ISO selbst beantwortet automatisierte Abrufe mit HTTP 403 und ist deshalb nicht als abgerufene Quelle geführt. Beide Seiten abgerufen am 24. August 2026.Kernelemente von ISO 42001:
- Kontext der Organisation: KI-relevante interne und externe Faktoren identifizieren
- Führung und Engagement: Top-Management-Verantwortung für KI-Governance
- Planung: Risiken und Chancen des KI-Einsatzes systematisch bewerten
- Unterstützung: Kompetenzen, Bewusstsein und Kommunikation sicherstellen
- Betrieb: KI-Lebenszyklus von Entwicklung bis Stilllegung managen
- Leistungsbewertung: Monitoring, Messung, Analyse und Audit
- Verbesserung: Nichtkonformitäten behandeln und kontinuierlich optimieren
NIST AI Risk Management Framework (AI RMF)
Das AI Risk Management Framework des US-amerikanischen National Institute of Standards and Technology (NIST) erschien am 26. Januar 2023 als Version 1.0. Das NIST bezeichnet es ausdrücklich als für den freiwilligen Gebrauch bestimmt («intended for voluntary use»). Es hat vier Kernfunktionen (NIST, AI Risk Management Framework, abgerufen am 24. August 2026):
1. Govern (Steuern)
Organisatorische Strukturen, Richtlinien und Prozesse für KI-Risikomanagement etablieren. Dies umfasst Rollen, Verantwortlichkeiten und eine klare KI-Strategie.
2. Map (Erfassen)
KI-Systeme und ihre Kontexte systematisch erfassen. Welche KI wird eingesetzt? Für welche Zwecke? Welche Daten werden verwendet? Wer ist betroffen?
3. Measure (Messen)
Risiken quantifizieren und überwachen. Dazu gehören Fairness-Metriken, Genauigkeitsmessungen, Bias-Erkennung und Performance-Monitoring.
4. Manage (Managen)
Identifizierte Risiken mit konkreten Massnahmen adressieren. Risiken akzeptieren, mitigieren, transferieren oder vermeiden.
Das NIST AI RMF ist besonders wertvoll, weil es technologie-agnostisch und skalierbar ist. KMU können es auf ihre Bedürfnisse anpassen, ohne einen überdimensionierten Apparat aufzubauen.
EU AI Act: Risikobasierte Regulierung
Der EU AI Act (Verordnung (EU) 2024/1689) gilt als erste umfassende KI-Regulierung eines grossen Wirtschaftsraums. Er ist seit dem 1. August 2024 in Kraft und gilt gestaffelt: Die Verbote nach Artikel 5 gelten seit dem 2. Februar 2025, die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck seit dem 2. August 2025 und die Transparenzpflichten nach Artikel 50 seit dem 2. August 2026. Die Hochrisiko-Pflichten hat die Verordnung (EU) 2026/1744 («Digital Omnibus», in Kraft seit 27. Juli 2026) verschoben: auf den 2. Dezember 2027 für eigenständige Systeme nach Anhang III und auf den 2. August 2028 für KI in bereits regulierten Produkten nach Artikel 6 Absatz 1 in Verbindung mit Anhang I (Artikel 113 nennt die ursprüngliche Fassung dieser Fristen, abgerufen am 24. August 2026). Auch wenn die Schweiz nicht EU-Mitglied ist, hat der EU AI Act erhebliche Auswirkungen auf Schweizer Unternehmen.
Quelle der Fristen: Verordnung (EU) 2026/1744 (Digital Omnibus zur künstlichen Intelligenz), in Kraft seit 27. Juli 2026 — sie ändert die Verordnung (EU) 2024/1689 und verschiebt die Hochrisiko-Pflichten auf den 2. Dezember 2027 (eigenständige Systeme nach Anhang III) beziehungsweise den 2. August 2028 (Anhang I in Verbindung mit Artikel 6 Absatz 1). Artikel 5, die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck und Artikel 50 bleiben unverändert. Abgerufen am 24. August 2026.
Risikoklassifikation
Der EU AI Act klassifiziert KI-Systeme in vier Risikoklassen:
| Risikoklasse | Beispiele | Anforderungen |
|---|---|---|
| Unannehmbares Risiko | Social Scoring, manipulative KI | Verboten |
| Hohes Risiko | Kreditscoring, HR-Screening, medizinische Diagnostik | Strenge Pflichten: Risikomanagement, Datenqualität, Transparenz, menschliche Aufsicht |
| Begrenztes Risiko | Chatbots, Deepfakes | Transparenzpflichten |
| Minimales Risiko | Spamfilter, Spiele-KI | Keine spezifischen Pflichten |
Relevanz für die Schweiz
Artikel 2 Absatz 1 der Verordnung erfasst Schweizer Unternehmen direkt, wenn sie:
- als Anbieter KI-Systeme in der Union in Verkehr bringen oder in Betrieb nehmen (Buchstabe a) – unabhängig davon, wo sie niedergelassen sind
- als Betreiber ihren Niederlassungsort in der Union haben (Buchstabe b) – massgebend ist der Niederlassungsort des Betreibers, nicht der Ort, an dem das System betrieben wird
- als Anbieter oder Betreiber mit Sitz in einem Drittland ein KI-System einsetzen, dessen erzeugter Output in der Union verwendet wird (Buchstabe c)
Dazu kommt die indirekte Wirkung über die Lieferkette: EU-Kunden verlangen Nachweise von ihren Schweizer Zulieferern (Artikel 2, abgerufen am 24. August 2026).
Die Schweiz geht regulatorisch einen eigenen Weg, nicht den des EU AI Act. Der Bundesrat hat am 12. Februar 2025 entschieden, die KI-Konvention des Europarats ins Schweizer Recht zu übernehmen; nötige Gesetzesanpassungen sollen «möglichst sektorbezogen ausfallen». Bis Ende 2026 erarbeitet das EJPD zusammen mit UVEK und EDA eine Vernehmlassungsvorlage, die namentlich die Bereiche Transparenz, Datenschutz, Nichtdiskriminierung und Aufsicht regelt (BAKOM, «Künstliche Intelligenz», abgerufen am 24. August 2026). Wer sich an den Anforderungen des EU AI Act orientiert, arbeitet viele dieser Themen vor — gleichwertig sind die beiden Regelwerke deswegen nicht.
Schweizer Perspektive: nDSG und EDÖB
Neues Datenschutzgesetz (nDSG)
Das revidierte Schweizer Datenschutzgesetz (nDSG, SR 235.1, vom 25. September 2020), in Kraft seit dem 1. September 2023, enthält mehrere Bestimmungen, die direkt relevant für KI-Governance sind. Es spricht dabei durchgehend von «Bearbeitung», nicht von «Verarbeitung».
Automatisierte Einzelentscheidungen (Art. 21 nDSG)
Wenn eine Entscheidung ausschliesslich auf automatisierter Bearbeitung beruht und für die betroffene Person mit einer Rechtsfolge verbunden ist oder sie erheblich beeinträchtigt, muss das Unternehmen:
- Die betroffene Person über die automatisierte Einzelentscheidung informieren (Abs. 1)
- Ihr auf Antrag die Möglichkeit geben, ihren Standpunkt darzulegen (Abs. 2)
- Die Entscheidung durch eine natürliche Person überprüfen lassen, wenn die betroffene Person das verlangt (Abs. 2)
Art. 21 Abs. 3 nimmt zwei Fälle von diesen Pflichten aus: wenn die Entscheidung unmittelbar mit dem Abschluss oder der Abwicklung eines Vertrags zusammenhängt und dem Begehren der betroffenen Person stattgegeben wird, oder wenn diese ausdrücklich eingewilligt hat, dass die Entscheidung automatisiert erfolgt.
Datenschutz-Folgenabschätzung (DSFA)
Kann eine Bearbeitung ein hohes Risiko für die Persönlichkeit oder die Grundrechte der betroffenen Person mit sich bringen, ist vorgängig eine DSFA zu erstellen (Art. 22 Abs. 1 nDSG). Art. 22 Abs. 2 nennt zwei Fälle namentlich:
- die umfangreiche Bearbeitung besonders schützenswerter Personendaten
- die systematische umfangreiche Überwachung öffentlicher Bereiche
Diese Aufzählung ist nicht abschliessend. «Profiling mit hohem Risiko» ist ein eigener Begriff des Gesetzes (Art. 5 Bst. g nDSG) und steht nicht in dieser Aufzählung; es kann im Einzelfall aber genau das hohe Risiko begründen, das eine DSFA auslöst.
Transparenzpflichten
Betroffene Personen müssen bei der Beschaffung über die Bearbeitung ihrer Daten informiert werden – auch wenn KI-Systeme im Spiel sind. Art. 19 Abs. 2 nDSG verlangt mindestens die Identität und die Kontaktdaten des Verantwortlichen, den Bearbeitungszweck sowie gegebenenfalls die Empfängerinnen und Empfänger oder deren Kategorien. Die Logik, auf der eine automatisierte Einzelentscheidung beruht, gehört nicht zu dieser Informationspflicht, sondern zum Auskunftsrecht: Sie ist nach Art. 25 Abs. 2 Bst. f nDSG auf Verlangen mitzuteilen.
Quelle: Bundesgesetz über den Datenschutz (DSG), SR 235.1, Stand 7. Juli 2025 — abgerufen am 24. August 2026.
Die Haltung des EDÖB
In seiner Mitteilung vom 9. November 2023 stellt der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB) keine eigenen, über das Gesetz hinausgehenden KI-Regeln auf. Er hält vielmehr fest, dass das Datenschutzgesetz des Bundes «technologieneutral formuliert und demzufolge auch auf den Einsatz von KI-gestützten Datenbearbeitungen direkt anwendbar» ist. Daraus leitet er Pflichten für Hersteller, Anbieter und Verwender entsprechender Applikationen ab:
- Transparenz: Zweck, Funktionsweise und Datenquellen der auf KI beruhenden Bearbeitungen sind transparent zu machen
- Offenlegung gegenüber Nutzenden: Bei intelligenten Sprachmodellen, die direkt mit Benutzerinnen und Benutzern kommunizieren, haben diese ein gesetzliches Recht zu erfahren, ob sie mit einer Maschine sprechen oder korrespondieren – und ob ihre Eingaben zur Verbesserung der Programme oder zu weiteren Zwecken weiterbearbeitet werden
- Menschliche Überprüfung: Betroffene können einer automatischen Datenbearbeitung widersprechen oder verlangen, dass eine automatisierte Einzelentscheidung von einem Menschen überprüft wird
- Datenschutz-Folgenabschätzung: bei Bearbeitungen mit hohen Risiken
Quelle: EDÖB, «Geltendes Datenschutzgesetz ist auf KI direkt anwendbar» (09.11.2023) — abgerufen am 24. August 2026.Mehr Details zur Datenschutz-Compliance bei KI-Automatisierung findest du unter Datenschutzgesetz und AI.
AI Governance Framework für KMU: Pragmatische Implementierung
Ein KMU benötigt kein Enterprise-Governance-System. Aber es braucht Struktur. Das folgende Framework ist skalierbar und pragmatisch:
Ebene 1: AI Policy (Grundlage)
Ein schriftliches Dokument, das die Grundprinzipien des KI-Einsatzes im Unternehmen festlegt:
- Zweck und Scope: Für welche Anwendungen wird KI eingesetzt?
- Ethische Grundsätze: Fairness, Transparenz, Datenschutz, menschliche Aufsicht
- Verantwortlichkeiten: Wer genehmigt KI-Projekte? Wer überwacht?
- Rote Linien: Welche KI-Anwendungen sind ausgeschlossen?
- Incident Management: Was passiert bei KI-Fehlentscheidungen?
Ebene 2: Risiko-Assessment (Bewertung)
Jedes KI-System wird vor dem Einsatz bewertet:
| Bewertungskriterium | Niedrig (1) | Mittel (3) | Hoch (5) |
|---|---|---|---|
| Auswirkung auf Personen | Keine direkte Auswirkung | Indirekte Auswirkung | Direkte erhebliche Auswirkung |
| Datentyp | Anonymisiert | Pseudonymisiert | Personenbezogen/sensitiv |
| Autonomiegrad | Vorschlag mit Überprüfung | Teilautomatisiert | Vollautomatisch |
| Reversibilität | Leicht umkehrbar | Teilweise umkehrbar | Irreversibel |
| Regulatorische Relevanz | Keine spezifische | Branchenspezifisch | Hochreguliert |
Ebene 3: Operative Kontrollen (Betrieb)
- Logging und Monitoring: Alle KI-Entscheidungen protokollieren
- Bias-Monitoring: Regelmässige Überprüfung auf diskriminierende Muster
- Performance-Tracking: Genauigkeit und Zuverlässigkeit messen
- Human-in-the-Loop: Bei kritischen Entscheidungen menschliche Überprüfung
- Feedback-Schleifen: Betroffene können Entscheidungen anfechten
Vertiefen Sie Ihr Wissen:
Ebene 4: Audit und Review (Überprüfung)
Mindestens jährlich sollte ein AI Audit durchgeführt werden:
- Compliance-Check: Einhaltung von nDSG, Branchenregulierung und interner Policy
- Fairness-Audit: Statistische Analyse auf Diskriminierungsmuster
- Transparenz-Check: Können Entscheidungen erklärt werden?
- Datenqualitäts-Audit: Sind die Trainingsdaten aktuell und repräsentativ?
- Security-Audit: Ist das KI-System gegen Manipulation geschützt?
AI Audit: Vertrauen schaffen durch Überprüfung
Ein AI Audit ist die systematische Überprüfung eines KI-Systems auf Compliance, Fairness, Transparenz und Sicherheit. Für Schweizer KMU empfiehlt sich ein dreistufiger Ansatz:
Stufe 1: Selbstbewertung (intern, quartalsweise)
- Checkliste basierend auf der AI Policy
- Metriken-Review (Genauigkeit, Fehlerquoten, Bias-Indikatoren)
- Incident-Review: Gab es Beschwerden oder Fehlentscheidungen?
Stufe 2: Peer Review (intern, halbjährlich)
- Überprüfung durch eine unabhängige interne Stelle (z. B. Compliance, Revision)
- Dokumentations-Check: Ist alles nachvollziehbar dokumentiert?
- Stichproben-Überprüfung von KI-Entscheidungen
Stufe 3: Externes Audit (jährlich oder bei Systemen hoher Kritikalität)
- Unabhängige Prüfung durch externe Spezialisten
- Technische Tiefenprüfung: Modellanalyse, Datenqualität, Robustheit
- Compliance-Prüfung gegen relevante Standards und Gesetze
- Ergebnis: Audit-Bericht mit Empfehlungen
Kosten für ein externes AI Audit in der Schweiz (Richtwerte aus eigener Einschätzung, keine erhobenen Marktdaten — es gibt für die Schweiz keine veröffentlichte Preisstatistik für AI Audits):
- Einfaches System (Chatbot, Klassifikation): CHF 5'000–15'000
- Mittlere Komplexität (Scoring, Prognose): CHF 15'000–40'000
- Hohe Kritikalität (automatisierte Entscheidungen über Personen): CHF 40'000–100'000
Diese drei Stufen benennen den Prüfaufwand dieses Kostenmodells, nicht die Risikoklassen des EU AI Act. Ein System hoher Kritikalität in diesem Sinne ist nicht automatisch ein Hochrisiko-System nach Artikel 6 der Verordnung (EU) 2024/1689 — und umgekehrt kann ein Hochrisiko-System nach der Verordnung im Audit günstiger ausfallen, wenn es technisch einfach gebaut ist.
Roadmap: AI Governance in zwölf Wochen aufbauen
Für KMU, die schnell starten möchten:
Woche 1–2: Bestandsaufnahme
- Alle KI-Systeme inventarisieren (inkl. eingebettete KI in SaaS-Tools)
- Datenflüsse dokumentieren
- Verantwortlichkeiten klären
Woche 3–4: AI Policy erstellen
- Grundprinzipien definieren
- Risiko-Assessment-Prozess festlegen
- Rote Linien definieren
Woche 5–8: Operative Kontrollen einführen
- Logging und Monitoring implementieren
- Transparenz-Dokumentation erstellen
- Feedback-Kanal für Betroffene einrichten
Woche 9–12: Audit-Prozess etablieren
- Audit-Checkliste erstellen
- Erstes Selbst-Audit durchführen
- Verbesserungsmassnahmen umsetzen
Gesamtaufwand: 40–80 Personenstunden, verteilt auf drei Monate — ein Richtwert aus eigener Einschätzung, kein erhobener Durchschnitt. Die Spanne hängt vor allem davon ab, wie viele KI-Systeme im Einsatz sind und wie gut sie bereits dokumentiert sind.
FAQ: Häufig gestellte Fragen zu AI Governance
- Braucht mein KMU wirklich AI Governance?
Ja, sobald KI-Systeme Entscheidungen treffen oder vorbereiten, die Menschen betreffen. Das gilt auch für vermeintlich einfache Anwendungen wie E-Mail-Klassifikation oder Kundensegmentierung. Das Schweizer Datenschutzgesetz (nDSG) verpflichtet Unternehmen zudem zur Information über automatisierte Einzelentscheidungen, die mit einer Rechtsfolge verbunden sind oder die betroffene Person erheblich beeinträchtigen (Art. 21 nDSG). Ein pragmatisches Governance-Framework senkt rechtliche Risiken und schafft die Grundlage für Vertrauen bei Kunden und Mitarbeitenden; ausschliessen lassen sich rechtliche Risiken damit nicht.
- Wie unterscheiden sich ISO 42001 und NIST AI RMF?
ISO 42001 ist ein zertifizierbarer Management-System-Standard – vergleichbar mit ISO 27001 für Informationssicherheit. Er definiert Anforderungen an ein KI-Managementsystem. Das NIST AI RMF ist ein freiwilliges Risikomanagement-Framework, das flexibler und pragmatischer einsetzbar ist. Für Schweizer KMU empfiehlt sich oft eine Kombination: Die Struktur von ISO 42001 als Orientierung, die praktischen Werkzeuge des NIST AI RMF für die Umsetzung.
- Ist der EU AI Act für Schweizer Unternehmen verbindlich?
Direkt verbindlich ist der EU AI Act für Schweizer Unternehmen in den drei Konstellationen von Artikel 2 Absatz 1 der Verordnung (EU) 2024/1689: wenn sie als Anbieter KI-Systeme in der Union in Verkehr bringen oder in Betrieb nehmen (Buchstabe a), wenn sie als Betreiber ihren Niederlassungsort in der Union haben (Buchstabe b) – und auch dann, wenn sie in einem Drittland sitzen, der erzeugte Output aber in der Union verwendet wird (Buchstabe c). Die Schweiz ist aus Sicht der Verordnung ein Drittland, weshalb Buchstabe c auf Schweizer Unternehmen am häufigsten zutrifft. Ein Schweizer Sitz allein befreit also nicht. Indirekt wirkt er zusätzlich über die Lieferkette, weil EU-Kunden Nachweise verlangen. Die Schweiz selbst plant keine Kopie des EU AI Act: Der Bundesrat hat am 12. Februar 2025 entschieden, die KI-Konvention des Europarats zu übernehmen und Gesetzesanpassungen möglichst sektorbezogen vorzunehmen; die Vernehmlassungsvorlage dazu soll bis Ende 2026 vorliegen.
- Was kostet AI Governance für ein KMU?
Die Grundlagen (AI Policy, Risiko-Assessment-Prozess, einfaches Monitoring) lassen sich mit 40–80 Personenstunden intern aufbauen. Externe Unterstützung für die initiale Erstellung kostet CHF 5'000–15'000. Ein jährliches externes Audit liegt je nach Komplexität bei CHF 5'000–100'000: CHF 5'000–15'000 für ein einfaches System wie einen Chatbot, CHF 15'000–40'000 bei mittlerer Komplexität wie Scoring oder Prognose, CHF 40'000–100'000 für ein System hoher Kritikalität, das Entscheidungen über Personen automatisiert. Diese drei Stufen beschreiben den Prüfaufwand des Kostenmodells und nicht die Risikoklassen des EU AI Act. Alle diese Angaben sind Richtwerte aus eigener Einschätzung, keine erhobenen Marktdaten — hole für dein System eine Offerte ein.
Weiterführende Themen
Quellen
- Bezeichnung und Titel des Standards sowie die Einordnung als «the world’s first AI management system standard» stehen im Catalogue of Tools & Metrics der OECD (Eintrag «ISO/IEC 42001:2023 - Information Technology — Artificial intelligence — Management system»). Das Erscheinen im Dezember 2023 und die Zertifizierung über akkreditierte Stellen belegt KPMG Schweiz im Wortlaut: «Since its introduction in December 2023, this international standard has provided valuable guidance for responsible AI systems» — KPMG Schweiz bezeichnet sich dort als «one of the first accredited certification body in Europe» für AIMS-Zertifizierungen. Die Katalogseite der ISO selbst beantwortet automatisierte Abrufe mit HTTP 403 und ist deshalb nicht als abgerufene Quelle geführt. Beide Seiten abgerufen am 24. August 2026.
- Quelle der Fristen: Verordnung (EU) 2026/1744 (Digital Omnibus zur künstlichen Intelligenz), in Kraft seit 27. Juli 2026 — sie ändert die Verordnung (EU) 2024/1689 und verschiebt die Hochrisiko-Pflichten auf den 2. Dezember 2027 (eigenständige Systeme nach Anhang III) beziehungsweise den 2. August 2028 (Anhang I in Verbindung mit Artikel 6 Absatz 1). Artikel 5, die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck und Artikel 50 bleiben unverändert. Abgerufen am 24. August 2026.
- Bundesgesetz über den Datenschutz (DSG), SR 235.1, Stand 7. Juli 2025 — abgerufen am 24. August 2026.
- EDÖB, «Geltendes Datenschutzgesetz ist auf KI direkt anwendbar» (09.11.2023) — abgerufen am 24. August 2026.
