AI Automation und Ethik — Verantwortungsvoller KI-Einsatz

Einleitung: Ethik als Geschäftsimperativ, nicht Buzzword

Ethik in KI-Systemen ist nicht länger optional oder "nice to have". Sie ist ein Geschäftsimperativ. Warum?

1. Rechtlich: EU AI Act (in Kraft seit 1. August 2024; Transparenzpflichten nach Artikel 50 seit 2. August 2026, Hochrisiko-Pflichten ab 2. Dezember 2027 beziehungsweise 2. August 2028) verpflichtet zu ethischer KI
2. Wirtschaftlich: Ethik-Skandale schaden der Reputation und damit dem Umsatz
3. Operativ: Ethische Systeme sind länger haltbar und weniger anfällig für Kritik
4. Talent: Top-Talente wollen ethisch arbeiten

Diese Seite erklärt die ethischen Anforderungen an AI Automation — nicht als Hindernis, sondern als Chance, Systeme zu bauen, die funktionieren UND verantwortet sind.

---

Warum Ethik bei AI Automation wichtig ist

Die Konsequenzen unethischer KI (typisierte Fallmuster aus der Beratungspraxis — keine Kundenprojekte, keine benannten Betriebe):

1. Diskriminierungsfälle

• Fall: Ein Kreditvergabe-Algorithmus bevorteilte systemisch junge, männliche Antragsteller
• Konsequenz: Klage, Entschädigungszahlungen, Reputationsschaden, Regulierung
• Root Cause: Training-Daten waren verzerrt (historisch unfaire Entscheidungen)

2. Überwachungs-Systeme

• Fall: Employee-Monitoring-AI überwachte zu intensiv, Mitarbeiter-Burnout erhöhte sich
• Konsequenz: Mitarbeiterfluktuation, interne Skandale, Arbeitnehmer-Anwälte eingeschaltet
• Root Cause: Keine ethische Abwägung: Privacy vs. Produktivität

3. Automatisierte Entlassungen

• Fall: HR-System empfahl automatisch Entlassungen basierend auf KI-Scores
• Konsequenz: Arbeitsgerichte, Schadenersatz, Medien-Shitstorm
• Root Cause: Keine Human Review, keine Transparenz

4. Datenschutzverletzungen

• Fall: AI-System brauchte persönliche Daten, verarbeitete aber auch sensible Daten ohne Zustimmung
• Konsequenz: Bussen nach Artikel 83 Absatz 5 DSGVO — bis zu 20 Millionen EUR oder 4 % des gesamten weltweit erzielten Jahresumsatzes des vorangegangenen Geschäftsjahrs, je nachdem, welcher Betrag höher ist
• Root Cause: Unzureichende Datenschutz-by-Design

Quelle der DSGVO-Bussgeldangaben: Verordnung (EU) 2016/679 (DSGVO), Artikel 83 — Absatz 5 nennt «bis zu 20 000 000 EUR oder im Fall eines Unternehmens von bis zu 4 % seines gesamten weltweit erzielten Jahresumsatzes des vorangegangenen Geschäftsjahrs», Absatz 4 die tiefere Stufe von 10 000 000 EUR oder 2 %; massgeblich ist jeweils der höhere Betrag. Abgerufen am 23. August 2026.

Was all diese Fälle gemeinsam haben: Unternehmen dachten, sie könnten Ethik ignorieren. Sie konnten nicht.

---

Die vier Säulen ethischer KI: Fairness, Transparenz, Accountability, Privacy

Säule 1: Fairness (Unvoreingenommenheit)

Definition: Das System behandelt alle Nutzer fair, unabhängig von geschützten Merkmalen (Geschlecht, Rasse, Alter, etc.)

Praktische Anforderung:

• Kreditvergabe-System: Schwarze und weisse Antragsteller sollten ähnliche Approval-Raten haben
• Bewerbungs-AI: Frauen und Männer sollten ähnliche Chancen haben
• Preisgestaltungs-AI: Verschiedene Kundengruppen sollten nicht unfair diskriminiert werden

Wie man Fairness testet:

1. Daten analysieren: Zeigt das Trainings-Dataset Bias? (etwa ein stark überwiegend männlicher Datenbestand)
2. Ergebnisse testen: Sind Output-Raten für Gruppen unterschiedlich?
3. Aussenseiter-Perspektive: Betroffene Gruppen überprüfen lassen

Lösungen:

• Training-Daten balancieren (nicht nur historische, unfaire Daten nutzen)
• Fairness-Metriken in Modell-Training einbauen
• Regelmässig Audits durchführen

---

Säule 2: Transparenz (Nachvollziehbarkeit)

Definition: Menschen können verstehen, wie und warum ein KI-System eine Entscheidung trifft.

Praktische Anforderung:

• Wenn AI "Antrag ablehnen" entscheidet → Begründung muss verständlich sein
• Wenn AI "Preis erhöhen" entscheidet → die Logik muss nachvollziehbar sein
• Wenn AI "Mitarbeiter bewerten" entscheidet → Kriterien müssen klar sein

Das Problem mit "Black Box" AI:

• Kunde fragt: "Warum wurde mein Antrag abgelehnt?"
• Unternehmen: "Das hat die KI entschieden, wir wissen nicht genau warum"
• Kunde: Klage

Wie man Transparenz sicherstellt:

1. Explainability-Tools nutzen: SHAP, LIME zeigen, welche Variablen das Ergebnis beeinflussen
2. Human-in-the-Loop: Menschen überprüfen kritische Entscheidungen
3. Dokumentation: Jede KI-Entscheidung wird geloggt mit Begründung
4. Audit Trails: Wer hat welche Entscheidung geprüft?

Regulatorische Anforderung: EU AI Act verlangt Transparenz für "High-Risk" Systems.

---

Säule 3: Accountability (Verantwortlichkeit)

Definition: Es ist klar, wer verantwortlich ist für KI-Entscheidungen.

Das Paradox: Wenn KI entscheidet, wer trägt die Verantwortung?

• Der Entwickler? ("Ich habe nur den Code geschrieben")
• Das Unternehmen? ("Die KI hat entschieden, nicht wir")
• Der Endnutzer/Mitarbeiter? ("Ich folge nur dem System")

Ethische & legale Antwort: Das Unternehmen trägt die Verantwortung. KI ist ein Werkzeug, nicht ein Akteur.

Praktische Implementation:

1. Governance: Klare Verantwortlichkeiten (Wer kontrolliert die KI? Wer handelt?)
2. Human Review: Kritische Entscheidungen müssen von Menschen geprüft werden
3. Eskalations-Pfade: "Wenn KI unsicher ist, eskaliere zu Mensch"
4. Haftung: Klar dokumentieren, wer haftbar ist

Beispiel: Eine Kündigungs-Entscheidung darf nicht allein von der KI getroffen werden. Die finale Entscheidung bleibt bei HR und Management.

---

Säule 4: Privacy (Datenschutz)

Definition: Persönliche Daten werden geschützt und nicht missbraucht.

Praktische Anforderung:

• KI-Modelle trainieren nur mit notwendigen Daten
• Sensible Daten (Medizin, Finanz, Biometrisch) besonders geschützt
• Recht auf Erklärung: User können fragen, welche Daten über sie genutzt werden
• Recht auf Vergessenwerden: User können Löschung verlangen

Häufige Privacy-Probleme:

• KI braucht Kundendaten für Training → Können Kunden das verweigern?
• KI speichert vertrauliche Konversationen → Wie lange?
• KI nutzt externe APIs → Daten gehen in die Cloud → Datenschutz-Risiko

Lösungen:

1. Privacy-by-Design: Daten-Minimierung von Anfang an
2. Encryption: Sensitive Daten verschlüsselt speichern und verarbeiten
3. Lokale Modelle: Wenn möglich, KI lokal trainieren, nicht in der Cloud
4. Einwilligungsverwaltung: eindeutige Einwilligung für die Datennutzung

---

Bias in AI-Systemen — Das unterschätzte Risiko

Was ist Bias?

Bias ist eine systematische Voreingenommenheit, die zu unfairen Ergebnissen führt. Es gibt verschiedene Arten:

1. Data Bias

Problem: Trainings-Daten spiegeln historische Ungerechtigkeit wider

Beispiel:

• Stellenausschreibungs-Dataset: historisch wurden überwiegend Männer eingestellt
• Modell lernt: "Männer sind bessere Mitarbeiter"
• Neue Frauen-Bewerberin: KI diskriminiert sie

Wie erkennen: Data Audit (Demografie-Verteilung prüfen)

2. Algorithmic Bias

Problem: Das Modell-Training selbst erzeugt Bias

Beispiel:

• Loss Function optimiert für "gesamte Accuracy"
• Aber für Minderheits-Gruppen ist Accuracy schlecht
• Resultat: Minderheiten werden falsch klassifiziert

Wie erkennen: Performance-Metriken nach Gruppe prüfen (nicht nur Overall Accuracy)

3. Representational Bias

Problem: Bestimmte Gruppen sind im Training-Dataset unterrepräsentiert

Beispiel:

• Bilderkennungs-System überwiegend mit Bildern von hellhäutigen Menschen trainiert
• Performance für dunkelhäutige Menschen ist schlecht
• Dokumentierter Fall: Die Bilderkennung von Google Photos versah 2015 Fotos Schwarzer Menschen fälschlich mit dem Schlagwort «Gorilla»; Google entschuldigte sich und entfernte das Schlagwort (CBC News, 2. Juli 2015)

Wie erkennen: Dataset-Demografie analysieren

4. Measurement Bias

Problem: Die Metrik selbst ist verzerrt

Beispiel:

• Nutze "historische Verkaufsquoten" für Sales-Potential-Vorhersage
• Aber Sales-Quoten waren für Frauen/Minderheiten niedrig → nicht weil sie schlechter sind, sondern weil sie diskriminiert wurden
• KI perpetuiert diesen Bias

---

Der EU AI Act — Was Schweizer Unternehmen wissen müssen

Zeitplan:

• Dezember 2023: Politische Einigung im Trilog — noch kein geltendes Recht
• 13. Juni 2024: Verabschiedung als Verordnung (EU) 2024/1689; Veröffentlichung im Amtsblatt am 12. Juli 2024
• 1. August 2024: Inkrafttreten
• 2. Februar 2025: Verbote nach Artikel 5 und die KI-Kompetenz-Pflicht anwendbar
• 2. August 2025: Regeln zu KI-Modellen mit allgemeinem Verwendungszweck, Governance und Sanktionen anwendbar
• 27. Juli 2026: Die Verordnung (EU) 2026/1744 («Digital Omnibus») tritt in Kraft und verschiebt die Hochrisiko-Fristen
• 2. August 2026: Übriger Verordnungstext anwendbar, darunter die Transparenzpflichten nach Artikel 50
• 2. Dezember 2027: Hochrisiko-Pflichten für eigenständige Systeme nach Anhang III — verschoben vom 2. August 2026
• 2. August 2028: Hochrisiko-Pflichten für KI in bereits regulierten Produkten (Anhang I in Verbindung mit Artikel 6 Absatz 1) — verschoben vom 2. August 2027

Geltungsbereich:

• Territorial: Alle Systeme in der EU / auch wenn Entwickler/Anbieter nicht in EU sitzt (extraterritoriale Wirkung)
• Für Schweiz: Unternehmen, die in EU verkaufen oder EU-Daten verarbeiten = relevant
• Praxis: Wie viele Schweizer KMU davon tatsächlich erfasst sind, ist uns nicht belegt bekannt — eine Quote nennen wir deshalb nicht

Risk-Kategorisierung:

Die EU kategorisiert KI-Systeme in Risk-Levels:

1. Prohibited Risk (Verboten)

- Beispiele nach Artikel 5: manipulative oder unterschwellige Techniken, Ausnutzen von Schutzbedürftigkeit, Social Scoring, Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum zu Strafverfolgungszwecken - Nicht verboten: die Kreditwürdigkeitsprüfung — sie steht in Anhang III und ist damit hochriskant, nicht untersagt - Konsequenz: Nicht erlaubt, auch nicht mit Governance - Bussen: bis zu 35 Millionen EUR oder 7 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist (Art. 99 Abs. 3)

1. High-Risk

- Beispiele: Bewerbungs-Systeme, Kreditalgorithmen, Sicherheits-Klassifikation - Anforderungen: Hohe Transparenz, Testing, Dokumentation, Human Review - Bussen: bis zu 15 Millionen EUR oder 3 % des weltweiten Jahresumsatzes (Art. 99 Abs. 4 — dieselbe Stufe wie alle Verstösse ausserhalb der verbotenen Praktiken)

1. Limited-Risk

- Beispiele: Chatbots, Recommender Systems - Anforderungen: Transparenz-Offenlegung (z. B. "Das ist ein Chatbot") - Bussen: bis zu 15 Millionen EUR oder 3 % des weltweiten Jahresumsatzes (Art. 99 Abs. 4)

Quelle der Bussgeld- und Fristangaben: Verordnung (EU) 2024/1689 (EU AI Act), Artikel 5, 99 und 113 sowie Anhang III. Der Verordnungstext auf EUR-Lex liess sich beim Abruf nicht als Volltext ausliefern; als erreichbare Fundstelle dient die Artikelfassung im AI Act Explorer: Artikel 99 nennt im Wortlaut «bis zu 35 000 000 EUR oder, wenn es sich bei dem Zuwiderhandelnden um ein Unternehmen handelt, von bis zu 7 % seines gesamten weltweiten Jahresumsatzes» (Abs. 3), «bis zu 15 000 000 EUR … bis zu 3 %» (Abs. 4) und «bis zu 7 500 000 EUR … bis zu 1 %» (Abs. 5); massgeblich ist jeweils der höhere Betrag. Artikel 113 nennt die ursprünglichen Fristen (allgemeine Anwendbarkeit ab 2. August 2026, Artikel 6 Absatz 1 ab 2. August 2027). Massgeblich für die Hochrisiko-Stichtage ist heute die Verordnung (EU) 2026/1744 (Digital Omnibus zur künstlichen Intelligenz), in Kraft seit 27. Juli 2026: Sie verschiebt die Hochrisiko-Pflichten auf den 2. Dezember 2027 (eigenständige Systeme nach Anhang III) und den 2. August 2028 (Anhang I in Verbindung mit Artikel 6 Absatz 1) und lässt Artikel 5, die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck und Artikel 50 unverändert. Anhang III führt die Kreditwürdigkeitsprüfung als Hochrisiko-Anwendung auf. Abgerufen am 24. August 2026. Frühere Entwurfsfassungen nannten 30 Mio. EUR und 6 % — diese Werte sind überholt.

1. Minimal-Risk

- Beispiele: Spam-Filter, einfache Automatisierungen - Anforderungen: Minimal - Strafen: Keine

Für Schweizer KMU praktisch:

• Bewerbungs-AI? → High-Risk → Compliance nötig
• Kreditvergabe-AI? → High-Risk → Compliance nötig
• Chatbot? → Limited-Risk → Transparenz-Offenlegung nötig
• Rechnungsverarbeitung-AI? → Minimal-Risk → Wenig Anforderungen

Was High-Risk Compliance bedeutet:

• Risk Assessment durchführen
• Testing-Plan entwickeln (Bias Testing, Accuracy Testing)
• Documentation (Training Data, Model, Evaluation)
• Human Review implementieren
• Monitoring Setup
• Annual Audits

Kostenaspekt: High-Risk Compliance kostet nach unserer Einschätzung 50'000-200'000 CHF, abhängig von Komplexität — ein Richtwert aus eigener Einschätzung, keine erhobenen Marktdaten.

---

Responsible AI Frameworks — Von Governance bis Monitoring

Ein Responsible AI Framework hat typisch diese Komponenten:

1. AI Ethics Board

• Multidisziplinäres Team (Technologie, Ethik, Rechtswissenschaften, Betroffene Gruppen)
• Trifft sich monatlich
• Reviews neue AI-Projekte auf ethische Implikationen
• Definiert Policies

2. Risk Assessment

• Für jedes KI-Projekt: Systematisches Assessment
• Fragen: Wer könnte geschädigt werden? Wie? Wie wahrscheinlich?
• Risk-Score (Low, Medium, High)
• Mitigations-Plan

3. Bias Testing

• Testen auf Fairness nach Demographien
• Metriken: Equal Opportunity, Demographic Parity, etc.
• Auslöseschwelle: Weicht eine Fairness-Metrik zwischen zwei Gruppen um mehr als 5 Prozentpunkte ab, folgt ein Action Plan — eine Konvention aus eigener Praxis, kein regulatorischer Grenzwert; wer strenger prüfen muss, setzt sie tiefer an

4. Documentation

• Training Data: Herkunft, Grösse, Bias-Analysis, Limitations
• Model: Architektur, Features, Hyperparameter
• Evaluation: Test-Results, Fairness-Metriken, Edge Cases
• Deployment: Wer nutzt es? Wie wird es monitored?

5. Explainability

• Jede Entscheidung muss erklärbar sein
• Tools: SHAP, LIME für Feature Importance
• Output: "Diese Entscheidung basiert auf [Feature A, B, C] weil [Begründung]"

6. Human-in-the-Loop

• Kritische Entscheidungen müssen von Menschen geprüft werden (nicht alle)
• Schwelle definieren, etwa: «Ab einer finanziellen Auswirkung von 5'000 CHF ist eine menschliche Prüfung Pflicht» — die Höhe ist ein Beispiel aus eigener Praxis, keine regulatorische Vorgabe
• Eskalations-Pfad: "Wenn AI unsicher, eskaliere zu Mensch"

7. Continuous Monitoring

• KI läuft, aber driftet im Laufe der Zeit
• Monatliche Metriken: Accuracy, Fairness, Bias
• Alerts wenn Metriken degradieren
• Retraining-Plan wenn nötig

8. Incident Response

• Was tun, wenn KI-Fehler grosse Konsequenzen hat?
• Plan: Abschalt-Fähigkeit, Kommunikation, Remediation
• Post-Mortem: Was ist schiefgelaufen? Wie verhindern wir das?

---

Vertiefen Sie Ihr Wissen:

• AI Automation Grundlagen

Praktische Implementation — Ethische KI in der Praxis

Ein 6-Monats-Plan für ein Schweizer KMU:

Phase 1: Awareness & Assessment (Woche 1-4)

Aufgaben:

• Team-Workshop: Ethik in KI (4 Stunden)
• Alle KI-Projekte auflisten und Risk-Score zuweisen
• Identifizieren: Welche sind High-Risk?

Output:

• Liste aller KI-Systeme mit Risk-Kategorisierung
• Management-Buy-In für Ethik-Investitionen

Phase 2: Governance & Policies (Woche 5-12)

Aufgaben:

• AI Ethics Board etablieren
• Policies schreiben: Testing, Documentation, Human Review, Monitoring
• Review-Prozess definieren für neue Projekte

Output:

• Geschriebene Policies (10-20 Seiten)
• AI Ethics Board etabliert (monatliche Meetings)
• Template für AI Project Documentation

Phase 3: Backlog Remediation (Woche 13-20)

Aufgaben:

• Für jedes High-Risk System: Bias Testing durchführen
• Documentation für existierende Systeme schreiben (wo fehlend)
• Monitoring Setup

Output:

• Bias-Reports für alle High-Risk Systems
• Documentation für alle Systeme
• Monitoring Dashboards live

Phase 4: New Projects (Woche 21-26)

Anforderung:

• Alle neuen KI-Projekte müssen Ethical Governance folgen
• AI Ethics Board prüft neues Projekt vor Implementierung
• Bias Testing und Documentation im Plan

Output:

• Vollständige Ethik-Integration in Entwicklungs-Prozess

---

Governance, Policies & Corporate Culture

Erfolgreiche ethische KI braucht: Technologie + Governance + Kultur

Technologie

• Testing-Tools (Bias Detection)
• Monitoring-Tools (kontinuierliche Überwachung)
• Documentation-Tools (standardisierte Dokumentation)

Governance

• Policies & Standards
• Review-Prozesse
• Accountability (Wer entscheidet?)
• Compliance & Audit

Kultur

• Rückhalt der Geschäftsleitung («Die Geschäftsführung muss ethische KI zur Chefsache machen»)
• Ethik-Training für alle Entwickler
• Besprechung von Ethik-Fällen (Lernen aus Fehlern)
• Whistleblower-Prozess (Mitarbeiter können Bedenken äussern)

Häufiger Fehler: Technologie implementieren, aber Governance und Kultur ignorieren → schlägt fehl

Was gut aufgestellte Unternehmen gemeinsam haben (eigene Beobachtung, keine erhobene Marktstudie):

• Sie haben eine dedizierte Rolle «Responsible AI Officer»
• Ethik ist fester Bestandteil des Code Reviews
• Ethik-Schulungen sind für alle Entwicklerinnen und Entwickler obligatorisch
• Es herrscht eine Kultur, in der «das ist ethisch nicht vertretbar» ein zulässiger Einwand ist

---

Handlungsplan: Verantwortungsvolle AI Automation etablieren

Der konkrete 90-Tage-Plan:

Woche 1-2: Initiation

• Management-Alignment: Warum ist Ethik wichtig?
• Budget und Ressourcen klären: Für die vollständige High-Risk-Compliance rechnen wir mit geschätzt 50'000 bis 200'000 CHF (Richtwert aus eigener Einschätzung, keine erhobenen Marktdaten); welcher Anteil davon in den ersten 90 Tagen anfällt, hängt vom Umfang der Bestandsaufnahme ab
• Responsible AI Lead benennen (intern oder extern)

Woche 3-4: Assessment

• Alle KI-Systeme auflisten (Bestands-Aufnahme)
• Jedes System mit einem Risiko-Score versehen (hoch/mittel/tief)
• Bestimmen, welche Systeme überarbeitet werden müssen

Woche 5-6: Governance aufbauen

• AI Ethics Board etablieren (monatliche Meetings)
• Policies schreiben (Testing, Documentation, Human Review)
• Review-Prozess für neue Systeme definieren

Woche 7-10: Backlog Remediation starten

• High-Risk Systems first: Bias Testing, Documentation, Monitoring
• Beispiel: Bewerbungs-AI → Fairness-Audit durchführen
• Resultat dokumentieren

Woche 11-12: Training & Kultur

• Alle Entwickler: Ethics Training (4 Stunden)
• Kultur verankern ("Ethik ist unsere Verantwortung")
• Kommunizieren: Warum das wichtig ist

---

Zusammenfassung: Ethik ist nicht Kostenfaktor, sondern Vorteil

Ethische KI ist nicht "Kosten-Zentrum, das Compliance sichert". Sie ist ein Wettbewerbsvorteil.

Warum:

• Regulierung: Der EU AI Act gilt. Wer früh konform ist, hat später weniger Anpassungskosten
• Reputation: Ethische Unternehmens-KI ist Vertrauens-Signal
• Mitarbeiter: Top-Talente wollen ethisch arbeiten
• Kunden: Kundenvertrauen ist wichtig
• Rechtlich: Ethisch durchdachte Systeme haben weniger Klage-Risiko

Nächste Schritte:

1. Alle KI-Systeme auflisten und Risk-Score zuweisen
2. Responsible AI Lead benennen
3. AI Ethics Board etablieren
4. Policies schreiben
5. High-Risk-Systeme prüfen und nachbessern
6. Continuous Monitoring Setup

---

Häufig gestellte Fragen

Warum ist Ethik bei AI Automation für Unternehmen wichtig?

Ethik in KI-Systemen ist ein Geschäftsimperativ, kein "nice to have": Der EU AI Act verpflichtet rechtlich zu ethischer KI, Ethik-Skandale schaden der Reputation und damit dem Umsatz, und ethische Systeme sind länger haltbar sowie weniger anfällig für Kritik. Zudem haben ethisch durchdachte Systeme ein geringeres Klage-Risiko, und Top-Talente wollen ethisch arbeiten.

Was sind die vier Säulen ethischer KI?

Die vier Säulen sind Fairness, Transparenz, Accountability und Privacy. Fairness bedeutet, dass das System alle Nutzer unabhängig von geschützten Merkmalen wie Geschlecht oder Alter fair behandelt; Transparenz, dass Menschen verstehen können, wie und warum eine KI-Entscheidung zustande kommt; Accountability, dass das Unternehmen — nicht die KI — die Verantwortung trägt; und Privacy, dass persönliche Daten geschützt und nur im notwendigen Umfang genutzt werden.

Gilt der EU AI Act auch für Schweizer Unternehmen?

Ja, durch die extraterritoriale Wirkung: Der EU AI Act erfasst alle Systeme in der EU, auch wenn Entwickler oder Anbieter nicht in der EU sitzen. Schweizer Unternehmen sind betroffen, sobald sie in die EU verkaufen oder EU-Daten verarbeiten. Wie viele Schweizer KMU das in der Praxis trifft, ist uns nicht belegt bekannt — eine Zahl dazu nennen wir deshalb nicht. Die Bussen richten sich nach Artikel 99 der Verordnung: bis 35 Millionen EUR oder 7 Prozent des weltweiten Jahresumsatzes für verbotene Praktiken, bis 15 Millionen EUR oder 3 Prozent für alle übrigen Verstösse, wozu auch die Pflichten bei High-Risk-Systemen zählen.

Was kostet die Compliance für High-Risk-KI-Systeme?

High-Risk-Compliance nach EU AI Act kostet je nach Komplexität geschätzt 50'000 bis 200'000 CHF — ein Richtwert aus eigener Einschätzung, keine erhobenen Marktdaten. Dazu gehören ein Risk Assessment, ein Testing-Plan mit Bias- und Accuracy-Testing, Dokumentation von Trainingsdaten und Modell, Human Review, ein Monitoring-Setup sowie jährliche Audits. Als High-Risk gelten zum Beispiel Bewerbungs-Systeme und Kreditalgorithmen.

Wie erkennen Unternehmen Bias in ihren KI-Systemen?

Bias lässt sich über drei Prüfungen erkennen: ein Data Audit der Trainingsdaten (etwa ob die Demografie-Verteilung einseitig ist), der Vergleich von Performance-Metriken nach Gruppen statt nur der Gesamt-Accuracy sowie die Überprüfung durch betroffene Gruppen selbst. Unterschieden werden vier Arten: Data Bias, Algorithmic Bias, Representational Bias und Measurement Bias. Weicht eine Fairness-Metrik zwischen zwei Gruppen um mehr als 5 Prozentpunkte ab, folgt bei uns ein Action Plan — das ist eine Konvention aus eigener Praxis, kein regulatorischer Grenzwert.

---

Quellen

1. Quelle der DSGVO-Bussgeldangaben: Verordnung (EU) 2016/679 (DSGVO), Artikel 83 — Absatz 5 nennt «bis zu 20 000 000 EUR oder im Fall eines Unternehmens von bis zu 4 % seines gesamten weltweit erzielten Jahresumsatzes des vorangegangenen Geschäftsjahrs», Absatz 4 die tiefere Stufe von 10 000 000 EUR oder 2 %; massgeblich ist jeweils der höhere Betrag. Abgerufen am 23. August 2026.
2. Quelle der Bussgeld- und Fristangaben: Verordnung (EU) 2024/1689 (EU AI Act), Artikel 5, 99 und 113 sowie Anhang III. Der Verordnungstext auf EUR-Lex liess sich beim Abruf nicht als Volltext ausliefern; als erreichbare Fundstelle dient die Artikelfassung im AI Act Explorer: Artikel 99 nennt im Wortlaut «bis zu 35 000 000 EUR oder, wenn es sich bei dem Zuwiderhandelnden um ein Unternehmen handelt, von bis zu 7 % seines gesamten weltweiten Jahresumsatzes» (Abs. 3), «bis zu 15 000 000 EUR … bis zu 3 %» (Abs. 4) und «bis zu 7 500 000 EUR … bis zu 1 %» (Abs. 5); massgeblich ist jeweils der höhere Betrag. Artikel 113 nennt die ursprünglichen Fristen (allgemeine Anwendbarkeit ab 2. August 2026, Artikel 6 Absatz 1 ab 2. August 2027). Massgeblich für die Hochrisiko-Stichtage ist heute die Verordnung (EU) 2026/1744 (Digital Omnibus zur künstlichen Intelligenz), in Kraft seit 27. Juli 2026: Sie verschiebt die Hochrisiko-Pflichten auf den 2. Dezember 2027 (eigenständige Systeme nach Anhang III) und den 2. August 2028 (Anhang I in Verbindung mit Artikel 6 Absatz 1) und lässt Artikel 5, die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck und Artikel 50 unverändert. Anhang III führt die Kreditwürdigkeitsprüfung als Hochrisiko-Anwendung auf. Abgerufen am 24. August 2026. Frühere Entwurfsfassungen nannten 30 Mio. EUR und 6 % — diese Werte sind überholt.