KI-Governance: Chancen nutzen, Risiken minimieren

Die Integration von Künstlicher Intelligenz (KI) in Unternehmensprozesse bietet immense Chancen, stellt jedoch auch erhebliche rechtliche und ethische Herausforderungen dar. Mit dem Inkrafttreten der EU-KI-Verordnung (AI Act) sind Unternehmen schon ab dem 2. Februar 2025 sukzessive verpflichtet, spezifische Anforderungen aus der Verordnung zu erfüllen, um den verantwortungsvollen Einsatz von KI-Systemen sicherzustellen.

Verpflichtungen aus der EU-KI-Verordnung

Die Verordnung verfolgt einen risikobasierten Ansatz, der je nach Gefährdungspotenzial unterschiedliche Pflichten für Unternehmen vorsieht. Besonders für Anbieter und Betreiber (ausreichend für eine Betreibereigenschaft ist bereits die Verwendung von KI innerhalb eines Unternehmens) von Hochrisiko-KI-Systemen ergeben sich umfangreiche Anforderungen, darunter:

• Risikomanagement: Implementierung eines Systems zur Identifizierung und Minderung potenzieller Risiken.
• Transparenz: Sicherstellung, dass Nutzer:innen erkennen können, wenn sie mit einem KI-System interagieren, einschließlich der Kennzeichnung von KI-generierten Inhalten.
• Datenschutz: Einhaltung der Datenschutz-Grundverordnung (DSGVO) durch geeignete technische und organisatorische Maßnahmen.
• Dokumentation: Führung detaillierter technischer Unterlagen und Protokolle zur Nachverfolgbarkeit von Entscheidungen des KI-Systems.

Aufbau von KI-Kompetenz im Unternehmen

Eine zentrale Anforderung der EU-KI-Verordnung ist die Sicherstellung eines ausreichenden Maßes an KI-Kompetenz innerhalb des Unternehmens. Dies umfasst:

• Technisches Verständnis: Kenntnisse über die Funktionsweise und Entwicklung von KI-Systemen.
• Rechtliche und ethische Aspekte: Bewusstsein für gesetzliche Vorgaben und ethische Implikationen beim Einsatz von KI.
• Risikobewusstsein: Fähigkeit, potenzielle gesellschaftliche und datenschutzrechtliche Risiken zu erkennen und zu bewerten.

Der Bedarf an spezifischer KI-Kompetenz variiert je nach Rolle der Mitarbeitenden und dem Einsatzbereich der KI-Technologie. Eine individuelle Bedarfsanalyse ist daher unerlässlich.

In unserem Blogbeitrag zur KI-Kompetenz und dem Webinar zur KI-Kompetenz (Aufzeichnung) gehen wir vertieft auf dieses wichtige Thema ein.

Alle aktuellen Entwicklungen zur KI-Verordnung haben Sie mit unserem Newsletter im Blick.

Strategien zur erfolgreichen Umsetzung von KI-Governance

Die EU-KI-Verordnung stellt Unternehmen vor die Herausforderung, ihre Rolle und die rechtlichen Anforderungen präzise einzuordnen. Jedes Unternehmen muss die Antworten kennen auf Fragen wie: Handelt es sich bei der eingesetzten Technologie um ein „KI-System“ im Sinne der EU-KI-Verordnung? Welche Rolle nimmt Ihr Unternehmen ein – ist es Betreiber von bestehenden KI-Systemen oder selbst Anbieter? In welche Risikoklasse fallen die verschiedenen KI-Systeme? Und vor allem: Welche spezifischen Pflichten ergeben sich aus alledem? Häufig bedarf es dazu einer rechtlichen Abklärung.

Ein KI-Governance-Projekt lässt sich beispielhaft in folgenden Schritten darstellen:

1. Evaluierung bestehender und geplanter KI-Anwendungen: Durchführung einer umfassenden Bestandsaufnahme aller KI-Systeme, einschließlich ihrer Einsatzzwecke und -bereiche, technischen Funktionsweisen und rechtlichen Rahmenbedingungen. Ziel ist es, eine transparente Grundlage für die weitere Risikoanalyse zu schaffen.
2. Risikoklassifizierung: Einteilung der KI-Anwendungen in Risikoklassen (z. B. gering, begrenzt, hoch) basierend auf den Vorgaben der EU-KI-Verordnung. Dies ermöglicht eine gezielte Priorisierung von Maßnahmen zur Risikominderung, insbesondere bei Hochrisiko-KI-Systemen.
3. Stärkung der interdisziplinären Zusammenarbeit: Förderung der Zusammenarbeit zwischen IT, Recht, Datenschutz und weiteren relevanten Fachbereichen. Ein interdisziplinäres Gremium kann helfen, Einsatzbereiche frühzeitig zu identifizieren und gemeinsam Lösungen für einen rechtmäßigen Einsatz zu entwickeln.
4. Entwicklung interner Richtlinien: Erstellung unternehmensspezifischer Richtlinien für den Einsatz von KI. Diese sollten klare Vorgaben für ethische Standards, Datenschutz, Urheberrecht und Transparenz enthalten. Ein besonderer Fokus liegt auf der Verantwortungszuweisung bei der Nutzung und Entwicklung von KI-Systemen.
5. Schulung und Sensibilisierung: Design und Durchführung maßgeschneiderter Trainingsprogramme für unterschiedliche Unternehmensbereiche. Führungskräfte und relevante Fachbereiche erhalten vertiefte Einblicke in strategische und regulatorische Aspekte, während Mitarbeitende auf operativer Ebene in dem sicheren Umgang mit KI-Systemen geschult werden.
6. Implementierung von Kontrollsystemen: Einrichtung interner Mechanismen zur kontinuierlichen Überwachung der KI-Systeme. Dies umfasst Audits, die regelmäßige Überprüfung von Algorithmen auf Fairness und Diskriminierungsfreiheit sowie die Einrichtung von Beschwerdemechanismen für Mitarbeitende und Kunden.
7. Technologiepartnerschaften: Zusammenarbeit mit externen Technologieexperten oder Technologieanbietern, die über spezifisches Wissen zur sicheren technischen Implementierung und Überwachung von KI verfügen. Dies kann insbesondere bei komplexen Systemen oder hochspezialisierten Anwendungen sinnvoll sein.
8. Kontinuierliche Anpassung an regulatorische Entwicklungen: Da der Rechtsrahmen für KI dynamisch ist, sollten Unternehmen sicherstellen, dass ihre Richtlinien und Kontrollsysteme regelmäßig aktualisiert werden, um neuen Anforderungen gerecht zu werden.

Sie brauchen rechtliche Unterstützung beim Einsatz von KI-Systemen in Ihrem Unternehmen? Melden Sie sich gerne hier.

Fazit

Die Implementierung einer effektiven KI-Governance ist entscheidend, um die Vorteile von Künstlicher Intelligenz zu nutzen und gleichzeitig rechtliche und ethische Standards einzuhalten. Durch Klarheit in Bezug auf die eigenen Pflichten, den Aufbau von KI-Kompetenz, die Entwicklung passgenauer Richtlinien und die Etablierung interner Kontrollsysteme können Unternehmen den Anforderungen der EU-KI-Verordnung gerecht werden und ihre Innovationsfähigkeit nachhaltig sichern.

Für eine individuelle Beratung und Unterstützung bei der Umsetzung von KI-Governance stehen wir Ihnen gerne zur Verfügung.