AI Act und Yacht-Industrie

Der AI Act, auch bekannt als der Künstliche-Intelligenz-Gesetz, ist ein umfassender rechtlicher Rahmen, der die Nutzung von KI-Systemen in der Europäischen Union regulieren soll.

Ich habe eine Reihe von Antworten auf wichtige Fragen zusammengestellt, die jedes Unternehmen, auch in der Yacht-Branche treffen.

Wann greift der neue AI Act in Unternehmen?

Zeitlicher, örtlicher und sachlicher Anwendungsbereich:

• Zeitlicher Anwendungsbereich: Der AI Act wird nach seiner endgültigen Verabschiedung und einer Übergangsphase von voraussichtlich zwei Jahren anwendbar. Unternehmen sollten diese Zeit nutzen, um sich auf die neuen Anforderungen vorzubereiten.
• Örtlicher Anwendungsbereich: Der AI Act gilt für alle KI-Systeme, die innerhalb der EU in Verkehr gebracht werden oder deren Nutzung Auswirkungen auf Personen innerhalb der EU hat, unabhängig davon, ob die Anbieter innerhalb oder außerhalb der EU ansässig sind.
• Sachlicher Anwendungsbereich: Der AI Act unterscheidet zwischen “normaler” Software und KI-Systemen. Ein KI-System ist definiert als Software, die maschinelles Lernen, logik- und wissensbasierte Ansätze oder statistische Ansätze verwendet, um menschliche kognitive Fähigkeiten zu simulieren.

Einordnung von KI-Systemen in unterschiedliche Risikogruppen:

Der AI Act kategorisiert KI-Systeme in vier Risikogruppen:

1. Unacceptable Risk: KI-Systeme, die als inakzeptabel riskant gelten, sind verboten (z.B. Social Scoring durch Behörden).
2. High Risk: KI-Systeme mit hohem Risiko unterliegen strengen Anforderungen (z.B. biometrische Identifizierung).
3. Limited Risk: KI-Systeme mit begrenztem Risiko müssen Transparenzanforderungen erfüllen (z.B. Chatbots).
4. Minimal Risk: KI-Systeme mit minimalem Risiko unterliegen keinen spezifischen Anforderungen (z.B. Videospiele).

Einstufungsvorschriften für Hochrisiko-KI-Systeme:

Hochrisiko-KI-Systeme umfassen u.a.:

• Biometrische Identifikations- und Kategorisierungssysteme.
• Kritische Infrastrukturen, die das Leben und die Gesundheit von Menschen betreffen.
• Bildung und berufliche Ausbildung, die über den Zugang zu Bildung und beruflicher Entwicklung entscheiden können.
• Arbeits-, Beschäftigungs- und Sozialschutzmanagement.

Welche Pflichten bestehen nach dem AI Act?

Wer ist Anbieter, Importeur, Händler, Betreiber?

• Anbieter: Derjenige, der ein KI-System in der EU in Verkehr bringt oder in Betrieb nimmt.
• Importeur: Derjenige, der ein KI-System aus einem Drittland in die EU einführt.
• Händler: Derjenige, der ein KI-System auf dem Markt bereitstellt.
• Betreiber: Derjenige, der ein KI-System betreibt oder an Dritte weitergibt.

Pflichten entlang der KI-Wertschöpfungskette:

• Anbieter: Konformitätsbewertungen durchführen, technische Dokumentationen erstellen, Risiko- und Qualitätsmanagementsysteme einführen.
• Importeur: Sicherstellen, dass der Anbieter die Anforderungen erfüllt, Prüfungen und Kontrollen durchführen.
• Händler: Überprüfen, dass das KI-System die CE-Kennzeichnung trägt und die erforderlichen Unterlagen vorliegen.
• Betreiber: Kontinuierliches Monitoring, sicherer Betrieb des KI-Systems, Meldung von Vorfällen und Störungen.

Konformitätsbewertungsverfahren:

Für Hochrisiko-KI-Systeme ist eine Konformitätsbewertung erforderlich, die Folgendes umfassen kann:

• Interne Kontrollverfahren.
• Beteiligung benannter Stellen für Zertifizierungen.
• Erstellung und Pflege technischer Dokumentationen.

Wie können Unternehmen diese Pflichten erfüllen?

AI Governance: Organisatorische Vorkehrungen im Unternehmen:

• Einrichtung eines AI-Governance-Frameworks.
• Bestimmung von Verantwortlichen für die Einhaltung des AI Act.
• Schulungen und Sensibilisierung der Mitarbeiter.

Risiko- und Qualitätsmanagement:

• Implementierung eines Risikomanagementsystems zur Identifizierung, Bewertung und Kontrolle von Risiken.
• Einführung von Qualitätsmanagementprozessen zur Sicherstellung der Konformität und Sicherheit der KI-Systeme.

Compliance Tools:

• Nutzung von Compliance-Software zur Dokumentation und Nachverfolgung von Anforderungen.
• Regelmäßige Audits und Überprüfungen der KI-Systeme.

Worauf müssen Berater achten?

Implementierung des AI Act in den nächsten Monaten:

• Unternehmen bei der Umsetzung des AI Act unterstützen.
• Anpassung bestehender Prozesse und Systeme an die neuen Anforderungen.

Zusammenspiel des AI Act mit anderen Rechtsakten:

• Berücksichtigung anderer relevanter EU-Rechtsakte, wie der DSGVO, um Überschneidungen und Widersprüche zu vermeiden.

Wie können Unternehmen hohe Bußgelder und Haftungsfallen vermeiden?

Dokumentationspflichten:

• Sorgfältige Erstellung und Pflege der technischen Dokumentationen und Aufzeichnungen über Konformitätsbewertungen.

Post-Market Monitoring:

• Einführung eines Systems zur Überwachung und Meldung von Vorfällen nach dem Inverkehrbringen.

Haftung für KI-Systeme und Strategien zur Haftungsvermeidung:

• Abschluss von Haftpflichtversicherungen.
• Regelmäßige Überprüfung und Aktualisierung der KI-Systeme zur Sicherstellung der fortlaufenden Konformität.

Diese umfassenden Antworten sollten Ihnen einen detaillierten Überblick über den AI Act und seine Auswirkungen auf Unternehmen geben.

Für spezifische rechtliche Beratung stehen wir gerne zur Verfügung!