Die Arbeit mit künstlicher Intelligenz erfordert den Schutz der Grundrechte. Das EU-Parlament hat dazu den AI-Act verabschiedet. Wir informieren über die Hintergründe und Folgen der KI-Verordnung.
Was ist der European AI-Act?
Der European AI-Act ist ein regulatorischer Rahmen, der darauf abzielt, die Entwicklung und den Einsatz von Künstlicher Intelligenz (KI) innerhalb der Europäischen Union zu steuern und zu kontrollieren. Hier sind die zentralen Ziele des AI-Act:
- Schutz der Grundrechte: Sicherstellung, dass KI-Systeme die Grundrechte der Menschen respektieren.
- Sicherheitsvorkehrungen: Vermeidung von Risiken und Schäden, die durch den Einsatz von KI entstehen könnten.
- Förderung von Innovation: Schaffung eines Umfelds, das Innovationen im Bereich der KI unterstützt, während gleichzeitig die Risiken minimiert werden.
Aktueller Stand der europäischen KI-Verordnung
Der AI-Act wurde im Mai 2024 durch den Europäischen Rat verabschiedet und befindet sich aktuell in der Übergangsphase. In dieser Phase haben die Mitgliedstaaten Zeit, den Act in nationales Recht umzusetzen und die notwendigen Strukturen für die Einhaltung und Überwachung der neuen Vorschriften zu schaffen. So wird sichergestellt, dass Unternehmen und Aufsichtsbehörden ausreichend Zeit haben, sich auf die neuen Anforderungen vorzubereiten und diese ordnungsgemäß zu implementieren. Erst nach Ablauf dieser 24 Monate werden alle Bestimmungen des AI-Act verbindlich.
Was sind eigentlich KI-Systeme?
Ein KI-System ist eine Software, die maschinelle Lernverfahren, logikbasierte und wissensbasierte Ansätze verwendet, um für einen bestimmten klar definierten Zweck Inhalte zu erzeugen, Vorhersagen zu treffen, Empfehlungen abzugeben oder Entscheidungen zu unterstützen, die die realen oder virtuellen Umgebungen beeinflussen können.
- Maschinelles Lernen: Dies umfasst überwachte, unüberwachte und verstärkende Lerntechniken, bei denen Systeme aus Daten lernen, Muster erkennen und ihre Leistung im Laufe der Zeit verbessern können.
- Logikbasierte Ansätze: Dazu gehören Systeme, die auf formaler Logik basieren, wie etwa regelbasierte Systeme und Expertensysteme.
- Wissensbasierte Ansätze: Diese Systeme nutzen vorab definierte Wissensstrukturen wie Ontologien und Wissensgraphen, um Schlussfolgerungen zu ziehen und Probleme zu lösen.
- Zweckgebunden: Ein KI-System ist darauf ausgelegt, spezifische Aufgaben zu erfüllen, wie z. B. Bilderkennung, Sprachverarbeitung oder Entscheidungsunterstützung.
- Einfluss auf Umgebungen: Ein KI-System kann reale oder virtuelle Umgebungen beeinflussen, indem es autonome Handlungen durchführt oder Empfehlungen und Vorhersagen bereitstellt, die menschliche Entscheidungen leiten.
Die Risikostufen des AI-Act?
Der AI-Act kategorisiert KI-Systeme in vier Risikostufen:
1. Inakzeptables Risiko -> Verboten
KI-Systeme, die ein unannehmbares Risiko darstellen, sind verboten. Dazu gehören Anwendungen, die:
- Manipulative Techniken einsetzen, die das Verhalten, die Meinung oder die Entscheidungen von Menschen unterbewusst beeinflussen.
- Systeme, die soziale Bewertung (Social Scoring) durch Behörden zur Massenüberwachung betreiben.
2. Hohes Risiko -> Strenge Anforderungen
Hochrisiko-KI-Systeme sind erlaubt, müssen aber strenge Anforderungen erfüllen.
- Biometrische Identifizierung und Kategorisierung von Personen in Echtzeit und nachträglich.
- Systeme, die in kritischen Infrastrukturen wie Transport, Energie und Wasserversorgung eingesetzt werden.
- Anwendungen in Bildungs- und Berufsbereichen, wie z. B. KI-gestützte Einstellungsverfahren.
- Systeme, die in Sicherheitskomponenten von Produkten verwendet werden, wie etwa in medizinischen Geräten.
3. Begrenztes Risiko -> Transparenzanforderungen
KI-Systeme mit begrenztem Risiko unterliegen spezifischen Transparenzanforderungen. Nutzer müssen darüber informiert werden, dass sie mit einem KI-System interagieren.
- Chatbots und virtuelle Assistenten
- KI-generierte Inhalte, wie etwa Deepfakes oder synthetische Medien
4. Minimales Risiko -> keine besonderen Anforderungen
KI-Systeme mit minimalem Risiko unterliegen keinen besonderen regulatorischen Anforderungen. Die meisten KI-Systeme fallen in diese Kategorie.
- Spamfilter
- Videospiel-KI
- KI-gestützte Rechtschreib- und Grammatikprüfungen
Einflüsse des AI-Acts auf den europäischen KI-Markt
Die Konsequenzen können erst in ein paar Jahren vollständig bewertet werden. Basierend auf Erfahrungen mit ähnlichen Regelwerken wie der DSGVO können jedoch einige Hypothesen abgeleitet werden:
Eher Positive Aspekte
- Förderung von Vertrauen und Akzeptanz:
- Verbraucherschutz: Durch strenge Vorschriften wird das Vertrauen der Verbraucher in KI-Systeme gestärkt, was die Akzeptanz und Nutzung von KI-Lösungen erhöhen kann.
- Transparenz: Klare Transparenzanforderungen ermöglichen es Unternehmen, Vertrauen aufzubauen und ihre Kunden besser zu informieren.
- Innovationsanreize:
- Förderung von Best Practices: Der AI-Act ermutigt Unternehmen zur Implementierung von Best Practices und zur Entwicklung qualitativ hochwertiger, sicherer und ethisch vertretbarer KI-Lösungen.
- Klare Rahmenbedingungen: Ein einheitlicher Rechtsrahmen innerhalb der EU erleichtert es Unternehmen, grenzüberschreitend zu arbeiten und neue Märkte zu erschließen.
- Wettbewerbsfähigkeit der EU:
- Vorreiterrolle: Unternehmen in der EU können von der Vorreiterrolle der EU im Bereich der KI-Regulierung profitieren, was ihre internationale Wettbewerbsfähigkeit stärkt.
- Harmonisierung der Standards: Ein einheitliches Regelwerk erleichtert den grenzüberschreitenden Handel und die Zusammenarbeit innerhalb der EU.
- Schutz der Grundrechte:
- Ethische Standards: Unternehmen, die den AI-Act einhalten, tragen dazu bei, die Grundrechte der Bürger zu schützen, was positive Auswirkungen auf das Unternehmensimage haben kann.
- Verbesserte Regulierung: Durch eine effektive Überwachung und Durchsetzung der Vorschriften wird ein fairer Wettbewerb gefördert.
- Langfristige Vorteile:
- Nachhaltige Entwicklung: Der AI-Act fördert die nachhaltige und verantwortungsvolle Entwicklung von KI-Technologien.
- Marktvorteile: Unternehmen, die die Vorschriften erfüllen, können sich als vertrauenswürdige Anbieter positionieren und dadurch Marktanteile gewinnen.
Eher Negative Aspekte
- Bürokratischer Aufwand und Compliance-Kosten:
- Kosten: Die Einhaltung der neuen Vorschriften kann besonders für kleinere Unternehmen und Start-ups kostspielig sein, da sie möglicherweise erhebliche Ressourcen für Risikobewertungen, Transparenzmaßnahmen und Überwachung aufwenden müssen.
- Bürokratie: Der zusätzliche Verwaltungsaufwand kann die Agilität und Flexibilität von Unternehmen beeinträchtigen.
- Anpassung bestehender Systeme:
- Nachrüstung: Unternehmen müssen möglicherweise bestehende KI-Systeme anpassen oder neu gestalten, um den Anforderungen des AI-Act zu entsprechen, was zeit- und kostenintensiv sein kann.
- Technische Herausforderungen: Die technischen Anforderungen des AI-Act können komplex sein und spezielle Expertise erfordern.
- Wettbewerbsdruck:
- Ungleiche Bedingungen: Unternehmen außerhalb der EU, die nicht den gleichen strengen Vorschriften unterliegen, könnten einen Wettbewerbsvorteil haben, was den Druck auf EU-Unternehmen erhöht. Das gilt natürlich insbesondere für die Marktteilnehmer aus den USA, die bereits heute einer weniger restriktiven Regulierung unterliegen und über größere finanzielle Ressourcen verfügen.
- Marktbarrieren: Die strengen Vorschriften könnten den Markteintritt für kleinere Unternehmen und Start-ups erschweren.
Fazit: KI-Systeme sicher nutzen, erfordert Anpassungen
Der European AI-Act kann ein bedeutender Schritt in Richtung einer sicheren und ethisch verantwortungsvollen Nutzung von Künstlicher Intelligenz sein. Durch die Kombination von strengen Vorschriften und Innovationsförderung könnte er ein Umfeld schaffen, das sowohl den Schutz der Bürgerrechte als auch die Wettbewerbsfähigkeit der EU fördert.
Unternehmen stehen vor der Herausforderung, die Anforderungen des AI-Acts zu erfüllen. Dazu gehören umfassende Dokumentationspflichten, Transparenzanforderungen und die Gewährleistung menschlicher Aufsicht bei KI-Systemen mit hohem Risiko. Diese Anforderungen erfordern Anpassungen bestehender Prozesse und möglicherweise zusätzliche Investitionen.
Für Unternehmen außerhalb der EU, die weniger strengen Regulierungen unterliegen, könnte dies zunächst als Vorteil erscheinen. Doch EU-Unternehmen, die sich an den AI-Act halten, positionieren sich als Vorreiter in der sicheren und verantwortungsvollen KI-Nutzung, was langfristig ihre Marktposition stärken kann.
Entscheidungsträger sollten den AI-Act als Chance sehen, sich als vertrauenswürdige Akteurinnen in einem regulierten Markt zu etablieren und sich gleichzeitig auf die globale Konkurrenz vorzubereiten. Proaktive Maßnahmen und Best Practices in der KI-Entwicklung und -Nutzung werden entscheidend sein, um die Herausforderungen des AI-Act zu meistern und die damit verbundenen Chancen zu nutzen.
Datum: 11.06.2024
Bild erstellt mit Unterstützung von ChatGPT, einem KI-Modell von OpenAI, im Juni 2024
Autor
Andreas Nehls
Andreas unterstützt die Neofonie Gruppe seit März 2024 als Account Manager. Aus den Gesprächen mit aktuellen und potenziellen Kunden sowie Veranstaltungen rund um die Themen KI, Digitalisierung, Projektmanagement und Innovation ergeben sich immer wieder spannende Themen, über die er hier schreibt. Dabei liegt der Fokus weniger auf technischen Details, sondern vielmehr auf den geschäftlichen, rechtlichen und regulatorischen Aspekten.