In den letzten Monaten wurde der AI-Act von der EU immer stärker voran getrieben und soll europäischen Unternehmen einen sicheren Rahmen geben, um KI im Alltag einsetzen zu können. Doch was bedeutet das für Unternehmen, die KI als Endanwender einsetzen wollen?
Darum geht es in diesem Artikel.

Was ist der AI-Act und warum wurde er eingeführt?

Der AI-Act ist eine Verordnung der Europäischen Union zur Regulierung der künstlichen Intelligenz (KI) in der Europäischen Union. Er zielt darauf ab, einen gemeinsamen regulatorischen und rechtlichen Rahmen für KI zu schaffen.

Der AI-Act wurde eingeführt, um klare Grenzen für den Einsatz von KI zu setzen, insbesondere um die Gefahr von KI-Anwendungen zu verringern, die gegen die Menschenrechte verstoßen oder Vorurteile aufrechterhalten. Dies betrifft beispielsweise das Scannen von Lebensläufen mit geschlechtsspezifischen Vorurteilen, die allgegenwärtige Überwachung des öffentlichen Raums durch KI-gesteuerte Kameras oder die Analyse medizinischer Daten, die sich auf die Krankenversicherung auswirkt. Der AI-Act soll auch sicherstellen, dass fundamentale Rechte, Demokratie, Rechtsstaatlichkeit und Umweltschutz vor KI mit hohem Risiko geschützt werden, während gleichzeitig die Innovation gefördert wird, um Europa zu einem führenden Standort auf diesem Gebiet zu machen.

Unternehmen, die KI-Systeme einer bestimmten Risikokategorie einsetzen oder vertreiben, müssen bestimmte Maßnahmen gemäß des AI-Acts umsetzen. Es wird ein risikobasierter Ansatz zur Regulierung von KI verfolgt, wobei KI-Systeme nach bestimmten Kriterien in verschiedene Risikokategorien eingeordnet werden. Zudem wird eine zweijährige Frist nach der Annahme des AI-Act gewährt, um die genannten Vorgaben zu erfüllen.

Bedeutung des AI-Act für europäische Unternehmen als Hersteller von KI-Systemen

Der AI-Act gilt grundsätzlich sowohl für Hersteller als auch für Unternehmen, die KI im Alltag einsetzen wollen. Abhängig von der Risikobewertung eines solchen KI-Systems müssen strengere oder weniger strengere Sicherheitsanforderungen berücksichtigt werden.

Verpflichtungen und Compliance:

  • Unternehmen müssen bestehende Compliance-Strukturen und bewährte Praktiken im Bereich des maschinellen Lernens nutzen, um die Anforderungen der Verordnung zu erfüllen
  • Die frühzeitige Implementierung einer ganzheitlichen KI-Governance kann Unternehmen einen Wettbewerbsvorteil in Bezug auf Markteinführungszeiten und die Qualität von KI-Systemen mit hohem Risiko verschaffen

Rechte und Verantwortlichkeiten:

  • EU-Bürger erhalten das Recht, Beschwerden über KI-Systeme einzureichen und Erklärungen zu erhalten, wenn sie von KI-Systemen mit hohem Risiko betroffen sind und diese Systeme ihre Rechte beeinträchtigen
  • Unternehmen sollten die Fähigkeit, Qualität, Compliance und Skalierung von KI-Systemen miteinander verbinden, um erfolgreich KI auf dem europäischen Markt einzusetzen, insbesondere gegenüber Wettbewerbern in Asien und den USA

Auswirkungen auf Unternehmen als Endanwender von KI

Für viele unserer Endkunden, die selbst keine Anbieter von KI-Systemen, sondern Nutzer sind, stellt sich die Frage, wie der AI-Act den Einsatz von KI in Ihrem Unternehmen beeinflusst.

Die konkreten Anforderungen ergeben sich primär aus der Einstufung der Risikoklasse der Anwendung. Setzen Unternehmen ein System ein, welches bspw. automatisch Lebensläufe in der Personalabteilung bewerten und vorsortieren soll, dann muss transparent sein, mit welchen Daten das bewertende KI-Modell trainiert wurde. Die Endanwender müssen nämlich wissen, welche Vorurteile eine KI möglicherweise hat (bspw. in Richtung Diskriminierung).

Die konkreten Pflichten sind (Stand Mai 2024) noch nicht final verabschiedet, bewegen sich jedoch in dem folgenden Rahmen:

  • Die Einrichtung, Dokumentation und Aufrechthaltung eines Risikomanagementsystems.
  • Das Einhalten von Daten-Governance- und Datenverwaltungsverfahren für die zu verwendenden Trainings-, Validierungs- und Testdatensätze, darunter relevante Datenaufbereitungsvorgänge wie Kommentierung, Kennzeichnung, Bereinigung, Anreicherung und Aggregierung und eine vorherige Bewertung der Verfügbarkeit, Menge und Eignung der benötigten Datensätze.
  • Das Führen einer technischen Dokumentation.
  • Die Aufsichtsführung durch menschliches Personal.
  • Eine Aufzeichnungspflicht über die Vorgänge und Ereignisse, sodass diese automatisch während des gesamten Lebenszyklus der KI aufgezeichnet werden.
  • Transparente Informationen für die Nutzenden, darunter die Merkmale, Fähigkeiten und Leistungsgrenzen des Hochrisiko-KI-Systems.
  • Cybersicherheit.

Pflichten beim Einsatz von amberSearch

Der Einsatz von amberSearch bleibt relativ unberührt von den aufwendigen Pflichten, da der Einsatz von amberSearch ein minimales Risiko darstellt. amberSearch wird als Assistenzsystem von Mitarbeitenden verwendet. Als solches trifft es keine Eigenständigen Entscheidungen, sondern assistiert lediglich dem Mitarbeitenden bei der Erfüllung seiner Aufgabe. Durch die Veröffentlichung bestimmter KI-Modelle sowie deren Trainingsdatensätze, einer Dokumentation und bspw. der Berücksichtigung der DSGVO kommen wir den Anforderungen für Enterprise Search Systeme wie amberSearch nach.

Damit jeder amberSearch einmal ausprobieren kann, haben wir in unserer Onlinedemo eine mittlere sechsstellige Anzahl an Dokumenten auf über 10 Systeme verteilt:

Chancen und Herausforderungen für Unternehmen

Mit der Einführung des AI-Acts gehen verschiedene Chancen und Herausforderungen einher, die wir im Folgenden kurz nennen:

Chancen:

  • Förderung von Innovation und Wettbewerbsfähigkeit durch regulatorische Sandkästen, in denen Unternehmen innovative KI-Lösungen unter Aufsicht testen können
  • Stärkung von Transparenz und Vertrauen, da der Act Transparenzanforderungen für KI-Systeme einführt, was insbesondere für KMUs hilfreich ist
  • Etablierung globaler Standards, die europäischen Unternehmen helfen, international wettbewerbsfähig zu bleiben

Herausforderungen:

  • Umfangreiche administrative Anforderungen wie effektives Risikomanagement, Qualitätssicherung und proaktive Information, die vor allem für Start-ups und KMUs eine Hürde darstellen können
  • Unsicherheiten durch unspezifische Formulierungen im Gesetz und mögliche Sanktionen
  • Hohe Kosten für die operative und technische Umsetzung der Regulierungsanforderungen
  • Strengere Regulierung generativer KI-Modelle, die europäische Unternehmen unverhältnismäßig belasten und Innovationen behindern könnten

Welche der Chancen und Herausforderungen letztendlich welchen Einfluss haben werden, dass wird die finale Umsetzung des AI-Acts sowie die Reaktion des Marktes nach einiger Zeit zeigen.

Kritik am AI-Act

Auch wenn der AI-Act im Kern einen guten Willen hat und die Sicherheit von KI-Anwendungen fördert, schränkt er andererseits auch die Innovationsfähigkeit europäischer Unternehmen ein. Die Aufwände zur Prüfung, Zertifizierung, Dokumentation etc. kosten Ressourcen, die die Entwicklung neuer Innovationen verlangsamen. Dies kann dazu führen, dass europäische Unternehmen im Vergleich zu amerikanischen Anbietern Boden verlieren.

Ausblick

Aktuell steht der AI-Act noch ganz am Anfang und die konkrete Umsetzung wird noch folgen. Im Laufe der Zeit wird sicherlich einerseits der AI-Act, andererseits aber auch die notwendige Regulierung etc. angepasst werden. Aktuell gilt es für Anbieter und Nutzende transparent mit den Technologien und Lösungen umzugehen, um so Vertrauen zu schaffen und gemeinsam Wissen aufzubauen.

Du findest unseren Content spannend?

Dann bleib jetzt über unseren Newsletter mit uns in Kontakt: