EU AI Act – welche Auswirkungen hat die Verordnung auf Unternehmen

Was ist der EU AI Act?

Habt ihr euch im Unternehmen schon mit Künstlicher Intelligenz beschäftigt? Dann wisst ihr bestimmt, dass der Einsatz von KI große Chancen, aber auch das ein oder andere Risiko birgt. Um die Chancen zu fördern und die Verbreitung von KI-Technologien zu regulieren, entstand der EU AI Act. 

Die Hoffnung: Die Entwicklung und der Umgang mit Künstlicher Intelligenz möge in der Zukunft verantwortungsbewusst geschehen. Daher gilt die EU-KI-Verordnung nicht nur für Unternehmen innerhalb der EU, sondern auch für internationale Firmen, die Produkte und Dienstleistungen auf den europäischen Markt bringen möchten oder schon am europäischen Markt mit ihren Produkten vertreten sind. 

Ziel der EU-KI-Verordnung

Ganz trocken erklärt: Der EU AI Act ist ein umfangreiches Gesetzeswerk, das in mehreren Kapiteln die Regeln und Anforderungen für den Einsatz von KI-Technologien regelt. Unternehmen also eine Übersicht bietet, was mit KI erlaubt ist und was nicht.

Einfach gesagt, umfasst es:

• Allgemeine Bestimmungen
• Detaillierte Vorschriften zur Marktüberwachung und Durchsetzung
• Schwerpunkte wie Sicherheit und Transparenz
• Klassifizierung und Regulierung von Hochrisiko-KI-Systemen

‍

Wen betrifft die Verordnung?

‍Unternehmen, Entwickler sowie Entwicklerinnen, Behörden und öffentliche Einrichtungen, die KI-Systeme einsetzen oder anbieten. Demnach ist für Unternehmen Achtsamkeit geboten, wenn Mitarbeitende etwa am Arbeitsplatz KI-Tools anwenden oder wenn Kunden sowie Kundinnen auf irgendeine Weise mit KI direkt interagieren, zum Beispiel über einen Chatbot auf der Website. 

Prüft im ersten Schritt, in welchen Bereichen Künstliche Intelligenz bei euch zum Einsatz kommt und im nächsten Schritt, welche Anforderungen damit einhergehen. Gegebenenfalls solltet ihr dafür externe Hilfe zurate ziehen.

‍

Klassifizierung von KI-Systemen im EU AI ACT

Wie risikoreich sind die KI-Systeme, die im Unternehmen eingesetzt werden? Das ist die zentrale Frage des EU AI Acts. KI-Systeme werden basierend auf ihrem Risiko in Klassen eingeteilt, mit welchen unterschiedliche Anforderungen an die KI einhergehen. Damit möchte man erreichen, dass Unternehmen sich ihrer technologischen Verantwortung bewusst werden. 

Das EU-KI-Gesetz unterscheidet hauptsächlich zwischen zwei Kategorien:

• Verbotene Praktiken im KI-Bereich (Kapitel II)
  Dazu zählen Systeme, die ein erhebliches Risiko für die Gesellschaft oder Einzelperson darstellen – solche zur Manipulation oder sozialen Bewertung.
  
  Das sind unter anderem KI-Tools, welche die Macht haben, Fake-Content zu erstellen, um deren Verbreitern einen Vorteil zu verschaffen. Sei es gesellschaftlich oder kommerziell. Man denke nur an Fake-News über Politiker. 

• Hochrisiko-KI-Systeme (Kapitel III)
  Systeme in Bereichen wie Biometrie, Bildung, kritische Infrastruktur, Strafverfolgung und Grenzkontrolle fallen unter diesen Punkt. Es gelten strenge regulatorische Anforderungen. 
  
  Als konkrete Beispiele kann man hier autonome Fahrzeuge oder medizinische Geräte nennen, aber auch Gesichtserkennung, mit der man vorherrschende Emotionen feststellen kann – man denke nur an die Auswirkungen, die es hätte, wenn zum Beispiel am Arbeitsplatz erkannt würde, welche Emotionen sich in verschiedenen Interaktionen zeigen.

‍

Mehr Transparenz durch den EU AI Act

Für KI-Systeme mit überschaubarem Risiko gibt es ebenfalls Regelungen. Jedoch halten sich deren Anforderungen in Grenzen. Ihr Risiko kann allein durch eine erhöhte Transparenz vermindert werden. Diese Regelung betrifft vor allem KI-Tools, die Bilder, Videos oder Stimmen produzieren. Sie stellen zwar eine potenzielle Gefahr dar, – weil man mit ihnen Deepfakes erstellen könnte – allerdings sind diese von Deepfakes zu unterscheiden, die menschliches Verhalten negativ manipulieren und gänzlich verboten sind.

‍

Deepfakes sind mit Künstlicher Intelligenz geschaffene Medieninhalte. Immer häufiger findet man sie auf Social Media und allgemein im Web. Sie haben die Macht, Fake-News zu verbreiten. Zukünftig muss deutlich gekennzeichnet sein, wenn Inhalte KI generiert wurden, um Fake-News zu minimieren.

Was ist mit der Transparenz häufig genutzter KI-Tools?

Die häufig genutzten KI-Tools ChatGPT, MidJourney und DALL-E zählen zu KI-Systemen mit begrenztem Risiko.  Transparenzpflichten, die für diese KI-Anwendungen anfallen, sind zum Beispiel:

• Offenlegung, dass der Inhalt durch KI generiert ist und
• dass Personen mit Künstlicher Intelligenz interagieren.

Vor allem Bilder, Audios und Videos stellen die größte Herausforderung dar.  Wenn diese Modelle Medieninhalte von realen Personen erzeugen, könnten sie als Deepfakes gelten – wenn diese das Potenzial haben, Personen negativ zu manipulieren. Wird ein Fantasiebild erstellt, greift diese Regelung jedoch nicht. 

Wichtig: Je nach Modell können sich die Anforderungen auch ändern. GPT-4 wird beispielsweise deutlich schärfer unter die Lupe genommen.

‍

Die wichtigsten Bestimmungen des EU AI Acts

Die EU-KI-Verordnung ist neuartig und wird mit großer Wahrscheinlichkeit um weitere Bestimmungen wachsen. Doch schon jetzt gibt es einige Regelungen, die ihr im Unternehmen kennen solltet. 

Verbotene Praktiken und Systeme

Um die Gesellschaft zu schützen, gibt es einige KI-Praktiken, die ausdrücklich in der europäischen KI-Verordnung verboten sind. Warum? Weil sie als unethisch oder potenziell gefährlich gelten. Dazu gehören:

• Technologien, die Menschen negativ manipulieren könnten
• KI-Systeme, die soziale Bewertungen durchführen
• Bestimmte Anwendungen, die Gesichter und Verhaltensweisen analysieren

Unternehmen, die bereits vergleichbare Systeme entwickelt haben, müssen in den sauren Apfel beißen. Für sie heißt es, diese anzupassen oder ihre Entwicklung einzustellen. Dies wird erhebliche Auswirkungen auf bestimmte Branchen haben – es bleibt spannend, wie diese Unternehmen mit dem europäischen KI-Gesetz umgehen werden. 

‍

Anforderungen an Hochrisiko-KI-Systeme durch die europäische KI-Verordnung

An Hochrisiko-KI-Systeme stellt der EU AI Act hohe Anforderungen. Anbieter müssen sicherstellen, dass die Systeme diese erfüllen, bevor sie in Verkehr gebracht werden. Transparenz ist auch bei diesen Systemen stark gefragt, denn man möchte den Nutzen und die Folgen der Anwendungen abschätzen können.

Wichtige Pflichten sind:

• Transparenz der Funktionsweise
• Sicherheits- und Qualitätsmanagement
• Dokumentation und Protokollierung der Entwicklung und Updates
• Konformitätsbewertung
• CE-Kennzeichnung
• Registrierung in einer Online-Datenbank

Zum besseren Verständnis hier einige Beispiele für die Anforderungen an Hochrisiko-KI-Systeme:

Transparenz

Ein Unternehmen, das eine KI zur Kreditbewertung nutzt, muss offenlegen, wie die Künstliche Intelligenz die Kreditwürdigkeit bewertet. Zum Beispiel, ob es das Zahlungsverhalten oder vorherige Kreditausfälle berücksichtigt. So wird sichergestellt, dass die Betroffenen verstehen, wie Entscheidungen getroffen werden.​
Goodwin Law, LawNow

Sicherheits- und Qualitätsmanagement

Ein Krankenhaus, das KI für medizinische Diagnosen verwendet, muss Sicherheitsmaßnahmen ergreifen, wie regelmäßige Tests, um sicherzustellen, dass die KI korrekte Diagnosen stellt. (Goodwin Law)

Dokumentation und Protokollierung

Ein Hersteller von selbstfahrenden Autos muss alle Updates und Entscheidungen der KI dokumentieren, um nachvollziehen zu können, wie das Fahrzeug unter verschiedenen Bedingungen funktioniert. Dies stellt die Rückverfolgbarkeit sicher​. (LawNow)

Konformitätsbewertung

Bevor ein KI-System mit hohem Risiko, wie z. B. Gesichtserkennung, auf den Markt gebracht wird, muss es durch eine Konformitätsbewertung überprüft werden. Dies kann durch Dritte oder interne Prüfungen geschehen. (LawNow)

CE-Kennzeichnung

Nachdem das KI-System die Konformitätsbewertung bestanden hat, kann ein Unternehmen, das beispielsweise einen KI-gesteuerten Roboter für Operationen herstellt, die CE-Kennzeichnung anbringen. Dies zeigt, dass das Produkt den EU-Vorschriften entspricht.​ (LawNow)

Registrierung

Ein Hersteller von KI-gestützten medizinischen Geräten muss sein Produkt in der EU-Datenbank registrieren. Dadurch können die Behörden überwachen, ob es den Richtlinien entspricht und barrierefrei zugänglich ist.​ (LawNow)

Artikel 4 des EU AI Acts – KI-Kenntnisse schulen

Artikel 4 der europäischen KI-Verordnung legt fest, dass Anbieter und Betreiber von KI-Systemen sicherstellen müssen, dass ihre Mitarbeitenden wissen, wie sie Künstliche Intelligenz richtig anwenden. Dafür müssen Kenntnisse und Fähigkeiten im Umgang mit KI eingehend geschult werden.

Unter Kenntnisse und Fähigkeiten fallen:

• Technisches Wissen
• Praktische Erfahrung
• Schulungen, die auf die spezifische Anwendung von KI zugeschnitten sind
• Verständnis für ethische und sicherheitsrelevante Risiken und Chancen von KI

Warum ist dies von vergleichbar großer Bedeutung? Der Gesetzgeber stellt so sicher, dass KI-Systeme nicht von unqualifizierten Anwendern und Anwenderinnen missinterpretiert oder missbraucht werden könnten. 

Wo Unwissenheit herrscht, entstehen leicht Fehler. Daher müssen alle Anbieter sowie Anwender und Anwenderinnen, die Künstliche Intelligenz in ihrer täglichen Arbeit einsetzen, verpflichtend für Aus- und Weiterbildungen sorgen – damit KI zukünftig sicher und effizient eingesetzt wird.

Wer ist von Artikel 4 des EU AI Acts betroffen?

Welche Unternehmensgröße vom EU AI Act betroffen ist, ist noch unklar. Der Gesetzestext spricht von der Pflicht, „Maßnahmen zu ergreifen, um im bestmöglichen Umfang sicherzustellen“ – was offenlässt, was genau mit diesen Maßnahmen gemeint ist und wie dieser „bestmögliche Umfang“ definiert wird.

Es wird erwartet, dass große Organisationen umfangreiche interne Schulungsprogramme anbieten müssen, um sicherzustellen, dass ihr Personal und alle, die mit KI-Systemen arbeiten, ein hohes Maß an KI-Kompetenz besitzen. Je größer das Unternehmen, desto größer ist die Wahrscheinlichkeit, dass jemand KI einsetzt.

Für kleinere Unternehmen werden diese Schulungen aufgrund begrenzter Ressourcen schwieriger umzusetzen sein, dennoch wird auch von ihnen erwartet, zumindest ein grundlegendes Verständnis für KI zu vermitteln – wenn sie KI-Lösungen einsetzen. Um den Anschluss zu behalten, wird es langfristig nicht möglich sein, den Einsatz von Künstlicher Intelligenz auszuschließen.

Unabhängig von der Unternehmensgröße wird daher jedem Unternehmen ans Herz gelegt, Mitarbeitende in Bezug auf KI zu schulen, insbesondere im Hinblick auf Sicherheits- und Ethik-Risiken. 

‍

Sucht ihr im Unternehmen nach Weiterbildungen im Bereich KI? 

Mytalents.ai ist die richtige Anlaufstelle. Über 100 Kurse und mehr als 4000 Lerninhalte bieten praxisnahe, kompakte Schulungen für Mitarbeiter und Mitarbeiterinnen zu KI-Themen. Die Kurse sind speziell auf einzelne Bereiche, wie Finanzen, Marketing, Einkauf, Management, IT und Vertrieb zugeschnitten. 

Praxisorientierte Beispiele und Einführungen in KI-Anwendungen wie ChatGPT und Microsoft Copilot vermitteln ein klares Verständnis für technische Grundlagen, Datenschutz, IT-Sicherheit und ethische Fragen. Regelmäßige Updates und neue Kurse gewährleisten, dass die Lerninhalte immer auf dem neuesten Stand der KI-Entwicklung sind.

‍

Wann muss das neue EU-KI-Gesetz umgesetzt werden?

Mit der Veröffentlichung im Amtsblatt der Europäischen Union am 12. Juli 2024 trat der AI Act am 2. August 2024 in Kraft. Die offizielle Frist, bis zu der das Personal geschult sein muss, ist der 2. Februar 2025. Ab diesem Zeitpunkt könnten Unternehmen bestraft werden, falls Mitarbeitende durch den unsachgemäßen Einsatz von KI Schaden verursachen.

KI-Schulungen sind auch für Anbieter und Anwender sowie Anwenderinnen von nicht hochriskanten KI-Systemen relevant. Daher sollte jedes Unternehmen rechtzeitig Maßnahmen ergreifen, um Mitarbeitende im Umgang mit Künstlicher Intelligenz zu schulen.

‍

Bereiche der KI-Schulung

Um die Anforderungen von Artikel 4 zu erfüllen, sollten Unternehmen folgende Schulungs-Bereiche abdecken:

1. Technisches Wissen

KI-Grundlagen: Funktionsweise von Machine Learning und neuronalen Netzen

Datenverarbeitung: Bedeutung von Trainingsdaten und deren Einfluss auf KI-Modelle

KI-Limitationen: Verständnis für Konzepte wie Halluzinationen (falsche KI generierte Informationen) und Bias in KI-Systemen

2. Praktische Erfahrung

‍Anwendung von KI-Systemen in spezifischen Fachbereichen und Abteilungen.

3. Ethik und Sicherheit:

Deepfake-Erkennung: Identifizierung von KI-generierten Bildern, Videos und Audios

Datenschutz: Umgang mit sensiblen Daten in KI-Systemen

Ethische Entscheidungsfindung: Bewertung der Auswirkungen von KI-Entscheidungen

Regelmäßiges Training und maßgeschneiderte Programme sind entscheidend, um eine sichere Nutzung von KI zu gewährleisten. 

mytalents.ai bietet genau zu den oben angeführten Punkten aktuelle Inhalte, wie zum Beispiel unseren Einstiegskurs Large Language Models oder Kurse zu Datenschutz und KI. mytalents.ai hat außerdem Kurse für spezielle Fachbereiche, wie Marketing, Vertrieb, Finanzen, Einkauf und vieles mehr. Damit jede Abteilung des Unternehmens weiß, worauf sie im Umgang mit KI achten muss.

Wie müssen diese KI-Schulungen umgesetzt werden?

Da sich Künstliche Intelligenz rasch weiterentwickelt, ist es für Unternehmen entscheidend, ihre Mitarbeitenden regelmäßig zu schulen. Dies betrifft sowohl technisches Personal als auch Endnutzer und -nutzerinnen.

Konkrete Maßnahmen können sein:

• Online-Lernplattformen
• Anwendungsorientierte E-Learning-Kurse
• Schulungen durch interne oder externe Experten
• Workshops
• Spezielle Weiterbildungsprogramme

‍

Herausforderungen des neuen EU-KI-Gesetzes für KMUs

Es stellt sich die Frage: Wie sollen kleine und mittlere Unternehmen (KMUs) die Schulung ihrer Mitarbeitenden stemmen? Immerhin sind dafür reichlich Ressourcen und geeignete Fachkräfte nötig. Je nach Branche und Anwendungskontext kann es zudem zu spezifischen Anforderungen kommen, die maßgeschneiderte Schulungen erfordern. 

Mytalents.ai bietet für kleine und mittlere Unternehmen branchenspezifische Kurse zu KI-Themen, wie Finanzen, IT und Marketing. Dies umfasst die praxisnahe Einführung in KI-Anwendungen, technische Grundlagen, Datenschutz und ethische Aspekte. Die Kurse werden regelmäßig aktualisiert, um neueste Entwicklungen abzudecken.

Langfristige Auswirkungen des EU AI Acts

Mit dem Aufkommen der KI ging es viel um Risiken und Chancen für Arbeitnehmende. Wer wird seinen Job verlieren und welche Bereiche gewinnen an Relevanz? Klar ist, durch den Einsatz von KI wird sich der Arbeitsmarkt verändern. Dies muss jedoch nicht unbedingt mit Angst einhergehen. Bestimmte Positionen werden an Bedeutung zunehmen, wie zum Beispiel Entwickler und Entwicklerinnen oder AI Operations Experts, die die Implementierung von KI im Arbeitsalltag vorantreiben.

Gleichzeitig könnten manche Jobs zwar an Relevanz verlieren, dies heißt jedoch nicht, dass die Arbeitnehmenden nicht mehr von Bedeutung sind. Wer seine KI-Skills weiterentwickelt und effizient mit KI arbeitet sowie als Kontrollinstanz fungieren kann, wird auch zukünftig seine Relevanz behalten. Denn am Ende braucht es immer das geschulte Auge, das einen letzten Blick auf die Arbeit der Künstlichen Intelligenz wirft.

Unternehmen, die ihre Mitarbeitenden schulen und fördern, werden langfristig wettbewerbsfähig bleiben und noch effizienter arbeiten. Daher ist die Weiterbildung im Bereich der Künstlichen Intelligenz für alle Instanzen wichtig.

Der EU AI Act hat allerdings auch einen bitteren Beigeschmack. So wichtig wie der überlegte und sichere Einsatz von Künstlicher Intelligenz auch ist, verhindert die EU-KI-Verordnung gleichzeitig, dass Europa Zugang zu innovativen KI-Systemen erhält. Viele KI-Anbieter kommen nicht nach Europa. Wir haben noch keinen Zugriff auf Top-Video-Modelle, wie Sora von OpenAI oder Veo2 von Google. Auch die Produkte Apple Intelligence oder KI-Systeme von Facebook und Instagram bleiben uns verwehrt.

Auf lange Frist gesehen kann dies eine erhebliche Auswirkung auf die Wirtschaftsfähigkeit europäischer Unternehmen haben. Europa verliert den Anschluss, weil die Produktivitätssteigerung durch KI-Systeme in anderen Teilen der Welt in Europa nicht proportional aufgeholt werden kann.

‍

Interne Schulungsprogramme zur Förderung von KI-Kenntnissen

Der Aufbau interner Schulungsprogramme für KI-Kenntnisse ist essenziell, um Mitarbeiter und Mitarbeiterinnen auf den verantwortungsvollen Einsatz von KI vorzubereiten. Im Fokus: nicht nur technische Fähigkeiten, sondern auch ethische Fragestellungen.

Dafür empfehlen sich zwei Schulungen, um die unterschiedlichen Bedürfnisse der Belegschaft zu berücksichtigen:

‍

Grundlegende KI-Kompetenzen (Basic AI Skills)

Alles beginnt mit den Grundlagen. Wer KI versteht, kann bewusste Entscheidungen im Umgang damit treffen. Mitarbeitende erhalten ein Verständnis darüber: Was ist KI? Welche ethischen Grundsätze sind zu berücksichtigen? Wie wird Künstliche Intelligenz zukünftig in der Organisation genutzt? Kritisches Denken, Fakten-Prüfung und ein reflektierter Umgang werden geschult. 

Die gesamte Organisation erhält ein grundlegendes Verständnis davon, wie Künstliche Intelligenz eingesetzt wird und was der technologische Wandel für die Organisation bedeutet. So agieren alle vom selben Wissensstand aus.

‍

Rollen-spezifische Schulung (Role-Specific Training)

Jede Unternehmens-Abteilung ist mit anderen Anforderungen hinsichtlich KI konfrontiert. Durch gezielte Ausbildungspfade macht man die einzelnen Abteilungen des Unternehmens KI-fit. So lernen Mitarbeitende effizient und zeitsparend mit den entsprechenden KI-Anwendungen umzugehen. Dieser Ansatz ist idealerweise auf die individuellen Ziele der jeweiligen Abteilung oder Rolle abgestimmt und hilft den Mitarbeitenden, KI-gestützte Prozesse aktiv zu gestalten und optimal zu nutzen.

Durch die Kombination der beiden Schulungen können Unternehmen sicherstellen, dass ihre Mitarbeiter und Mitarbeiterinnen sowohl über ein solides Basiswissen als auch über die spezifischen Fertigkeiten verfügen, die für den Einsatz von Künstlicher Intelligenz in ihrem Arbeitsbereich erforderlich sind.

‍

mytalents.ai Angebot für KI-Schulungen und -Weiterbildungen

Eine Möglichkeit für Unternehmen, ihre Mitarbeiter und Mitarbeiterinnen gezielt im Bereich KI weiterzubilden, bietet mytalents.ai:

• Über 100 Kurse und mehr als 4000 Lerninhalte zu verschiedenen KI-Themen
• Praxisnahe Anwendungsfälle für einzelne Unternehmensbereiche, wie Finanzen, Marketing, Einkauf, Management, IT, Vertrieb etc.
• Einführungen in gängige KI-Anwendungen, wie ChatGPT, Microsoft Copilot und/oder eigenentwickelte GPT-Lösungen
• Umfassende Schulungen zu technischen Grundlagen, Datenschutz, IT-Sicherheit, ethischen Fragen der KI-Nutzung sowie Erkennung von KI-generierten Inhalten
• Regelmäßige Updates, um am neuesten Stand der KI-Entwicklung zu bleiben

‍

Viele Kunden und Kundinnen setzen das erlernte Wissen aus unseren praxisnahen Kursen bereits erfolgreich im Arbeitsalltag ein. Ein Beispiel dafür ist das Unternehmen TCG UNITECH – führend in der Leichtmetall- und Kunststoffindustrie. Durch die Zusammenarbeit mit mytalents.ai konnte TCG UNITECH gezielt die KI-Kompetenz der Mitarbeitenden stärken, Arbeitsprozesse optimieren und für erhöhte Effizienz in den Abteilungen sorgen – insbesondere durch die Verwendung von generativen KI-Tools, wie ChatGPT und Microsoft Copilot. 

Link zur Case Study: mytalents.ai

‍