Jahr: 2026

Der Splitblog im Februar: Alles, was Unternehmen jetzt zum EU-AI-Act wissen müssen

Seit August 2024 ist der EU-AI-Act in Kraft. Nun wurde ein aktueller Gesetzesentwurf für ein Durchführungsgesetz dazu beschlossen. Die Bundesnetzagentur soll die zentrale Anlaufstelle sein, um die EU-Vorgaben zur Künstlichen Intelligenz zu überwachen.

Der EU-AI-Act ist die erste umfassende gesetzliche Regelung für Künstliche Intelligenz weltweit. Er soll vertrauenswürdige KI in Europa fördern, Risiken minimieren und gleichzeitig Innovation ermöglichen. Für Unternehmen ist es entscheidend, die neuen Vorgaben zu verstehen und umzusetzen, um rechtliche Risiken zu vermeiden und Wettbewerbsvorteile zu sichern.

Was ist der EU-AI-Act?

Der EU-AI-Act ist ein Rahmenwerk, das KI-Systeme nach ihrem Risikopotenzial einstuft und entsprechende regulatorische Anforderungen definiert. Ziel ist es, die Sicherheit, Transparenz und Einhaltung grundlegender Rechte bei der Nutzung von KI zu gewährleisten.

Risikobasierter Ansatz und Kategorisierung von KI-Systemen

Der EU-AI-Act unterteilt KI-Systeme in vier Kategorien:

Unzulässiges Risiko (verboten)

Beispiele: Soziale Bewertungssysteme, Manipulation von Kindern, biometrische Kategorisierung nach sensiblen Merkmalen.

Regelung: Diese Systeme sind in der EU verboten.

Hohes Risiko

Beispiele: KI in medizinischen Geräten, Verkehrssystemen, Personalauswahl, Strafverfolgung.

Regelung: Strenge Anforderungen wie Risikomanagement, Datengovernance, technische Dokumentation und menschliche Überwachung.

Begrenztes Risiko

Beispiele: Chatbots, Deepfakes.

Regelung: Transparenzpflichten, z. B. Kennzeichnung von KI-generierten Inhalten.

Geringes/kein Risiko

Beispiele: Spam-Filter, KI in Videospielen.

Regelung: Keine zusätzlichen Pflichten, aber allgemeine Prinzipien wie Diskriminierungsfreiheit gelten.

Konformitätsanforderungen für Hochrisiko-KI-Systeme

Unternehmen, die Hochrisiko-KI-Systeme einsetzen, müssen folgende Anforderungen erfüllen:

• Risikomanagement: Durchgängige Risikobewertung und -minimierung.
• Datengovernance: Hochwertige, repräsentative und fehlerfreie Trainingsdaten.
• Technische Dokumentation: Nachweis der Konformität.
• Protkollierung: Automatisierte Aufzeichnung von Ereignissen für mindestens 10 Jahre.
• Transparenz: Klare Informationen über Fähigkeiten, Grenzen und Risiken.
• Menschliche Überwachung: Mechanismen zur Kontrolle der KI-Funktionen.
• Zertifizierung: Dritte müssen die Einhaltung der Vorschriften bestätigen.
• CE-Kennzeichnung: Nachweis der Konformität für den EU-Markt.

Schritte zur Umsetzung und Compliance

• Risikokategorie bestimmen

Nutzen Sie Tools wie den AI Act Compliance Checker, um die Einstufung Ihres KI-Systems zu prüfen.

• Risikobewertungen durchführen

Identifizieren Sie potenzielle Schäden und setzen Sie Maßnahmen zur Risikominderung um.

• Dokumentation erstellen

Führen Sie technische Unterlagen, Trainingsdaten und Compliance-Nachweise.

• Menschliche Überwachung implementieren

Stellen Sie sicher, dass KI-Systeme von Menschen kontrolliert und überwacht werden.

• Transparenzpflichten erfüllen

Informieren Sie Nutzer über KI-generierte Inhalte und Systemgrenzen.

• Regulatorische Sandbox nutzen

Testen Sie KI-Systeme in kontrollierten Umgebungen, um Compliance sicherzustellen.

• Auf Aktualisierungen achten

Der EU-AI-Act wird weiter verfeinert, z. B. durch vereinfachte Umsetzungsvorschriften.

Umsetzungstermine und Strafen bei Nichteinhaltung

• Februar 2025: Verbotene Praktiken und AI-Literacy-Pflichten treten in Kraft.
• August 2025: Governance-Regeln für General-Purpose AI (GPAI).
• August 2027: Vollständige Anwendung für Hochrisiko-KI-Systeme.

Strafen bei Nichteinhaltung:

• Bis zu 35 Mio. Euro oder 7% des weltweiten Umsatzes für Verstöße gegen Verbote.
• Bis zu 15 Mio. Euro oder 3% des Umsatzes für andere Verstöße.
• Geringere Strafen für KMUs.

Fazit: Warum der EU-AI-Act wichtig ist

Der EU-AI-Act stellt sicher, dass KI sicher, transparent und im Einklang mit europäischen Werten entwickelt wird. Unternehmen, die die Vorgaben frühzeitig umsetzen, können rechtliche Risiken vermeiden, das Vertrauen der Verbraucher stärken und sich im EU-Markt positionieren. Die Compliance mit dem AI-Act ist nicht nur eine rechtliche Pflicht, sondern auch eine Chance, verantwortungsvolle KI-Innovation voranzutreiben.

Für weitere Informationen besuchen Sie die offizielle EU AI Act Website.

Hinweis: Dieser Artikel wurde mit Hilfe von KI erstellt.

Der Splitblog im Januar – Lebendige Geschichte mit KI

Die teils berechtigte Kritik am Einsatz von KI reißt nicht ab. Die Medien sind voll von Schlagzeilen über Deepfakes und Falschinformationen. Wir wollen aber nicht negativ ins neue Jahr starten, sondern uns eher positiven Themen widmen.

Bereits seit einiger Zeit wird KI, insbesondere KI-Bildgeneratoren, genutzt um historische Personen und Szenen visuell nachzustellen. Das hilft vor allem Forschenden dabei, sich ein besseres Bild von vergangenen Ereignissen zu machen und ihre Forschung zu vertiefen.

KI im Geschichtsunterricht

Aber auch Schülerinnen und Schüler können vom KI-Einsatz im Geschichtsunterricht profitieren. Das menschliche Hirn begreift Bilder nachweislich besser als Worte. Eine Tatsache, die Lehrkräfte regelmäßig vor Herausforderungen stellt. Die meisten von uns erinnern sich sicherlich an langweilige Unterrichtsmonologe, deren Inhalt spätestens mit der Pausenklingel wieder vergessen war. Besonders der Geschichtsunterricht lässt sich jedoch schwerlich greifbar gestalten, denn das Budget und die Zeit für regelmäßige Besuche von Museen oder anderen Schauplätzen sind knapp. KI kann hier zumindest ein Stück weit Abhilfe schaffen. Mit ihrer Hilfe wird es möglich, historische Momente, Personen und Szenen in die Gegenwart zu holen. Statt mündlicher Beschreibungen, beispielsweise von historischen Artefakten, können KI-Bildgeneratoren diese Artefakte realistisch nachstellen und so das Vorstellungsvermögen beflügeln. Historische Szenen lassen sich als Videosequenzen nacherleben. Mit der Serie „Deepfake Diaries“ hat das ZDF mit Hilfe von KI-Technologie Zeitzeugen lebendig werden lassen. Diese Serie zeigt eindrucksvoll, wie durch die Kombination von historischen Aufnahmen und moderner KI-Technologie eine neue Form des Geschichtsunterrichts entstehen kann.

Chancen und Herausforderungen

Natürlich ist auch hier Fingerspitzengefühl und Vorsicht geboten. Datenschutzbelange müssen berücksichtigt werden und KI-generierte Inhalte müssen immer auf ihren Wahrheitsgehalt geprüft werden. Aber hier bietet sich auch die Möglichkeit aus Risiken Chancen zu machen: Können Schülerinnen und Schüler Fakt und Fiktion unterscheiden? Finden sie beispielsweise Fehler in Videos oder Falschaussagen in KI-generierten Zeitzeugenberichten? So würde nicht nur das historische Wissen, sondern gleichzeitig auch die kritische Mediennutzung geschult. Schülerinnen und Schüler könnten lernen, wie man Informationen überprüft und wie man mit digitalen Medien verantwortungsvoll umgeht. Dies ist besonders wichtig in einer Zeit, in der Falschinformationen und Manipulationen allgegenwärtig sind.

KI in anderen Fächern

Aber nicht nur der Geschichtsunterricht kann von KI-Nutzung profitieren. Auch im Kunstunterricht kann KI zum Beispiel Landschaftspanoramen in lebendige Szenen verwandeln. Oder wie wäre es, im Deutschunterricht Autorinnen und Autoren mal „persönlich“ dazu zu befragen, was sie mit ihren Gedichten und Werken ausdrücken wollten? Durch den Einsatz von KI könnten Schülerinnen und Schüler in interaktive Gespräche mit historischen Persönlichkeiten treten und so ein tieferes Verständnis für die Literatur und die Zeitgeschichte entwickeln.

Mehr zum Thema

Eine Anleitung für Schüler und Schülerinnen zum Chatten mit historischen Persönlichkeiten gibt es hier: https://www.kiraffe.de/materials/Lernpfade/historische-persoenlichkeiten.html . Möglich ist das beispielsweise auch mit der App „Hello History – AI Chat“.

Oder zum Anschauen: https://www.zdf.de/dokus/terra-x-history-deepfake-diaries-100

Zum Nachlesen: https://hisgoespub.hypotheses.org/5676 , https://eisenbach-einst-und-jetzt.de/wenn-alte-fotos-lebendig-werden-ki-clips-aus-eisenbachs-geschichte , https://deutsches-schulportal.de/unterricht/zeitzeugen-als-hologramme-wie-digitale-loesungen-naehe-schaffen/