EU AI Act: Was du jetzt wissen musst
von Duncrow GmbH
Liebe Krähenfreunde
Mit dem AI Act (Verordnung (EU) 2024/1689) ist das weltweit erste konkrete Regelwerk für den Einsatz von KI in Kraft getreten. Wer KI-basierte Produkte oder Dienstleistungen anbietet oder nutzt, muss jetzt aufmerksam werden.
Wir haben die EU Vorgaben für euch gesichtet und bringen die wichtigsten Neuerungen für euer Unternehmen kompakt auf den Punkt.
Der Fahrplan
Die gute Nachricht vorweg: Das Gesetz greift in Etappen. Hier sind die wichtigsten Termine:
- Seit Februar 2025: Bestimmte „verbotene KI-Systeme“ dürfen nicht mehr genutzt werden. Zudem gilt ab jetzt: Du musst deine Mitarbeitenden nachweislich im Umgang mit den im Unternehmen eingesetzten KI-Tools schulen!
- Ab August 2026: Es starten weitreichende Transparenzpflichten. Das betrifft dich z. B., wenn du KI-generierte Inhalte auf deiner Website einbindest oder Chatbots nutzt.
- Ab Ende 2027 / Anfang 2028: Die strengen Anforderungen für sogenannte Hochrisiko-KI-Systeme treten in Kraft.
Das Risiko-Prinzip
Der AI Act teilt KI-Anwendungen je nach Gefahrenpotenzial ein - von minimalem bis inakzeptablem Risiko. Je riskanter, desto strenger die Auflagen:
- Hochrisiko-KI: Programme, die Gesundheit, Sicherheit oder Grundrechte gefährden könnten, benötigen für eine Zulassung zwingend eine Folgenabschätzung.
- Absolutes Flugverbot: Alles, was als „inakzeptabel“ gilt, ist verboten. Dazu zählt etwa „Social Scoring“ (die Bewertung von sozialem Verhalten), die Erkennung von Emotionen am Arbeitsplatz oder das ungezielte Durchsuchen des Internets zum Aufbau von Gesichtsdatenbanken. (Ausnahmen gelten hier nur für Behörden, etwa zur Terrorismusabwehr).
Bereit für den KI-Check auf deiner Website?
Wir kümmern uns um die saubere technische Umsetzung in deinem Web-Projekt oder Onlineshop, damit alles den rechtlichen Rahmenbedingungen entspricht.
Generative KI & Chatbots
Setzt du auf deiner Website Chatbots ein oder lässt du Inhalte über Programme wie ChatGPT (sogenannte allgemein einsetzbare KI) erstellen? Dann stehen Transparenzpflichten auf dem Plan:
- Offenlegung für Nutzer: Wer mit einem Chatbot interagiert, muss darüber informiert werden, dass er mit einer Maschine kommuniziert (außer der Kontext macht es völlig offensichtlich).
- Kennzeichnungspflicht: Werden synthetische Texte (zu öffentlichen Interessen), Bilder, Audio oder Videos (Deepfakes) erzeugt, müssen diese offengelegt und in einem maschinenlesbaren Format als künstlich manipuliert gekennzeichnet werden.
- Urheberrecht: Entwickler müssen sicherstellen, dass die Vorgaben des EU-Urheberrechts (etwa beim Training der KI) eingehalten werden, und detaillierte technische Dokus liefern.
KI Guideline der WKO: https://www.wko.at/digitalisierung/ki-guidelines/transparenz-und-kennzeichnungen
Freiwilliger Verhaltenskodex der EU-Kommission: https://digital-strategy.ec.europa.eu/de/policies/code-practice-ai-generated-content
Sanktionen
Wer die neuen KI-Regeln ignoriert, riskiert einen harte Strafe. Die Einhaltung wird streng kontrolliert und die Strafen richten sich nach der Schwere des Verstoßes sowie der Unternehmensgröße:
- Die Bußgelder starten bei 7,5 Mio. Euro oder 1,5 % des weltweiten Jahresumsatzes.
- Bei schweren Verstößen können sie auf bis zu 35 Mio. Euro oder 7 % des weltweiten Jahresumsatzes klettern.
KI-Checkliste: Was jetzt im Nest zu tun ist
Für die meisten Unternehmen, die KI nicht selbst entwickeln, sondern im Alltag nutzen, sind das die aktuell drängendsten To-Dos:
Team schulen: Unterweise deine betroffenen Mitarbeitenden im sicheren Umgang mit den eingesetzten KI-Tools und dokumentiere diese Schulungen.
Guidelines festlegen: Führe allgemeine, klare Regeln für die Nutzung von KI in deinem Unternehmen ein.
Transparenz prüfen: Checke deine Website und Systeme - nutzt du Chatbots oder KI-generierte Inhalte (Texte, Bilder, Videos), die gekennzeichnet werden müssen?
Partner einbinden: Stelle sicher, dass auch deine Vertragspartner und Lieferanten kompetent mit KI-Systemen umgehen.
Sicherer Flug durch den KI-Dschungel!
Du bist dir unsicher, wie du die neuen Transparenzpflichten auf deiner Website oder in deinem Onlineshop am besten technisch umsetzt? Kein Problem. Wir nehmen dein Projekt unter die Fittiche und machen es zukunftssicher.