KI-Verordnung
von Duncrow GmbH
Liebe Krähenfreunde
Der EU KI-Act wurde dieses Jahr verabschiedet. Was dies für euch bedeutet, was dieser beinhaltet und vieles mehr haben unsere Krähen für euch in unserem neuen Beitrag zusammengefasst.
Was ist die KI-Verordnung und wo gilt sie?
Die KI-VO regelt umfassend die Entwicklung, den Einsatz und Vertrieb von Künstlicher Intelligenz. So sollten vertrauenswürdige KI-Systeme gefördert und gleichzeitig ein sicheres und innovationsfreundliche Umfeld geschaffen werden. Dabei gilt um so höher das Risiko bei dem KI-System umso strenger werden die Vorschriften.
Die Verordnung gilt nicht nur für KIs welche in der EU entwickelt, vermarktet und eingesetzt werden, sondern auch wenn sich der KI-Output in der EU auswirkt.
Der Geltungsbereich innerhalb der EU gilt wie folgt: Sie gilt für Anbieter, Importeure oder Händler von KI-Systemen, die in der EU in Verkehr gebracht werden, sowie Betreiber von KI-Systemen, die ihren Sitz in der EU haben.
Der Geltungsbereich für Drittländer: Auch Anbieter, Betreiber und Produkthersteller mit Sitz in Drittländern sind betroffen, wenn die KI-Ausgabe in der EU verwendet wird.
Warum KI-Regulierung/Welche Gefahren?
Nun stellt sich die Frage „Warum sollten KIs reguliert werden?“. Die Entwicklung und der Einsatz von Künstlicher Intelligenz kann Risiken für Menschen mitbringen. Zu einigen der Risiken gehört folgendes:
- Diskriminierung und Bias - bestehende Vorurteile und Diskriminierungen können verstärkt werden. Dies kann z.B. durch das Trainieren der KI mit voreingenommen Daten passieren.
- Datenschutzverletzungen - KI-Technologien können große Mengen an personenbezogenen Daten sammeln und analysieren. Daher besteht ein höheres Risko für Datenschutzverletzungen.
- Sicherheitsrisiken - KI-Systeme können Ziele von Cyberangriffen werden. Dies kann zu schwerwiegenden Folgen bei Datensicherheit und Infrastrukturen führen.
- Verlust menschlicher Autonomie - Die Abhängigkeit von KI könnten die Entscheidungsfreiheit und Autonomie des Menschen einschränken.
- Mangel an Transparenz - Es ist oftmals schwierig nachzuvollziehen wie eine KI Entscheidungen trifft.
- Fehlfunktionen und Fehler - Da KI-Systeme nicht unfehlbar sind können Fehlentscheidungen getroffen werden. Diese können gravierende Folgen mit sich ziehen.
- Ethik und Moral - Der Einsatz von KI kann zahlreiche ethische und moralische Fragen auf, vor allem bei der Entscheidungsfindung in kritischen Bereichen wie Medizin und Justiz.
Dies sind einige der Risiken, welche die Verwendung und Entwicklung von Künstlicher Intelligenz mit sich bringen kann. Die KI-VO ist daher laut EU notwendig, um einen verantwortungsvollen und sicheren Umgang mit KIs zu gewährleisten.
Die Risikokategorien
Die KIs werden in Risikokategorien unterteilt, wo für jede Kategorie gewissen Regulierungen gelten.
Unannehmbares Risiko – Verbotene KI-Praktiken
Das höchste Risko laut Verordnung machen die unannehmbaren Risiken, diese Praktiken werden vollständig Verboten. Hier gehören z.B. KI-Anwendungen, die Menschen manipulieren oder kriminelles Verhalten aufgrund persönlicher Merkmale vorhersagen.
Hohes Risiko – Hochrisiko-KI-Systeme
Die KI-Systeme welches ein hohes Risiko darstellen, sind nicht Verboten aber unterliegen strengen Vorschriften. Hier gibt es hohe Anforderungen in den Bereichen Datenqualität, Dokumentation und Transparenz sowie regelmäßige Prüfungen und Überwachung. Hohes Risiko besteht z.B. bei KI-System im Gesundheitswesen für Diagnosezwecke oder bei Beurteilungen von Bewerben und Beschäftigten.
KI-Systeme mit begrenztem Risiko
Bei Systemen mit begrenztem Risiko müssen spezifische Transparenzanforderungen erfüllt werden. Hier geht es vor allem darum, dass Benutzer darüber informiert werden, dass sie gerade mit einer KI interagieren und das die Benutzer in der Lage sind deren Entscheidungen nachzuvollziehen. Dies wäre der Fall bei Chatbots bei Kundensupport oder Deepfakes.
KI-Systeme mit minimalem Risiko
Bei den KI-Anwendungen welche ein minimales Risiko darstellen bis auf die Pflicht zur KI-Kompetenz keine weiteren Regulierungen. Hier gehören KI-Anwendungen zur Spamerkennung oder deren Einsatz in Videospielen.
KI-Modelle mit allgemeinem Verwendungszweck
Diese Modelle, die für eine Vielzahl von Anwendungen genutzt werden und je nach Anwendung in alle der vorgenannten Kategorien fallen können, unterliegen spezifischen Anforderungen, um sicherzustellen, dass sie sicher und zuverlässig sind. Dies umfasst Maßnahmen zur Sicherstellung der Robustheit, Genauigkeit und Fairness der Modelle sowie klare Vorgaben zur Transparenz und Nachvollziehbarkeit der Entscheidungen. Beispiele sind generative Sprachmodelle wie GPT4.0 oder Claude3.5.
Wieso du KI-Richtlinien in deinem Unternehmen einführen solltest?
Um hohe Bußgelder, Schadensersatzzahlungen und persönliche Haftung für Inhaber, Geschäftsführer, leitende Angestellte und Arbeitgeber zu vermeiden werden KI-Richtlinien empfohlen. Mit diesen KI-Richtlinien werden Mitarbeiter nachweislich über die Grundlagen der KI-Verordnung sowie die damit verbundenen Risiken und Pflichten aufgeklärt und auf deren Einhaltung verpflichtet. Die Richtlinien werden dir nicht nur helfen Rechtsverstöße durch Mitarbeiter zu vermeiden, es wird auch die persönliche Haftung vermieden.
Pflicht zur KI-Kompetenz
Die KI-Verordnung verpflichtet Betreiber von KI-Systemen, sicherzustellen, dass ihr Personal über ein ausreichendes Maß an KI-Kompetenz verfügt. Ihre Mitarbeitenden müssen neben dem technischen Sachverstand wissen, welche Arten der KI-Nutzung verboten sind, welche als Hochrisikosysteme gelten, welche Transparenzpflichten bestehen und welche Risiken, insbesondere für den Datenschutz, beim KI-Einsatz bestehen.
Persönliche Haftung
Inhaber, Geschäftsführer oder generell Arbeitgeber sind verpflichtet, dafür zu sorgen, dass ihre Mitarbeiter über die nötige KI-Kompetenz verfügen (sog. "Compliance"). Treffen sie nicht die nötigen Vorsorgemaßnahmen und kommt es zu Verstößen gegen die KI-Verordnung oder Datenschutzgesetze beim KI-Einsatz, können sie persönlich für die entstandenen Bußgelder, Schadensersatzzahlungen und Kosten in Anspruch genommen werden.
Begriffserklärungen
KI-System
Dies ist nicht das abstrakte Konzept der KI sondern deren konkrete Anwendung. Wäre z.B. ChatGPT, Microsoft Copilot
KI-Modell
Hierbei ist der Algorithmus gemeint, welche durch Training die Denkgrundlage einer KI ist. Wäre z.B. GPT-4 oder Dall-E
Künstliche Intelligenz
Die komplette KI-Verordnung stützt sich auf die Definition der KI durch die OECD und versteht KI als ein „maschinengestütztes System, das für einen in wechselndem Maße autonomen Betrieb ausgelegt ist, das nach seiner Einführung anpassungsfähig sein kann und das aus den erhaltenen Eingaben Ergebnisse wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen hervorbringt, die physische oder virtuelle Umgebungen beeinflussen können.“
Sich informieren lohnt sich!
Damit das Einsetzen von KI-Anwendungen laut KI-VO konform ist, hat das Gremium aller deutschen Datenschutzbehörden eine Orientierungshilfe „Künstliche Intelligenz und Datenschutz – Version 1.0“ erstellt. In dieser findest du folgende Checklisten, welche dir bei der Verordnung helfen sollten. Zusätzlich haben wir dir noch weitere Links mit noch genaueren Informationen.
Zu den Checklisten Mehr Orientierungshilfe Mehr Informationen zur Verordnung