Was bedeutet das neue KI-Gesetz in der Praxis?
Am 1. August 2024 ist in der Europäischen Union das erste KI-Gesetz weltweit in Kraft getreten. Es soll den Einsatz von Künstlicher Intelligenz (KI) regeln. Die EU-Mitgliedsstaaten haben nun ein Jahr lang Zeit, um nationale Behörden zu benennen, die dann nach einer Übergangsfrist bis August 2026 überwachen, ob die Vorschriften eingehalten werden.
Doch was bedeutet das neue KI-Gesetz in der Praxis? Was müssen diejenigen, die KI entwickeln und einsetzen, in Zukunft anders machen? Welche Auswirkungen hat das 144 Seiten lange Gesetz auf uns Nutzer? Und warum gibt es Bereiche, die stärker betroffen sind als andere?
Inhalt
Einige Anwendungen werden sofort verboten
Vereinfacht auf den Punkt gebracht, ergibt sich aus dem neuen Gesetz, dass ein KI-Entwickler in Zukunft umso mehr beachten muss, je riskanter ein KI-System ist. Denn der sogenannte „AI Act“ teilt die verschiedenen Anwendungen und Systeme rund um die KI in vier Risikogruppen ein.
Systeme mit einem „unannehmbaren Risiko“ werden mit sofortiger Wirkung verboten. Hier greift also auch die Übergangsfrist bis 2026 nicht. In die höchste Risikogruppe werden solche Anwendungen eingeordnet, die die Grundrechte von Menschen eindeutig bedrohen.
Das betrifft zum Beispiel Systeme, die Regierungen soziale Bewertungen möglich machen, Emotionen am Arbeitsplatz analysieren oder Gesichtserkennungen an öffentlichen Orten durchführen.
In China werden solche Systeme aktiv eingesetzt. Bei uns hingegen wurden sie auch vor dem offiziellen Verbot nur, wenn überhaupt, im Kleinen getestet.
Für riskante KI gelten strenge Auflagen
Die zweite Kategorie im KI-Gesetz betrifft Anwendungen mit einem „hohen Risiko“. Dazu gehören KI-Systeme, die in Bereichen wie der Justiz, der kritischen Infrastruktur oder im Gesundheitswesen eingesetzt werden.
Systeme, die den Kreditscore ermitteln, und Bewerbungssoftware, die automatisch Vorentscheidungen für Personaler trifft, gelten ebenfalls als hochriskant:
Denn wenn den Künstlichen Intelligenzen in diesen Bereichen grobe Fehler unterlaufen, können schnell Existenzen gefährdet sein oder sogar Leben auf dem Spiel stehen. KI-Entwickler müssen deshalb bei diesen Anwendungen künftig bestimmte Vorgaben einhalten.
So muss zum einen sichergestellt sein, dass die Lern- und Übungsdaten, aus denen die KI trainiert ist, so beschaffen sind, dass die Anwendung ihre Aufgabe auch wirklich ordentlich erledigen kann.
Bei einer Bewerbungssoftware zum Beispiel soll diese Vorgabe verhindern, dass die KI bestimmte Bewerbergruppen nur deshalb benachteiligt, weil diese in den Trainingsdaten kaum vertreten waren.
Zum anderen muss das System, vergleichbar mit einer Black Box im Flugzeug, präzise aufzeichnen, was zu welchem Zeitpunkt geschieht. Auf diese Weise soll eine maximale Transparenz entstehen.
Dazu kommt, dass die Funktionsweise des KI-Systems wie in einem klassischen Benutzerhandbuch dokumentiert sein muss. Das soll dem Betreiber einer KI-Software ermöglichen, Fehler im System eigenständig zu erkennen und zu korrigieren.
Das Problem an dieser Stelle ist nur, dass die Hersteller von KI-Systemen oft selbst nicht genau erklären können, warum ihre Modelle in der Form reagieren, wie sie es tun.
Allerdings müssen die Vorschriften aus dem KI-Gesetz sowieso nur dann eingehalten werden, wenn ein System mit hohem Risiko tatsächlich auf den Markt kommt oder in Betrieb genommen wird.
Bei der Forschung und Entwicklung wird es auch künftig keine Beschränkungen geben. Das gilt für staatliche, offizielle und private Projekte gleichermaßen.
Manche Bereiche sind gar nicht betroffen
Die Europäische Kommission geht davon aus, dass sich die meisten KI-Anwendungen auf einer geringen Risikostufe bewegen. So zum Beispiel Chatbots wie ChatGPT. Hier müssen Programmierer in Zukunft vor allem darauf achten, dass dem Endnutzer gegenüber mehr Transparenz entsteht.
Nach dem Willen der EU müssen KI-Systeme wie Chatbots für die Nutzer klar erkenntlich machen, dass diese gerade mit einer Maschine interagieren.
Außerdem müssen künftig bestimmte künstlich erzeugte Inhalte wie zum Beispiel Deep Fakes eindeutig und unmissverständlich als solche gekennzeichnet sein. Gleiches gilt für KI-generierte Audiodateien, Videos, Texte und Bilder. Allerdings ist bislang noch nicht festgelegt, wie diese Kennzeichnung zu erfolgen hat.
Eine sehr breite Spielwiese ohne wirkliche Einschränkungen wiederum haben KI-Entwickler, die sich mit Anwendungen mit einem „minimalen Risiko“ beschäftigen.
Zu diesen Anwendungen gehören zum Beispiel lernfähige Spamfilter in E-Mail-Programmen oder automatisch erzeugte Reaktionen von Charakteren, die in Videospielen gegeneinander antreten.
Für Hersteller solcher Systeme bringt das neue KI-Gesetz keine neuen oder zusätzlichen Verpflichtungen mit sich. Allerdings steht es den Unternehmen natürlich frei, auf freiwilliger Basis einen internen Verhaltenskodex zu etablieren.
Das neue KI-Gesetz könnte die Wettbewerbsfähigkeit erhöhen
Letztlich werden weder Entwickler noch Nutzer eine große Veränderung durch das KI-Gesetz bemerken. Es scheint ziemlich unwahrscheinlich, dass Tech-Unternehmen durch eine stärkere Regulierung im internationalen Wettbewerb den Anschluss verlieren, wie es teilweise befürchtet wurde.
Ganz im Gegenteil könnte sich das Gesetz für die europäische KI sogar als Vorteil herausstellen, denn es zeichnet sie mit einer Art Gütesiegel für Sicherheit und Transparenz aus.
Insgesamt ist der AI Act der Versuch, einen Rahmen mit vernünftigen Regeln für KI zu schaffen. Und die Mehrheit der Experten ist der Ansicht, dass das auch durchaus gelungen ist.
Mehr Tipps, Ratgeber und Anleitungen:
- Vorsicht vor Clickbait-PDFs!
- Information-Superspreader in den sozialen Medien
- 6 Mythen über Datenkraken im Netz
- Was unterscheidet Managed und Unmanaged Server voneinander?
- Die 5 größten Gefahren für externe Festplatten
- Eine E-Mail an mehrere Empfänger verschicken – so geht’s richtig
- Grundlegendes Wissen zu verteilten Datenstrukturen, 2. Teil
- Grundlegendes Wissen zu verteilten Datenstrukturen, 1. Teil
Thema: Was bedeutet das neue KI-Gesetz in der Praxis?
Übersicht:
Fachartikel
Verzeichnis
Über uns
- Woran erkenne ich einen Fake-Shop? - 8. Oktober 2024
- Was bedeutet das neue KI-Gesetz in der Praxis? - 10. September 2024
- Vorsicht vor Clickbait-PDFs! - 8. August 2024